環(huán)球快資訊：人工智能應(yīng)該如何約束？逆水寒手游AI被曝語(yǔ)出驚人！

近年來(lái)，隨著AI技術(shù)的不斷演化，象征人工智能時(shí)代的AIGC（人工智能技術(shù)生成內(nèi)容）技術(shù)也越來(lái)越成熟。當(dāng)?shù)讓蛹夹g(shù)與算法在2022年取得突破性進(jìn)展后，AIGC順勢(shì)一飛沖天突破理論階段到達(dá)運(yùn)用層面。而全球各大科技公司數(shù)年來(lái)對(duì)AI技術(shù)的不斷投入與探索，也讓AIGC的運(yùn)用場(chǎng)景愈發(fā)深化與完善。終于在2023年以ChatGPT的出現(xiàn)為標(biāo)志，AIGC開(kāi)始在各行各業(yè)發(fā)揮作用，融入到普通人的生活當(dāng)中。

(資料圖片)

ChatGPT類(lèi)產(chǎn)品雨后春筍爆發(fā)

自從ChatGPT發(fā)布以來(lái)便不斷刷新著人們對(duì)AI的認(rèn)知。憑借堪稱(chēng)神奇的對(duì)話功能，上線短短兩個(gè)月的時(shí)間就收獲一億活躍用戶，一躍成為了歷史上用戶增速最快的消費(fèi)級(jí)應(yīng)用且沒(méi)有之一。

有ChatGPT珠玉在前，國(guó)內(nèi)各大科技公司不甘示弱。百度、騰訊、阿里大廠等紛紛公布了自家AI大模型。各家公司的模型囊括了包含CV（機(jī)器視覺(jué)）與NLP（自然語(yǔ)言處理）等多項(xiàng)技術(shù)，同時(shí)也在自家的專(zhuān)攻領(lǐng)域各有建樹(shù)。

百度的文心大模型已經(jīng)在語(yǔ)音助手、智能識(shí)別、自動(dòng)駕駛等多個(gè)領(lǐng)域投入應(yīng)用。對(duì)標(biāo)ChatGPT的“文心一言”在功能上與前者已經(jīng)相差無(wú)幾，也是目前國(guó)內(nèi)技術(shù)最成熟的人工智能聊天軟件之一。

騰訊發(fā)布的混元大模型已經(jīng)為騰訊自家的微信、QQ、游戲、廣告、云服務(wù)等眾多產(chǎn)品和業(yè)務(wù)提供服務(wù)，并在醫(yī)療、金融等領(lǐng)域與其他公司展開(kāi)合作嶄露頭角。

阿里也在4月正式對(duì)外發(fā)布了自己的ChatGPT產(chǎn)品“通義千問(wèn)”，該產(chǎn)品基于阿里通義大模型體系打造，該模型不僅可以處理單模態(tài)任務(wù)，更是在升級(jí)后可以處理超過(guò)包括語(yǔ)音和動(dòng)作在內(nèi)的30多種跨模態(tài)任務(wù)。

逆水寒手游要做第一個(gè)游戲版ChatGPT

事實(shí)上，AI技術(shù)在游戲中的使用早有先例。就比如Moba手游中王者榮耀和英雄聯(lián)盟手游的低分段對(duì)局就有所謂的人機(jī)對(duì)手，和平精英、云頂之弈等同樣也會(huì)在對(duì)局中加入AI，保證玩家的游戲匹配速度提升玩家的對(duì)局體驗(yàn)。因此，當(dāng)逆水寒手游剛剛宣布將在游戲中大規(guī)模搭載AI功能時(shí)，業(yè)內(nèi)外反應(yīng)頗為冷淡，畢竟游戲中使用AI早已并非新鮮事。

而對(duì)于向來(lái)堅(jiān)持話不驚人語(yǔ)不休的逆水寒制作組，如此平淡的反應(yīng)顯然不能滿足他們的胃口。逆水寒制作組更進(jìn)一步，宣傳要在逆水寒手游中實(shí)裝國(guó)內(nèi)首個(gè)游戲GPT“小寒”。首個(gè)+游戲GPT+逆水寒IP，這條消息終于激起了不小的浪花。不少玩家都對(duì)此從充滿期待，甚至吸引了業(yè)內(nèi)人士注意。因?yàn)槟嫠藭r(shí)代表的不僅是游戲本身，更是代表了整個(gè)網(wǎng)易集團(tuán)的最強(qiáng)戰(zhàn)力——網(wǎng)易的AI大模型遲遲未公布，業(yè)內(nèi)也想借逆水寒中的游戲GPT來(lái)一窺網(wǎng)易在此領(lǐng)域的布局成果。

偷雞不成蝕把米，逆水寒手游AI鬧烏龍

然而理想有多豐滿，現(xiàn)實(shí)就有多骨感。玩家很快發(fā)現(xiàn)，被逆水寒制作組大夸特夸的首個(gè)游戲版ChatGPT的AI“小寒”表現(xiàn)令人震驚。在與玩家的對(duì)話中，小寒不斷說(shuō)出各種含有性別歧視、男女對(duì)立以及刻板印象的語(yǔ)句。甚至還有部分語(yǔ)句涉嫌蕩婦羞辱，尤其令女玩家感到非常不適。憤怒的玩家紛紛去逆水寒手游官博討要一個(gè)說(shuō)法，但卻沒(méi)有得到制作組任何正式的回應(yīng)，甚至出現(xiàn)官方控評(píng)刪帖的情況。隨著輿論的進(jìn)一步發(fā)酵，貼吧、B站等各大平臺(tái)上也有越來(lái)越多的玩家站出來(lái)表示自己有過(guò)類(lèi)似的經(jīng)歷并給出相應(yīng)截圖證據(jù)，最終被逆水寒手游視為賣(mài)點(diǎn)作為宣傳的ChatGPT技術(shù)遭到了玩家一致的噓聲與抵制。逆水寒手游也成為了國(guó)內(nèi)首個(gè)因人工智能運(yùn)用不當(dāng)而爆發(fā)負(fù)面新聞的游戲。

其實(shí)逆水寒手游的翻車(chē)并不難理解。盡管AI技術(shù)發(fā)展勢(shì)頭迅猛，但國(guó)內(nèi)廠商對(duì)人工智能的研究仍然處于追趕者的階段，前輩ChatGPT尚且被爆出大量不雅內(nèi)容，國(guó)內(nèi)的類(lèi)GPT產(chǎn)品想要大規(guī)模商業(yè)化普及還為時(shí)尚早。

眾所周知，GPT類(lèi)產(chǎn)品需要依靠龐大的數(shù)據(jù)投喂養(yǎng)成才能不斷進(jìn)化。從逆水寒手游中小寒的表現(xiàn)來(lái)看，顯然逆水寒制作組顯然沒(méi)有選擇合適的數(shù)據(jù)投喂，缺乏最基本的內(nèi)容審查，側(cè)面可以看出逆水寒手游制作組并沒(méi)有真正了解過(guò)該功能，他們只是想蹭個(gè)熱度吸引關(guān)注，對(duì)實(shí)際產(chǎn)品的品質(zhì)漠不關(guān)心，因此也就造成了逆水寒手游AI的翻車(chē)。

更讓玩家難以接受的是，在大量玩家聚集官博下投訴該情況時(shí)，原本24小時(shí)活躍的官博開(kāi)始當(dāng)起了縮頭烏龜，在微博超話和貼吧類(lèi)似的吐槽存活時(shí)間不到5分鐘就會(huì)被官方刪除。

科技向善絕非口號(hào)，AI發(fā)展需要規(guī)范約束

平心而論，GPT類(lèi)產(chǎn)品即使沒(méi)有優(yōu)秀的技術(shù)力，但如果可以在人工審查環(huán)節(jié)加大投入，就能防止類(lèi)似“小寒”這類(lèi)事故的發(fā)生。很難想象如此重大的功能上線，逆水寒制作組竟然沒(méi)有一個(gè)測(cè)試人員發(fā)現(xiàn)這些問(wèn)題，亦或是說(shuō)根本沒(méi)有進(jìn)行測(cè)試就直接對(duì)外發(fā)布？或者說(shuō)制作組成員看到這些不雅內(nèi)容覺(jué)得毫無(wú)問(wèn)題？不管是何原因，逆水寒制作團(tuán)隊(duì)對(duì)AI技術(shù)的不尊重以及急功近利的心態(tài)都在這次事故中表露無(wú)疑，也與他們自稱(chēng)“AI技術(shù)正向運(yùn)用倡導(dǎo)者”的理念背道而馳。玩家的怒火或許能想辦法搪塞消解，濫用AI卻存在實(shí)打?qū)嵉娘L(fēng)險(xiǎn)，至少已經(jīng)明顯違反了國(guó)家《生成式人工智能服務(wù)管理辦法》中的相關(guān)條例?？梢哉f(shuō)逆水寒制作組不僅將AI技術(shù)和玩家不放在心上，甚至連國(guó)家的相關(guān)法律法規(guī)也選擇了無(wú)視。

發(fā)展總會(huì)帶來(lái)各種不確定性，像我國(guó)近期已經(jīng)出現(xiàn)多起利用AI合成聲音、換臉等形式進(jìn)行詐騙的犯罪事件。隨著AI技術(shù)的不斷發(fā)展，類(lèi)似的案件未來(lái)可能還會(huì)繼續(xù)增加。想要真正實(shí)現(xiàn)“科技向善”，不僅需要各大科技廠商打磨技術(shù)，更需要尊重國(guó)家法律法規(guī)和社會(huì)公序良俗，承擔(dān)更多的社會(huì)責(zé)任，為社會(huì)做出正面榜樣，而不是如逆水寒制作組這般拿著三腳貓的功夫就將其作為營(yíng)銷(xiāo)與牟利的工具大肆渲染，甚至蔑視國(guó)家法規(guī)，最終不僅逆水寒手游會(huì)涼涼，對(duì)整個(gè)AI行業(yè)的發(fā)展也會(huì)帶來(lái)不可估量的負(fù)面影響。

關(guān)鍵詞：