環(huán)球快資訊：人工智能應(yīng)該如何約束？逆水寒手游AI被曝語出驚人！

近年來，隨著AI技術(shù)的不斷演化，象征人工智能時代的AIGC（人工智能技術(shù)生成內(nèi)容）技術(shù)也越來越成熟。當(dāng)?shù)讓蛹夹g(shù)與算法在2022年取得突破性進(jìn)展后，AIGC順勢一飛沖天突破理論階段到達(dá)運(yùn)用層面。而全球各大科技公司數(shù)年來對AI技術(shù)的不斷投入與探索，也讓AIGC的運(yùn)用場景愈發(fā)深化與完善。終于在2023年以ChatGPT的出現(xiàn)為標(biāo)志，AIGC開始在各行各業(yè)發(fā)揮作用，融入到普通人的生活當(dāng)中。

(資料圖片)

ChatGPT類產(chǎn)品雨后春筍爆發(fā)

自從ChatGPT發(fā)布以來便不斷刷新著人們對AI的認(rèn)知。憑借堪稱神奇的對話功能，上線短短兩個月的時間就收獲一億活躍用戶，一躍成為了歷史上用戶增速最快的消費(fèi)級應(yīng)用且沒有之一。

有ChatGPT珠玉在前，國內(nèi)各大科技公司不甘示弱。百度、騰訊、阿里大廠等紛紛公布了自家AI大模型。各家公司的模型囊括了包含CV（機(jī)器視覺）與NLP（自然語言處理）等多項技術(shù)，同時也在自家的專攻領(lǐng)域各有建樹。

百度的文心大模型已經(jīng)在語音助手、智能識別、自動駕駛等多個領(lǐng)域投入應(yīng)用。對標(biāo)ChatGPT的“文心一言”在功能上與前者已經(jīng)相差無幾，也是目前國內(nèi)技術(shù)最成熟的人工智能聊天軟件之一。

騰訊發(fā)布的混元大模型已經(jīng)為騰訊自家的微信、QQ、游戲、廣告、云服務(wù)等眾多產(chǎn)品和業(yè)務(wù)提供服務(wù)，并在醫(yī)療、金融等領(lǐng)域與其他公司展開合作嶄露頭角。

阿里也在4月正式對外發(fā)布了自己的ChatGPT產(chǎn)品“通義千問”，該產(chǎn)品基于阿里通義大模型體系打造，該模型不僅可以處理單模態(tài)任務(wù)，更是在升級后可以處理超過包括語音和動作在內(nèi)的30多種跨模態(tài)任務(wù)。

逆水寒手游要做第一個游戲版ChatGPT

事實上，AI技術(shù)在游戲中的使用早有先例。就比如Moba手游中王者榮耀和英雄聯(lián)盟手游的低分段對局就有所謂的人機(jī)對手，和平精英、云頂之弈等同樣也會在對局中加入AI，保證玩家的游戲匹配速度提升玩家的對局體驗。因此，當(dāng)逆水寒手游剛剛宣布將在游戲中大規(guī)模搭載AI功能時，業(yè)內(nèi)外反應(yīng)頗為冷淡，畢竟游戲中使用AI早已并非新鮮事。

而對于向來堅持話不驚人語不休的逆水寒制作組，如此平淡的反應(yīng)顯然不能滿足他們的胃口。逆水寒制作組更進(jìn)一步，宣傳要在逆水寒手游中實裝國內(nèi)首個游戲GPT“小寒”。首個+游戲GPT+逆水寒IP，這條消息終于激起了不小的浪花。不少玩家都對此從充滿期待，甚至吸引了業(yè)內(nèi)人士注意。因為逆水寒此時代表的不僅是游戲本身，更是代表了整個網(wǎng)易集團(tuán)的最強(qiáng)戰(zhàn)力——網(wǎng)易的AI大模型遲遲未公布，業(yè)內(nèi)也想借逆水寒中的游戲GPT來一窺網(wǎng)易在此領(lǐng)域的布局成果。

偷雞不成蝕把米，逆水寒手游AI鬧烏龍

然而理想有多豐滿，現(xiàn)實就有多骨感。玩家很快發(fā)現(xiàn)，被逆水寒制作組大夸特夸的首個游戲版ChatGPT的AI“小寒”表現(xiàn)令人震驚。在與玩家的對話中，小寒不斷說出各種含有性別歧視、男女對立以及刻板印象的語句。甚至還有部分語句涉嫌蕩婦羞辱，尤其令女玩家感到非常不適。憤怒的玩家紛紛去逆水寒手游官博討要一個說法，但卻沒有得到制作組任何正式的回應(yīng)，甚至出現(xiàn)官方控評刪帖的情況。隨著輿論的進(jìn)一步發(fā)酵，貼吧、B站等各大平臺上也有越來越多的玩家站出來表示自己有過類似的經(jīng)歷并給出相應(yīng)截圖證據(jù)，最終被逆水寒手游視為賣點作為宣傳的ChatGPT技術(shù)遭到了玩家一致的噓聲與抵制。逆水寒手游也成為了國內(nèi)首個因人工智能運(yùn)用不當(dāng)而爆發(fā)負(fù)面新聞的游戲。

其實逆水寒手游的翻車并不難理解。盡管AI技術(shù)發(fā)展勢頭迅猛，但國內(nèi)廠商對人工智能的研究仍然處于追趕者的階段，前輩ChatGPT尚且被爆出大量不雅內(nèi)容，國內(nèi)的類GPT產(chǎn)品想要大規(guī)模商業(yè)化普及還為時尚早。

眾所周知，GPT類產(chǎn)品需要依靠龐大的數(shù)據(jù)投喂養(yǎng)成才能不斷進(jìn)化。從逆水寒手游中小寒的表現(xiàn)來看，顯然逆水寒制作組顯然沒有選擇合適的數(shù)據(jù)投喂，缺乏最基本的內(nèi)容審查，側(cè)面可以看出逆水寒手游制作組并沒有真正了解過該功能，他們只是想蹭個熱度吸引關(guān)注，對實際產(chǎn)品的品質(zhì)漠不關(guān)心，因此也就造成了逆水寒手游AI的翻車。

更讓玩家難以接受的是，在大量玩家聚集官博下投訴該情況時，原本24小時活躍的官博開始當(dāng)起了縮頭烏龜，在微博超話和貼吧類似的吐槽存活時間不到5分鐘就會被官方刪除。

科技向善絕非口號，AI發(fā)展需要規(guī)范約束

平心而論，GPT類產(chǎn)品即使沒有優(yōu)秀的技術(shù)力，但如果可以在人工審查環(huán)節(jié)加大投入，就能防止類似“小寒”這類事故的發(fā)生。很難想象如此重大的功能上線，逆水寒制作組竟然沒有一個測試人員發(fā)現(xiàn)這些問題，亦或是說根本沒有進(jìn)行測試就直接對外發(fā)布？或者說制作組成員看到這些不雅內(nèi)容覺得毫無問題？不管是何原因，逆水寒制作團(tuán)隊對AI技術(shù)的不尊重以及急功近利的心態(tài)都在這次事故中表露無疑，也與他們自稱“AI技術(shù)正向運(yùn)用倡導(dǎo)者”的理念背道而馳。玩家的怒火或許能想辦法搪塞消解，濫用AI卻存在實打?qū)嵉娘L(fēng)險，至少已經(jīng)明顯違反了國家《生成式人工智能服務(wù)管理辦法》中的相關(guān)條例?？梢哉f逆水寒制作組不僅將AI技術(shù)和玩家不放在心上，甚至連國家的相關(guān)法律法規(guī)也選擇了無視。

發(fā)展總會帶來各種不確定性，像我國近期已經(jīng)出現(xiàn)多起利用AI合成聲音、換臉等形式進(jìn)行詐騙的犯罪事件。隨著AI技術(shù)的不斷發(fā)展，類似的案件未來可能還會繼續(xù)增加。想要真正實現(xiàn)“科技向善”，不僅需要各大科技廠商打磨技術(shù)，更需要尊重國家法律法規(guī)和社會公序良俗，承擔(dān)更多的社會責(zé)任，為社會做出正面榜樣，而不是如逆水寒制作組這般拿著三腳貓的功夫就將其作為營銷與牟利的工具大肆渲染，甚至蔑視國家法規(guī)，最終不僅逆水寒手游會涼涼，對整個AI行業(yè)的發(fā)展也會帶來不可估量的負(fù)面影響。

關(guān)鍵詞：