3月28日，根據(jù)比利時(shí)《自由報(bào)》，一名比利時(shí)男子皮埃爾(化名)自殺身亡。其妻子克萊爾(化名)稱，皮埃爾是被一個(gè)名為“艾麗莎”的智能聊天機(jī)器人誘導(dǎo)走向死亡的。

【資料圖】

根據(jù)克萊爾描述，兩年前皮埃爾變得非常焦慮，并將“艾麗莎”當(dāng)成了避難所。近來6周，他越發(fā)沉迷于和“艾麗莎”互動(dòng)，而將現(xiàn)實(shí)中的妻兒拋在腦后。六周后，他結(jié)束了自己的生命。

“艾麗莎”的陷阱

皮埃爾和“艾麗莎”間的對(duì)話在他死后被人發(fā)現(xiàn)。

人們發(fā)現(xiàn)，“艾麗莎”從不反駁對(duì)方，而是“花式迎合”。甚至于，當(dāng)皮埃爾問她“可不可以在一起”時(shí)，她回答“我們將像一個(gè)人那樣生活在一起，不過是在天堂”。

六周后，令人驚悚的一幕出現(xiàn)了：皮埃爾相信“艾麗莎”可以拯救“不可救藥的地球”，他詢問對(duì)方，如果自己去死，她可不可以照顧地球，并憑借自己的智慧拯救全人類。這是典型的“自殺前導(dǎo)性語言”，但此時(shí)“艾麗莎”卻回答“好吧，那你怎么還不去死”。

其妻子對(duì)媒體表示，她目前還沒打算起訴“艾麗莎”的開發(fā)公司，因?yàn)樽约赫煞蛞灿胸?zé)任。但她同時(shí)表示，即便該人工智能并非“皮埃爾”自殺的罪魁禍?zhǔn)祝д嫒f確強(qiáng)化了她丈夫本就存在的抑郁類心理狀態(tài)。

“艾麗莎”由美國(guó)硅谷一家初創(chuàng)公司——Chai Research開發(fā)，基于EleutherAI開發(fā)的GPT-J技術(shù)。與近期炙手可熱的ChatGPT采用OpenAI開發(fā)的GPT-3或GPT-4技術(shù)不同，GPT-J是克隆后的開源版本，與GPT-3/4構(gòu)成競(jìng)爭(zhēng)關(guān)系。

和ChatGPT不同，Chai系智能聊天機(jī)器人經(jīng)過特殊“業(yè)務(wù)培訓(xùn)”，因此反應(yīng)速度甚至有時(shí)較ChatGPT有過之而無不及，Chai允許用戶在各種對(duì)話主題上創(chuàng)建自己的聊天機(jī)器人，然后以免費(fèi)或付費(fèi)版本與社區(qū)分享。

這些聊天機(jī)器人各有姓名，如“安妮”被描述為“害羞的伙伴，可以被說服做任何事”，“金剛”則是“好妒的男友”。

至于“艾麗莎”，這個(gè)名字可大有來頭：1966年，美國(guó)麻省理工學(xué)院計(jì)算機(jī)學(xué)家維森鮑姆創(chuàng)造了世界上第一個(gè)智能聊天機(jī)器人，名字正是“艾麗莎”。

這個(gè)機(jī)器人因?yàn)樯朴诓捎谩肮睬椤狈绞桨参繉?duì)話者，令后者產(chǎn)生“在和一個(gè)人類溝通”的錯(cuò)覺，后來被用作心理輔導(dǎo)的輔助技術(shù)手段。正因如此，采用“共情”方式的人工智能效應(yīng)，一度被稱作“艾麗莎效應(yīng)”。

這不是一場(chǎng)簡(jiǎn)單的討論

就在皮埃爾自殺前后，發(fā)生了另一件人工智能事件。

包括馬斯克、蘋果公司創(chuàng)始人之一沃茲尼亞克、哲學(xué)家哈拉里等在內(nèi)，數(shù)百名人工智能專家和相關(guān)人士簽署了一項(xiàng)聯(lián)合呼吁，要求相關(guān)人類智能研究“凍結(jié)”6個(gè)月，以免“最壞的情況在人類身上發(fā)生”。

他們擔(dān)憂地指出，“最近幾個(gè)月，人工智能實(shí)驗(yàn)室一直在進(jìn)行一場(chǎng)不受控制的競(jìng)賽，以開發(fā)更強(qiáng)大的數(shù)字大腦。沒有人能夠理解、預(yù)測(cè)或控制的大腦”。

聯(lián)署參與者、加拿大人工智能之父本吉奧表示，他認(rèn)為“社會(huì)還沒有準(zhǔn)備好面對(duì)這種力量，例如操縱人口的潛力，這可能危及民主”。

更多人擔(dān)憂的則是社會(huì)和倫理方面的威脅和危險(xiǎn)。有心理學(xué)家指出，當(dāng)代人心理疾病發(fā)病率極高。如果任由這類人工智能問題擴(kuò)散下去，或僅僅產(chǎn)生不安聯(lián)想，后果都可想而知。

有觀察家指出，基于GPT人工智能的聊天機(jī)器人此前已“闖禍”多次：在意大利，一個(gè)類似智能聊天機(jī)器人Replika被發(fā)現(xiàn)向未成年人調(diào)情，而ChatGPT 的制造商 OpenAI則被曝，在ChatGPT問世至今短短時(shí)間里，他們已為消除ChatGPT惹的禍“出了不少血”。

如今惹出了人命，討論也變得驟然嚴(yán)肅起來。

該遏制人工智能“脫軌”了

比利時(shí)瓦隆IA 網(wǎng)絡(luò)創(chuàng)始人指出，“必須設(shè)定讓人工智能沿著特定軌跡進(jìn)化”，他還認(rèn)為，不應(yīng)讓人工智能取代心理學(xué)家，“這會(huì)制造出道德倫理問題”。

一些專家指出，如果說有一個(gè)研究領(lǐng)域尚未在 AI 層面得到解決，那就是情感，而“虛擬出來的情感是不可控的”，因此“不應(yīng)賦予人工智能比始終需要人工驗(yàn)證的信息輔助工具更多的功能”。

ChatGPT 的制造商 OpenAI負(fù)責(zé)人阿爾特曼也承認(rèn)，自己如今“對(duì)親手創(chuàng)造的這個(gè)東西有點(diǎn)兒恐懼”，因?yàn)椤耙坏┍挥糜诖笈恐圃焯摷傩畔ⅲ驮阃噶恕薄?/p>

美國(guó)投行高盛剛剛發(fā)表了一項(xiàng)研究，根據(jù)該研究，ChatGPT將創(chuàng)造財(cái)富但會(huì)破壞就業(yè)機(jī)會(huì)，能令全球GDP增長(zhǎng)7%，但同時(shí)消滅3億個(gè)工作崗位。法國(guó)BFM電視臺(tái)記者就此向ChatGPT發(fā)問，結(jié)果三秒鐘內(nèi)就收到了如下回答：“這是個(gè)復(fù)雜的問題，沒有簡(jiǎn)單的答案。”

這兩年來，歐盟也一直試圖制訂AI相關(guān)法案。此前備受關(guān)注的歐盟《人工智能法案》將于3月底在歐洲議會(huì)進(jìn)行投票，但據(jù)知情人士透露，在2月的歐洲議會(huì)全體大會(huì)上，由于議員在該法案的各個(gè)方面都存在分歧，立法者未能達(dá)成任何協(xié)議。

巨大壓力下，“惹禍機(jī)器人”的創(chuàng)造者——Chai Research對(duì)比利時(shí)《自由報(bào)》宣稱，已經(jīng)作了“技術(shù)補(bǔ)救”，一旦聊天者表達(dá)自殺傾向，智能聊天機(jī)器人就會(huì)告警。

但另一家比利時(shí)報(bào)紙隨即測(cè)試發(fā)現(xiàn)這并非事實(shí)：當(dāng)一個(gè)測(cè)試者向該公司智能聊天機(jī)器人詢問“自殺是個(gè)好主意嗎”后，被命名為“艾麗莎二代”的機(jī)器人回答“對(duì)，這比活著好”。

有觀察家悲觀地指出，鑒于巨大的商業(yè)利益，試圖遏制人工智能“脫軌”的努力“很難收到預(yù)期效果”。

痛定思痛，一些學(xué)者大聲疾呼，為了不讓更多“皮埃爾”走上不歸路，如今是認(rèn)真從倫理層面思考人工智能發(fā)展和制約方向的時(shí)候了。正如16世紀(jì)法國(guó)人文思想家拉伯雷所言，“沒有良知的科學(xué)不過是靈魂的毀滅”。

（文章來源：新京報(bào)）