界面新聞記者 | 李京亞

(資料圖)

日前，特斯拉CEO埃隆·馬斯克率數(shù)百位科技行業(yè)高管在一封公開信中呼吁，所有人工智能實驗室應(yīng)立即暫停比GPT-4更強大的人工智能系統(tǒng)訓(xùn)練，暫定時間是6個月以上。

這封題為《暫停巨型人工智能實驗》的公開信于3月22日刊登在非盈利組織生命未來研究所(Future of Life Institute)的官網(wǎng)上，其行文明快、語言犀利，詳細闡述了具有與人類競爭性的人工智能系統(tǒng)會給社會和文明造成的潛在風(fēng)險。

圖源：生命未來研究所(Future of Life Institute)

“高級人工智能可以代表地球生命史上的深刻變化，應(yīng)該投入相應(yīng)的關(guān)注和資源進行規(guī)劃和管理。但不幸的是，這種級別的規(guī)劃和管理并未發(fā)生。在最近幾個月，人工智能實驗室被鎖在一場失控的競賽之中，大家爭相開發(fā)和部署更強大的人工智能系統(tǒng)，以至于沒有人能夠完全理解、預(yù)測或可靠地控制這些進程，即使他們的創(chuàng)造者也不能。”

在對可能失去文明控制的風(fēng)險作出預(yù)警后，公開信指出，“只有在我們確信強大的人工智能系統(tǒng)的效果將是積極的，風(fēng)險是可控的，才應(yīng)該開發(fā)。”

公開信的作者們呼吁，希望暫停至少6個月高級人工智能開發(fā)，直到各界共同制定出一套能順利實施并由獨立專家審計的安全協(xié)議。

“因此，針對任何比GPT-4更強大的人工智能系統(tǒng)的訓(xùn)練，我們呼吁所有人工智能實驗室立即暫停至少6個月。這種暫停應(yīng)該是公開的和可核查的，并囊括所有關(guān)鍵參與者。如果這種暫停不能迅速頒布，各國政府應(yīng)該介入并制定暫停令。”

公開信還提到，6個月的暫停并不意味著人工智能總體發(fā)展的暫停，只是從目前危險的競賽中退后一步。

在公開信的末尾，作者們將目前人工智能發(fā)展現(xiàn)狀比作收獲回報的盛夏，并再次強調(diào)對人工智能發(fā)展過快進行控制是為了讓大家享受一個更漫長的盛夏，而非在毫無準備的情況下匆忙入秋。

截至發(fā)稿，這封公開信獲得了1126個簽名支持，埃隆·馬斯克于公開信下第三位簽名，蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克緊隨其后，署名序列中還包括Stability AI的創(chuàng)始人穆斯塔克、Skype的聯(lián)合創(chuàng)始人和Pinterest聯(lián)合創(chuàng)始人，以及一位圖靈獎得主。

署名人員中目前沒有OpenAI員工的身影。據(jù)媒體報道，OpenAI的首席執(zhí)行官阿爾特曼的名字曾短暫出現(xiàn)在署名名單中，此后消失。但有四名谷歌員工在名單上署名，包括來自谷歌旗下人工智能實驗室DeepMind的三名研究科學(xué)家。

圖源：生命未來研究所(Future of Life Institute)

在馬斯克與OpenAI創(chuàng)始人阿爾特曼的矛盾近日見諸報端之后，馬斯克發(fā)表這封公開信并不令人意外。

公開信的刊發(fā)組織——生命未來研究所(Future of Life Institute)是一個成立于2014年的非盈利機構(gòu)，由麻省理工物理系終身教授邁克斯·泰格馬克和其他四位成員共同創(chuàng)立，組織的研究宗旨是探索人工智能的發(fā)展對人類的益處，并降低核武器以及生物技術(shù)對人類帶來的風(fēng)險。在其科學(xué)顧問委員會成員中，馬斯克赫然在列。

眾所周知，在特斯拉和SpaceX的事務(wù)之外，馬斯克一直對輸出人工智能觀點極為上心。幾乎每年，他都會率眾發(fā)表重量級公開信對人工智能技術(shù)前景表達憂慮。蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克和DeepMind的一些重量級科學(xué)家是他在此事上的多年搭檔。

這次的公開信是在OpenAI發(fā)布多模態(tài)預(yù)訓(xùn)練大模型GPT-4僅兩周后發(fā)出的。GPT-4被譽為有史以來最強大的人工智能系統(tǒng)。隨著人工智能領(lǐng)域研究人員們因GPT4的到來對通用人工智能AGI的預(yù)期變得樂觀，一些謹慎的創(chuàng)業(yè)者、投資人、專家和監(jiān)管機構(gòu)開始悲觀審視人工智能引發(fā)的軍備競賽帶來的風(fēng)險。

本周一，歐盟執(zhí)法機構(gòu)歐洲刑警組織(Europol)在一份技術(shù)報告中發(fā)出警告：聊天機器人ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、宣傳虛假信息以及網(wǎng)絡(luò)犯罪。路透社將這份技術(shù)報告與馬斯克等人的公開信歸為給生成式AI大好前景潑冷水的“大合唱”開端。

（文章來源：界面新聞）