繼馬斯克、圖靈獎得主等一眾大佬簽署公開信、聯名呼吁暫停大型AI研究后，ChatGPT再遭爭議與質疑。

近日，意大利個人數據保護局宣布，從即日起禁止使用聊天機器人ChatGPT，并限制開發這一平臺的OpenAI公司處理意大利用戶信息。同時個人數據保護局開始立案調查。這是第一起政府禁止使用聊天機器人的案例。

(資料圖片)

個人隱私泄露，意大利禁用ChatGPT

3月20日，多名ChatGPT用戶表示在自己的歷史對話中看到了他人的對話記錄。還有不少 ChatGPT Plus用戶在Reddit和Twitter等平臺發出截圖，表示在他們的訂閱頁面上看到了其他人的電子郵件地址。

3月25日，OpenAI發布聲明承認，由于開源代碼庫中存在一個漏洞，部分用戶能夠看到另一個用戶的聊天標題記錄，此前已將ChatGPT短暫下線并緊急修補此漏洞。

同時，OpenAI表示，在特定的9小時窗口期內，1.2%的付費版用戶的個人支付信息可能被泄露。部分用戶可能會看到另一名活躍用戶的姓名、電郵、支付地址、信用卡后4碼、信用卡到期時間等信息。

意大利個人數據保護局認為，ChatGPT泄露了用戶對話數據和付款服務支付信息，沒有告知用戶將收集處理其信息，缺乏大量收集和存儲個人信息的法律依據，同時缺乏年齡驗證系統，因此未成年人可能接觸到非法信息。OpenAI公司必須在20天內通過其在歐洲的代表，向意大利個人數據保護局通報公司執行保護局要求而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

憂心泄密風險，企業限制ChatGPT使用

事實上，這已經不是ChatGPT第一次拉響有關數據安全擔憂的警報。

據報道，微軟的工程師和亞馬遜的律師都曾警告員工，不要與ChatGPT分享“任何亞馬遜的機密信息，包括你正在編寫的代碼，因為他們可能會將其用于訓練未來的模型。”

然而，警告或許并未達到實際效果。數據安全公司Cyberhaven調查了不同行業客戶的160萬員工的ChatGPT使用情況。該公司發布報告表示，2.3%的員工將公司機密數據貼入ChatGPT，企業員工平均每周向ChatGPT泄露敏感數據達數百次，目前敏感數據占員工粘貼到ChatGPT的內容的11%。

多家媒體消息稱，三星內部就發生了3起誤用、濫用ChatGPT案例，恐泄露三星內部機密。其中，有兩起關于三星的半導體設備，另一起關于三星的內部會議內容。

有觀點認為，輸入ChatGPT的數據可能被用于未來模型的迭代訓練。如果用戶輸入敏感數據，這些數據便極有可能成為其輸出的內容，造成敏感數據泄露。

出于這種憂慮，美國銀行、花旗集團、德意志銀行、高盛集團、富國銀行、摩根大通和Verizon等機構已經禁止員工使用ChatGPT聊天機器人處理工作任務。許多日本大公司，如軟銀、富士通、瑞穗金融集團、三菱日聯銀行、三井住友銀行等，也限制了ChatGPT和類似聊天機器人的商業用途。

本周，1000多名科技行業領導和研究人員呼吁暫停先進AI系統的研發，以便相關的數據安全政策能夠首先得到討論施行。AI與數字政策中心(The Center for A.I. and Digital Policy)長期致力于推行數字科技的道德化使用，要求美國聯邦交易委員會(U.S. Federal Trade Commission)禁止OpenAI發布ChatGPT新的商用版本。

日前，OpenAI首席執行官Sam Altman在接受媒體采訪時坦白，對AI技術以及它如何影響勞動力、選舉和虛假信息的傳播有些害怕，“我擔心這些模型可能會被用于大規模的虛假信息傳播。”他認為，這些可能的負面影響需要政府和社會共同參與監管，并呼吁反饋和規則對抑制人工智能的負面影響非常關鍵。

盡管，在2019年微軟宣布注資10億美元支持OpenAI研發通用人工智能模型時，Sam Altman曾將這一努力與二戰期間美國制造原子彈的曼哈頓計劃相提并論，認為二者都將帶來巨大的科技進步，且自信于控制風險的能力。

（文章來源：21世紀經濟報道）