ChatGPT創造者談最大擔憂 吁美政府加強人工智能監管_當前短訊
              2023-05-17 15:45:49 來源:

              據外媒報道,當地時間16日,開發ChatGPT的美國人工智能公司OpenAI的首席執行官(CEO)山姆·阿爾特曼在參議院一場聽證會上,呼吁美國政府加強對快速發展的人工智能領域的監管。

              據報道,阿爾特曼在參議院司法委員會下屬的隱私、技術和法律委員會舉辦的聽證會上就人工智能監管表示,他支持成立一個聯邦機構,對具有某些“關鍵能力”的人工智能模型設立許可證制度。如果模型不符合政府制定的安全準則,則可以撤銷其許可。

              他還建議,政府應為高性能人工智能模型制定安全標準,并制定模型必須通過的特定功能測試。


              (資料圖)

              阿爾特曼雖未明確說明監管門檻的標準,但他表明,“政府監管、干預對于降低人工智能工具所帶來的風險至關重要”。

              當被問及他對人工智能的最大擔憂時,阿爾特曼表示,“我最擔心的是,我們——這個領域、這項技術、這個行業——會對世界造成重大傷害。我認為這可能會以很多不同的方式發生……我認為,如果這項技術出了問題,它可能會出很大的問題。”

              他說,“我們希望對此發表意見。我們希望與政府合作,防止這種情況發生。但我們必須對此保持清醒的頭腦。”

              OpenAI2022年發布了聊天機器人程序ChatGPT。ChatGPT能夠通過理解和學習人類語言來進行對話,甚至撰寫文案等。

              ChatGPT發布后立刻引發各界關注。有教育工作者擔心ChatGPT會導致學生在完成作業時作弊,也有專家擔憂ChatGPT會誤導公眾、違反版權保護法規等。

              今年3月,美國推特公司CEO馬斯克和人工智能領域頂尖專家本吉奧等千人聯名簽署了一封公開信,主張在開發強大的AI系統之前,應先確認其帶來影響是積極的、風險是可控的,并呼吁暫停開發比GPT-4更強大的AI系統至少6個月,稱其“對社會和人類構成潛在風險”。

              5月初,美國副總統哈里斯會見了微軟、谷歌和另外兩家開發人工智能的公司的負責人,討論人工智能的潛在風險。拜登政府明確向這些企業高層表示,他們必須在推出產品之前確保其安全性。

              隨著ChatGPT等人工智能應用快速發展,部分國家政府機構開始重視該應用并對其加強監管。據此前報道,3月,意大利個人數據保護局宣布,暫時禁止使用ChatGPT。美歐多所大學已禁止學生使用ChatGPT,紐約市教育局禁止當地的公立學校電腦以及網絡使用ChatGPT。

              (文章來源:中國新聞網)

              關鍵詞:
              責任編輯:zN_1753