(相關資料圖)
“人工智能正以快速的步伐擴展著人類的想象力。想象一下,未來十年,人工通用智能系統(簡稱AGI)幾乎在每一個領域都超過了人類的專業知識,該系統最終可能超過所有大型公司的集體生產力。這將提高每一個人的生活水平,但同時,我們必須共同管理其可能帶來的風險。”
6月10日,在2023北京智源大會-AI安全與對齊論壇上,OpenAI聯合創始人Sam Altman發表了主題演講。
Sam Altman指出,AGI是一項關乎全球的技術,不計后果地開發和部署所帶來的事故成本將影響到每一個人。
通過國際合作和協調AGI 治理非常必要。他認為有兩個關鍵領域:首先,在技術研發過程中建立平等、統一的國際規范和標準,以便所有國家都能使用AGI;其次,通過國際合作,以可驗證的方式,建立全球對日益強大的人工智能系統安全開發的信任體系。
做到這兩點并不容易,Sam Altman表示,國際社會應投入大量而持續的關注,而最具建設性的一步是,國際科技界應該促進在安全領域的技術進步方面增加透明度和知識共享機制。當ACI安全研究人員發現緊急問題后,應及時分享他們的見解,以實現利益最大化。“我們需要思考的是,如何鼓勵這種制度,同時尊重保護知識產權,如果能夠實現這一點,新世界的大門將為我們打開,使我們保持更加廣泛的合作。”
Sam Altman介紹了OpenAI在安全研究上的投入、促進和引導。OpenAI正在推進對齊研究,讓AGI與人類價值觀保持一致并遵循人類意圖。“我們通過來自人類反饋的強化學習來訓練模型,使其成為一個有用而安全的助手。從ChatGPT推出到GPT-4完成,我們一共花了8個月的時間,目前來看進展良好,GPT-4在對齊性上比以前的所有模型都要高。但對于未來更先進的AI系統而言,對齊性仍然是一個懸而未決的問題,我認為需要新的技術方法,并加強治理和監管,我們想象一下,未來的 AGI 系統或許具有 10 萬行二進制代碼,人類監管人員不太可能發現這樣的模型是否在做一些邪惡的事情。正因此,我們還投資了許多新的研究方向,希望可以實現擴展和突破。”
Sam Altman認為,使用人工智能來管理人工智能也許是一個好的思路,例如,人類可以訓練一個模型來幫助自己發現其他模型輸出中的缺陷。另外,關于可解釋性的研究,Sam Altman相信,機器學習技術的進步可以進一步提高人類產生解釋的能力。
“我們的最終目標是,培訓人工智能系統來幫助對齊研究。獲得 AGI 帶來的非凡好處,同時降低風險,是我們這個時代的開創性挑戰之一。我們已經看到了中國、美國以及其他世界各地的研究人員的巨大潛力,并期待共同努力實現同一個目標,若能做到這一點,未來通過AGI解決世界難題并提高人類福祉,將指日可待。”Sam Altman表示。
(文章來源:21世紀經濟報道)

-
如何選擇合適的理財工具?各類理財工具的特點是什么?如何選擇合適的理財工具?選擇合適的理財產品需要投資者考慮自身投資目標、風險承受能力、產品特點、交易費用等因素,并進行充...
-
什么叫白馬股?藍籌股和白馬股哪個好?藍籌股的價值什么叫白馬股?白馬股,是指長期績優、回報率高并具有較高投資價值的股票。一般來說白馬股的漲幅是比藍籌要大的,因為藍籌太過...
-
301開頭的股票是什么股?證券賬戶開戶哪家的費率低?301開頭的股票是什么股?301開頭的股票代表的是創業板的股票。股票的代碼通常由六位數字組成,前三位數字代表的是股票所屬的交...
-
企業虧損的原因有哪些?玩短線減少虧損的技巧是什么?企業虧損的原因有哪些?1、客觀因素(1)受國際環境影響,出口貿易受挫。(2)國內需求不足造成產品價格下降,影響了企業效益的提...
-
新手理財應該怎么做?適合新手理財的五大投資項目是什么?新手理財應該怎么做?1、測試自己的風險承受能力新手在理財的第一步,應該通過一些交易原件來測試自己的風險承受能力,以及自...
-
如何選擇合適的理財工具?各類理財工具的特點是什么?
2023-04-12 08:08:29
-
什么叫白馬股?藍籌股和白馬股哪個好?藍籌股的價值
2023-04-04 09:30:09
-
301開頭的股票是什么股?證券賬戶開戶哪家的費率低?
2023-04-04 09:23:47
-
企業虧損的原因有哪些?玩短線減少虧損的技巧是什么?
2023-04-04 09:20:54
-
新手理財應該怎么做?適合新手理財的五大投資項目是什么?
2023-04-04 09:04:31