(相關資料圖)

“人工智能正以快速的步伐擴展著人類的想象力。想象一下，未來十年，人工通用智能系統（簡稱AGI）幾乎在每一個領域都超過了人類的專業知識，該系統最終可能超過所有大型公司的集體生產力。這將提高每一個人的生活水平，但同時，我們必須共同管理其可能帶來的風險。”

6月10日，在2023北京智源大會-AI安全與對齊論壇上，OpenAI聯合創始人Sam Altman發表了主題演講。

Sam Altman指出，AGI是一項關乎全球的技術，不計后果地開發和部署所帶來的事故成本將影響到每一個人。

通過國際合作和協調AGI 治理非常必要。他認為有兩個關鍵領域：首先，在技術研發過程中建立平等、統一的國際規范和標準，以便所有國家都能使用AGI；其次，通過國際合作，以可驗證的方式，建立全球對日益強大的人工智能系統安全開發的信任體系。

做到這兩點并不容易，Sam Altman表示，國際社會應投入大量而持續的關注，而最具建設性的一步是，國際科技界應該促進在安全領域的技術進步方面增加透明度和知識共享機制。當ACI安全研究人員發現緊急問題后，應及時分享他們的見解，以實現利益最大化。“我們需要思考的是，如何鼓勵這種制度，同時尊重保護知識產權，如果能夠實現這一點，新世界的大門將為我們打開，使我們保持更加廣泛的合作。”

Sam Altman介紹了OpenAI在安全研究上的投入、促進和引導。OpenAI正在推進對齊研究，讓AGI與人類價值觀保持一致并遵循人類意圖。“我們通過來自人類反饋的強化學習來訓練模型，使其成為一個有用而安全的助手。從ChatGPT推出到GPT-4完成，我們一共花了8個月的時間，目前來看進展良好，GPT-4在對齊性上比以前的所有模型都要高。但對于未來更先進的AI系統而言，對齊性仍然是一個懸而未決的問題，我認為需要新的技術方法，并加強治理和監管，我們想象一下，未來的 AGI 系統或許具有 10 萬行二進制代碼，人類監管人員不太可能發現這樣的模型是否在做一些邪惡的事情。正因此，我們還投資了許多新的研究方向，希望可以實現擴展和突破。”

Sam Altman認為，使用人工智能來管理人工智能也許是一個好的思路，例如，人類可以訓練一個模型來幫助自己發現其他模型輸出中的缺陷。另外，關于可解釋性的研究，Sam Altman相信，機器學習技術的進步可以進一步提高人類產生解釋的能力。

“我們的最終目標是，培訓人工智能系統來幫助對齊研究。獲得 AGI 帶來的非凡好處，同時降低風險，是我們這個時代的開創性挑戰之一。我們已經看到了中國、美國以及其他世界各地的研究人員的巨大潛力，并期待共同努力實現同一個目標，若能做到這一點，未來通過AGI解決世界難題并提高人類福祉，將指日可待。”Sam Altman表示。

（文章來源：21世紀經濟報道）