(資料圖)

11月10日，在2022年世界互聯網大會烏鎮峰會“人工智能與數字倫理”論壇上，瑞萊智慧CEO田天表示，在數智化時代，人工智能充當著“大腦”的角色，在目標性能的實現、設施運維的智能化和設施安全保障等方面發揮著重要作用。例如，運用人工智能的計算機視覺技術，可以實現工業殘次品的檢測、構建人臉識別安防設備，在提升生產性能與生產效率的同時，大幅提升安全保障能力。

近年來，隨著算法的快速發展，算力、數據等資源的日益豐富，人工智能產業呈現快速發展態勢。但田天表示，放眼未來，人工智能若要實現高質量發展，需要突破倫理規則和技術安全兩大關鍵問題。

首先，隨著人工智能逐步成為經濟社會的關鍵角色，它與人類的交互規則構成了倫理問題，例如，人機控制權分配、人工智能采信度等等。作為一項具有開放性但又遠未成熟的新技術，人工智能不可避免地會對現有倫理關系與社會結構造成沖擊。

比如，人類對機器控制權的不適當讓渡，會導致惡性事故的發生，典型的例子如自動駕駛汽車電子剎車系統失控引發交通事故，以及過度信任算法而忽視算法偏見導致的不公平事件等。隨著人工智能對生產生活方方面面的不斷滲透，倫理問題層出不窮。

其次技術安全問題。以當前落地應用最為廣泛的人臉識別為例，這一技術實現的整個過程為黑箱模式，主要依靠海量人臉數據進行特征提取、訓練和識別，從而能夠利用相關漏洞，采用多種形式進行攻擊。例如，在人臉照片上添加少量干擾或將對抗補丁打印制作后由真人佩戴，以這種定向攻擊的形式破解人身核驗。

面對這些問題，田天表示，需要從倫理規則和技術規則兩方面加以解決。

一是倫理規則建設。這涉及到人與人工智能之間控制權閾值如何設定、兜底機制如何設計等問題，需結合具體應用場景，打造可量化、可度量、可執行的具體標準，再落實到算法、代碼層面。

二是技術路徑優化。在數據、算法、算力三大要素基礎上，將知識要素融合進來，發展安全、可靠、可信和可擴展的第三代人工智能，不斷提升人工智能的魯棒性和可解釋性，同時持續提高人工智能倫理安全、技術安全的敏捷測評水平，使之成為保障人工智能產業高質量發展的關鍵能力。（記者 魏蔚）