歐盟朝著全球首部人工智能（AI）立法又邁出重要一步。

當地時間14日，歐洲議會以499票贊成、28票反對和93票棄權，高票通過了歐盟的《人工智能法案》談判授權草案。

第一財經記者看到的草案文本顯示，歐洲議會對此前版本作出修改，譬如在如何定義人工智能方面，進一步明確了高風險人工智能的場景，同時該版本也保留了此前的法案的重要內容，包括禁止在生物識別監控中使用人工智能技術，以及ChatGPT等生成式人工智能的披露透明度等問題。

(資料圖片)

據悉，接下來各方將正式進入與歐盟委員會進行協商的程序，以確定最終版本，最快也要在今年年底才能達成共識。

“監管中必須有不可跨越的紅線。歐盟的《人工智能法案》中就規定了不可發展的部分，比如不可用于社會評分。”歐洲工商管理學院（INSAED）的決策科學和技術管理教授埃夫根尼奧（Theos Evgeniou）對第一財經記者表示："不過從某種意義上來說，歐洲更復雜，在解決某些重大問題時，所有成員國需要達成一致，需要考慮到不同成員國之間不同的立法流程、文化背景以及治理體系。所以歐洲的行動相比起來較為緩慢。因此，歐洲希望從一開始就不要在監管上犯錯誤。"

人工智能分級管理

歐盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系統的任何產品和服務的規則。

目前的該法案談判授權草案采取了分級管理的思路，即基于人工智能的四個等級（從風險最小到不可接受），進行區別管理，風險較高的應用程序將面臨更嚴格的規則，需要更高的透明度和準確性。

歐洲議會認為，對人類安全造成不可接受風險的人工智能系統將被嚴格禁止，包括部署潛意識或有目的操縱技術、利用人們弱點或用于社會評分的系統。

譬如，用于預先確定犯罪發生地點和犯罪者的警務工具可能將被禁止，除打擊和預防特定恐怖威脅外，遠程面部識別技術也將被禁止。

此次，歐洲議會就批準了全面禁止警察在公共場所使用實時面部識別技術的立法草案文本。具體而言，此次歐洲議會議員擴大了禁止清單，進一步禁止了侵入性和歧視性使用人工智能，其中包括在公共場所的實時遠程生物特征識別監控系統，使用敏感特征（例如性別、種族等）的生物識別分類系統，預測性警務系統（基于分析、位置或既往犯罪行為），執法、邊境管理、工作場所和教育機構中的情緒識別系統以及從互聯網或閉路電視錄像中無針對性地抓取面部圖像以創建面部識別數據庫的行為。

將立法推進到投票階段的歐洲議會人工智能委員會的聯合報告員本尼菲（Brando Benifei）表示，在面部識別方面，法律將提供“明確的保障措施，以避免任何大規模監控的風險”。

徹底記錄訓練人工智能版權

需要提到的是，最初的草案并未詳細涵蓋聊天機器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項修正案，將ChatGPT和類似的生成式AI與高風險系統置于同一級別。

歐洲議會提出，像ChatGPT這樣的生成基礎模型必須遵守額外的透明度要求，比如披露內容是由人工智能生成的，設計模型以防止其生成非法內容，以及發布用于訓練的受版權保護數據的摘要。

此外，歐洲議會的議員們還希望提高歐洲公民對人工智能系統提出投訴的權利，并獲得對基于嚴重影響其權利的高風險人工智能系統決策的解釋權利。

在歐盟的定義里，由于生成式人工智能沒有特定用途，因而將其劃分為通用人工智能領域（General Purpose AI），并強制披露受版權保護的人工智能訓練數據。

根據草案文本，開發商在歐盟市場上發布之前在歐盟人工智能管理數據庫中進行登記。如ChatGPT等工具，必須披露哪些內容是人工智能生成的，以便幫助區分所謂的深度造假圖像和真實圖像，并確保防止生成非法內容。

同時，此次在草案中，歐洲議會要求徹底記錄任何用于訓練人工智能系統如何生成類似于人類作品的文本、圖像、視頻和音樂的版權材料，且開發商還必須證明他們為訓練機器所做的一切都符合法律。

歐洲議會議員圖朵拉赫表示，如果人工智能的開發者不這樣做，他們可能會被迫立即刪除應用程序或被罰款，罰款最高可達其收入的 7%，這對科技巨頭來說可能高達數億歐元。

埃夫根尼奧對第一財經記者表示，像ChatGPT這樣的生成性AI技術是所謂“根基模型”（foundation models）。

“人們可以在這種模型的基礎上開發大量產品，并能夠進行微調。換言之，它們不是單純的產品，而是核心技術，是人們可以開發的產品之核心所在。”他解釋道，“這種核心技術本身已經非常強大，我們甚至無法預測人們將依靠它們開發出什么。我們也從未仔細考慮過如何管控和規范根基模型。這是一種新概念。”

“很明顯，我們需要對其中一些部分進行監管。要注意的是，我們要規范和監管的是內容審核的過程，而非內容本身。”他表示：“一些國家和地區已著手制定有關內容審核的法規。例如，歐洲提出《數字服務法》（DSA），涉及規范在線平臺的內容。在我看來，這是一個很好的法規，因為它帶來了一個公平和透明的內容審核程序。”

他并補充道，總之，我們需要法規來規范如何公平和透明地審核內容，至于內容來自人還是來自人工智能，這在某種意義上并不重要。

據悉，接下來，歐洲議會、歐盟理事會和歐盟委員會的代表將在“三方”會談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

（文章來源：第一財經）