當(dāng)前位置:國(guó)際 > 正文
              AI監(jiān)管山雨欲來?歐洲有分歧美國(guó)在觀望,印度不管,OpenAI發(fā)聲明-短訊
              2023-04-06 11:47:07 來源:

              印度政府當(dāng)?shù)貢r(shí)間4月5日表示,不打算監(jiān)管人工智能的發(fā)展,認(rèn)為該行業(yè)對(duì)該國(guó)來說是一個(gè)“重要和戰(zhàn)略性”的領(lǐng)域。


              (相關(guān)資料圖)

              最近幾天,眾多聲音呼吁加強(qiáng)對(duì)人工智能的審查。意大利政府3月31日對(duì)ChatGPT實(shí)施了臨時(shí)禁令,理由是擔(dān)心它違反了歐盟的《通用數(shù)據(jù)保護(hù)條例》(GDPR),此舉引發(fā)歐洲多國(guó)開始探討是否對(duì)生成式人工智能展開監(jiān)管措施。當(dāng)?shù)貢r(shí)間4月4日,加拿大隱私專員辦公室(OPC)宣布對(duì)ChatGPT的開發(fā)機(jī)構(gòu)OpenAI展開調(diào)查,涉及“OpenAI未經(jīng)同意收集、使用和披露個(gè)人信息”的指控。

              當(dāng)?shù)貢r(shí)間4月5日,面對(duì)一系列監(jiān)管反彈,OpenAI發(fā)布聲明《我們對(duì)人工智能安全的方法》,稱“確保人工智能系統(tǒng)安全構(gòu)建、部署和使用對(duì)我們的使命至關(guān)重要”。

              印度暫不考慮立法或監(jiān)管人工智能

              印度電子和信息技術(shù)部在一份書面答復(fù)中稱,該部門已經(jīng)評(píng)估了與人工智能相關(guān)的道德問題和偏見與歧視風(fēng)險(xiǎn),正在實(shí)施必要政策和基礎(chǔ)設(shè)施措施,以在該國(guó)培育一個(gè)強(qiáng)大的人工智能部門,政府沒有考慮制定法律或監(jiān)管人工智能的發(fā)展。

              印度電子和信息技術(shù)部認(rèn)為,人工智能的擴(kuò)展將對(duì)印度的創(chuàng)業(yè)和商業(yè)發(fā)展產(chǎn)生“動(dòng)力效應(yīng)(kinetic effect)”。“人工智能是數(shù)字經(jīng)濟(jì)和創(chuàng)新生態(tài)系統(tǒng)的動(dòng)力提供者。政府正在利用人工智能的潛力,通過數(shù)字公共平臺(tái)提供以公民為中心的個(gè)性化和互動(dòng)服務(wù)。”

              這份文件也指出,由于決策中的偏見和歧視、侵犯隱私、人工智能系統(tǒng)缺乏透明度以及傷害責(zé)任界定等問題,人工智能存在道德問題和風(fēng)險(xiǎn)。印度2018年6月發(fā)布的《國(guó)家人工智能戰(zhàn)略》(NSAI)強(qiáng)調(diào)了這些擔(dān)憂。為了解決與人工智能相關(guān)的道德問題和潛在風(fēng)險(xiǎn),各中央和邦政府部門和機(jī)構(gòu)已開始努力標(biāo)準(zhǔn)化負(fù)責(zé)任的人工智能開發(fā),使用和促進(jìn)最佳實(shí)踐的采用。

              《國(guó)家人工智能戰(zhàn)略》提議為研究和采用人工智能開發(fā)一個(gè)生態(tài)系統(tǒng),即#AI for ALL.為了使印度成為人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者,印度電子和信息技術(shù)部已經(jīng)實(shí)施了“國(guó)家人工智能計(jì)劃”,旨在建立一個(gè)綜合計(jì)劃,利用變革性技術(shù)來促進(jìn)包容、創(chuàng)新和采用以產(chǎn)生社會(huì)影響。

              盡管美國(guó)和許多發(fā)達(dá)國(guó)家市場(chǎng)對(duì)人工智能的興趣急劇上升,但印度進(jìn)入該領(lǐng)域的初創(chuàng)企業(yè)數(shù)量有限。印度的戰(zhàn)略舉措可能鼓勵(lì)有才華的人探索機(jī)會(huì)。

              歐美情況復(fù)雜

              上周,包括特斯拉首席執(zhí)行官埃隆·馬斯克和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克在內(nèi)的上千人簽署一封公開信,敦促所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。

              3月31日,意大利個(gè)人數(shù)據(jù)保護(hù)局宣布從即日起禁止使用ChatGPT,限制OpenAI處理意大利用戶信息,并開始立案調(diào)查。意大利個(gè)人數(shù)據(jù)保護(hù)局認(rèn)為,3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。而該平臺(tái)沒有就收集處理用戶信息進(jìn)行告知,且缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。同時(shí),該機(jī)構(gòu)還指責(zé),盡管根據(jù)OpenAI的條款聲稱該服務(wù)面對(duì)13歲以上的用戶,但并沒有使用任何過濾機(jī)制來驗(yàn)證用戶的年齡。

              在意大利暫時(shí)禁止ChatGPT后,其他歐洲國(guó)家也開始研究是否需要更嚴(yán)厲措施來控制聊天機(jī)器人,以及是否要協(xié)調(diào)這種行動(dòng)。

              雖然歐洲議員對(duì)“歐盟人工智能法”的內(nèi)容和范圍存在分歧,但一些監(jiān)管機(jī)構(gòu)發(fā)現(xiàn),現(xiàn)有的工具,如讓用戶控制其個(gè)人信息的《通用數(shù)據(jù)保護(hù)條例》可以適用于迅速崛起的生成式人工智能公司類別。

              法國(guó)和愛爾蘭的隱私監(jiān)管機(jī)構(gòu)已經(jīng)與意大利的同行聯(lián)系,以了解更多關(guān)于禁令的依據(jù)。德國(guó)數(shù)據(jù)保護(hù)專員告訴《商報(bào)》,德國(guó)可能會(huì)跟隨意大利的腳步,出于對(duì)數(shù)據(jù)安全的考慮禁止ChatGPT。

              “我們正在跟進(jìn)意大利監(jiān)管機(jī)構(gòu)。”愛爾蘭數(shù)據(jù)保護(hù)專員的發(fā)言人說,“我們將與歐盟所有的數(shù)據(jù)保護(hù)機(jī)構(gòu)就此事進(jìn)行協(xié)調(diào)。”

              瑞典的隱私監(jiān)管機(jī)構(gòu)則表示沒有計(jì)劃禁止ChatGPT,也沒有與意大利的監(jiān)管機(jī)構(gòu)進(jìn)行接觸。西班牙的監(jiān)管機(jī)構(gòu)表示,它沒有收到任何關(guān)于ChatGPT的投訴,但不排除未來會(huì)進(jìn)行調(diào)查。

              雖然隱私監(jiān)管專員贊成更多的監(jiān)管,但政府卻更加寬松。意大利兼基礎(chǔ)設(shè)施與可持續(xù)交通部長(zhǎng)馬泰奧·薩爾維尼批評(píng)了本國(guó)監(jiān)管機(jī)構(gòu)的決定,稱其反應(yīng)過度,德國(guó)政府發(fā)言人表示沒有必要禁止ChatGPT。

              一位消息人士說,意大利當(dāng)局上周的舉動(dòng)旨在與OpenAI開始對(duì)話,以解決在ChatGPT遵守歐盟數(shù)據(jù)保護(hù)規(guī)則方面提出的問題,而不是禁止該工具。OpenAI在歐盟沒有辦事機(jī)構(gòu)。

              在北美,加拿大隱私專員辦公室(OPC)宣布對(duì)OpenAI展開調(diào)查。該機(jī)構(gòu)的一位隱私專員表示,人工智能技術(shù)及其對(duì)隱私的影響是OPC的優(yōu)先事項(xiàng),“我們需要跟上快速發(fā)展的技術(shù)并保持領(lǐng)先,這是我作為隱私專員重點(diǎn)關(guān)注的領(lǐng)域之一。”

              美國(guó)總統(tǒng)拜登當(dāng)?shù)貢r(shí)間4月4日表示,人工智能是否危險(xiǎn)還有待觀察,但科技公司有責(zé)任確保其產(chǎn)品在公開之前安全。據(jù)《紐約時(shí)報(bào)》上個(gè)月報(bào)道,雖然一些美國(guó)立法者對(duì)人工智能表示擔(dān)憂,但很少有人積極尋求監(jiān)管。

              OpenAI正在研究?jī)和?yàn)證選項(xiàng)

              可能是為了回應(yīng)這些監(jiān)管風(fēng)聲,OpenAI當(dāng)?shù)貢r(shí)間4月5日發(fā)布聲明,稱OpenAI致力于保持強(qiáng)大的人工智能安全且廣泛有益。

              這份聲明稱,“在發(fā)布任何新系統(tǒng)之前,我們會(huì)進(jìn)行嚴(yán)格的測(cè)試,聘請(qǐng)外部專家提供反饋,努力通過人工反饋強(qiáng)化學(xué)習(xí)等技術(shù)來改進(jìn)模型的行為,并建立廣泛的安全和監(jiān)控系統(tǒng)。例如,在我們的最新型號(hào)GPT-4完成培訓(xùn)后,我們花了6個(gè)多月的時(shí)間在整個(gè)組織中努力,在公開發(fā)布之前使其更安全、更一致。我們認(rèn)為,強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估。需要監(jiān)管以確保采用此類做法,我們與政府就此類監(jiān)管的最佳形式積極合作。”

              OpenAI承認(rèn),盡管他們努力在部署前預(yù)防可預(yù)見的風(fēng)險(xiǎn),但在實(shí)驗(yàn)室里能學(xué)到的東西是有限的。所以他們認(rèn)為,隨著時(shí)間的推移,從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。“我們通過自己的服務(wù)和API提供我們最強(qiáng)大的模型,以便開發(fā)人員可以直接將這項(xiàng)技術(shù)構(gòu)建到他們的應(yīng)用程序中。這使我們能夠監(jiān)測(cè)濫用并采取行動(dòng),并不斷制定緩解措施,以應(yīng)對(duì)人們?yōu)E用我們系統(tǒng)的真實(shí)方式——而不僅僅是關(guān)于濫用可能是什么樣子的理論。”

              “至關(guān)重要的是,我們認(rèn)為社會(huì)必須有時(shí)間更新和適應(yīng)越來越強(qiáng)大的人工智能,每個(gè)受這項(xiàng)技術(shù)影響的人都應(yīng)該在人工智能如何進(jìn)一步發(fā)展方面擁有重要的發(fā)言權(quán)。迭代部署幫助我們讓各種利益相關(guān)者更有效地參與到關(guān)于采用人工智能技術(shù)的對(duì)話中,而不是他們沒有這些工具的第一手經(jīng)驗(yàn)。”聲明前調(diào)。

              OpenAI表示,其安全工作的一個(gè)關(guān)鍵重點(diǎn)是保護(hù)兒童,要求必須年滿18周歲,或年滿13周歲但經(jīng)父母批準(zhǔn)才能使用其人工智能工具,并正在研究驗(yàn)證選項(xiàng)。“當(dāng)用戶試圖將兒童性虐待材料上傳到我們的圖像工具時(shí),我們會(huì)將其阻止并報(bào)告給國(guó)家失蹤和受剝削兒童中心。”聲明稱。

              在作為爭(zhēng)議焦點(diǎn)的隱私方面,OpenAI稱,雖然他們采用的一些培訓(xùn)數(shù)據(jù)包括公共互聯(lián)網(wǎng)上提供的個(gè)人信息,但他們希望模型了解世界,而不是個(gè)人。因此,他們努力在可行的情況下從培訓(xùn)數(shù)據(jù)集中刪除個(gè)人信息,微調(diào)模型以拒絕對(duì)個(gè)人信息的請(qǐng)求,并回應(yīng)個(gè)人從系統(tǒng)中刪除其信息的請(qǐng)求。

              OpenAI最后表示,“雖然我們等了6個(gè)多月才部署GPT-4,以便更好地了解其功能、好處和風(fēng)險(xiǎn),但有時(shí)可能需要花費(fèi)更長(zhǎng)時(shí)間來提高人工智能系統(tǒng)的安全性。因此,政策制定者和人工智能提供商需要確保人工智能的開發(fā)和部署在全球范圍內(nèi)得到有效管理,這樣就不會(huì)有人為了取得進(jìn)展‘偷工減料’。”

              (文章來源:澎湃新聞)

              關(guān)鍵詞:
              責(zé)任編輯:zN_0653