近期，ChatGPT(聊天機器人程序)火了，大家認(rèn)為這是人工智能革命的一大步，與此同時針對ChatGPT使用也出現(xiàn)了一些爭議。而一些“李鬼”則看到了商機，借此斂起不法之財。

調(diào)查

打著ChatGPT旗號 小程序收費高達千元

【資料圖】

ChatGPT走紅后，其賬號一時在國內(nèi)多個網(wǎng)購平臺、社交平臺上銷售火熱。在某電商平臺上售賣成品賬號的店鋪，一天之內(nèi)多達萬人付款，價格最低2元。北京青年報記者此前曾在某網(wǎng)購平臺獲取了ChatGPT賬號，商家隨后私聊發(fā)來賬號和密碼。登錄后，記者發(fā)現(xiàn)這是一個多人共享賬號，系統(tǒng)運行比較緩慢。

商家表示如果需要單人賬號則需要額外收費，價格以100元為底價，每多使用1分鐘加2元。近日，多個電商平臺對銷售ChatGPT賬號的店鋪進行了封禁，相關(guān)關(guān)鍵詞也被屏蔽。北青報記者先前購買賬戶的商鋪相關(guān)商品也已下架。

隨著ChatGPT的爆火，國內(nèi)一些商家嗅到了生意，一批“李鬼”就此出現(xiàn)。一些微信公眾號、小程序產(chǎn)品打著ChatGPT的旗號，獲取流量，甚至向用戶收費，部分賬戶收費甚至高達千元。實際上，北青報記者了解到，這些“李鬼”通過驗證，它們與ChatGPT官方平臺回復(fù)答案完全不一致。據(jù)了解，目前，ChatGPT的開發(fā)者、人工智能研究機構(gòu)OpenAI并沒有在中國大陸提供有關(guān)ChatGPT的服務(wù)，也沒有相應(yīng)的公司運營。

據(jù)了解，微信方面封禁了大多數(shù)此類相關(guān)的小程序和公眾號。2月18日下午，北青報記者搜索相關(guān)關(guān)鍵詞發(fā)現(xiàn)，以“ChatGPT”“智能問答”等字眼作名稱的小程序已經(jīng)幾乎沒有了，但相關(guān)的公眾號仍然還有不少。其中，一個叫“超級AI問答”的公眾號提供5次免費提問機會，超過5次便需要注冊會員。該會員的收費為打折后周卡99元，月卡199元，季卡399元。

ChatGPT被誘導(dǎo)用于生成特定網(wǎng)絡(luò)釣魚郵件

北青報記者注意到，山寨版的危害可能只是蹭熱度、賺流量錢和服務(wù)費，更需要提防的，是不法分子把ChatGPT與犯罪行為聯(lián)系在一起。據(jù)公安部官網(wǎng)發(fā)布相關(guān)信息提醒稱，目前，境外有人使用ChatGPT創(chuàng)建一個完整的感染鏈：不同以往的廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚，它在提問者的誘導(dǎo)下，可以生成針對特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。此類釣魚郵件更具有欺騙性和迷惑性，接收者一旦點擊該郵件，系統(tǒng)就會被惡意代碼感染中毒。

與此同時，不法分子對ChatGPT的惡意利用，也帶來了更多的數(shù)據(jù)安全問題。目前，外國已有相關(guān)機構(gòu)證明該機器人可能被用于編寫惡意軟件，從而逃避防病毒軟件的檢測，或利用其擬人的聊天對話功能，冒充真實的人或者組織騙取他人信息等。

案例

使用ChatGPT寫作新聞稿 導(dǎo)致錯誤信息在網(wǎng)上傳播

研究機構(gòu)測試發(fā)現(xiàn)，如果對著ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問題，它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻沒有來源根據(jù)的內(nèi)容。一旦ChatGPT被不法分子利用，將可能導(dǎo)致ChatGPT衍生成為互聯(lián)網(wǎng)上制造和傳播網(wǎng)絡(luò)謠言的工具。

2月16日，一則“2023年3月1日起，杭州市政府將取消機動車尾號限行政策，此舉旨在提高城市交通效率，緩解交通擁堵，方便市民出行……”的消息在網(wǎng)上瘋傳。其一板一眼的表達讓許多市民都認(rèn)為這是官方的正式通報。然而實際情況是，杭州某小區(qū)業(yè)主群討論ChatGPT，一位業(yè)主嘗試用它寫篇杭州取消限行的新聞稿，隨后在群里直播了使用ChatGPT的寫作過程，文章發(fā)在群里后經(jīng)其他業(yè)主截圖轉(zhuǎn)發(fā)，導(dǎo)致了錯誤信息傳播。涉事業(yè)主后來在群里道歉。

分析

使用ChatGPT具有一定的法律風(fēng)險

北京京師律師事務(wù)所律師雷國亞對北青報記者表示，ChatGPT火了，但其背后暴露出的人工智能法律風(fēng)險，以及圍繞ChatGPT展開的無序商業(yè)值得重視。不少人嘗試用ChatGPT寫論文、研報，甚至寫程序等，甚至一些人用來開展商業(yè)行為。這些行為目前都具有一定的風(fēng)險，比如知識產(chǎn)權(quán)問題、原創(chuàng)性問題等。如果確實是工作需要，使用ChatGPT寫相關(guān)內(nèi)容，必須注明測試，署名時也要標(biāo)注是ChatGPT。發(fā)布者要對自己發(fā)布內(nèi)容的真實性負(fù)責(zé)，否則將承擔(dān)相應(yīng)的法律責(zé)任。以杭州將取消機動車尾號限行政策為例，如果該業(yè)主沒有盡到提醒的義務(wù)，造成后果是需要承擔(dān)一定的責(zé)任的。 文/本報記者 朱開云 供圖/視覺中國

相關(guān)

微軟修改必應(yīng)機器人體驗上限 每天50次聊天

2月17日，微軟表示，從當(dāng)日起，必應(yīng)聊天機器人體驗的上限為每天50次聊天，每輪5次對話，一次對話包含用戶的提問和必應(yīng)的回復(fù)。這是必應(yīng)在多次失控后，公司對其人工智能實施的對話限制。

微軟稱，很長的聊天會話可能會混淆必應(yīng)中的基本聊天模式，為了解決這些問題，微軟實施了一些更改，以幫助集中聊天會話。數(shù)據(jù)顯示，絕大多數(shù)人都能在5個回合內(nèi)找到要找的答案，只有約1%的聊天對話有50條以上的信息。聊天會話達到5個回合后，您會被提示開始一個新的主題。在每個聊天會話結(jié)束時，需要清除上下文，這樣模型就不會被混淆。

15日，微軟公告顯示，必應(yīng)發(fā)布7天內(nèi)，已經(jīng)有71%的人對AI驅(qū)動的答案“豎起大拇指”了。但是，如果聊天時間過久，讓它回答15個以上的問題，它就會逐漸暴躁，給出沒有用處、或與設(shè)計的語氣不符的答案。

微軟表示，很長的聊天會話會使模型混淆它正在回答的問題，因此我們可能需要添加一個工具，以使您更輕松地刷新上下文，或從頭開始。有時，在模型嘗試響應(yīng)時，可能會出現(xiàn)我們設(shè)計風(fēng)格之外的語氣。這是一個非常重要的場景，需要大量提示。你們中的大多數(shù)人不會遇到它，但我們正在研究如何進行更精細(xì)的微調(diào)控制。

2月7日，微軟推出了整合 ChatGPT-4 的全新必應(yīng)(Bing)搜索引擎，根據(jù)微軟企業(yè)副總裁兼消費領(lǐng)域首席營銷官 Yusuf Mehdi發(fā)布的消息，在新版 Bing 上線 48 小時內(nèi)，已經(jīng)有超過 100 萬申請加入。

文/本報記者 溫婧 統(tǒng)籌/余美英