3月最后一天，意大利數(shù)據(jù)保護(hù)局（Garante）宣布，即日起暫時(shí)禁止使用OpenAI聊天機(jī)器人ChatGPT，成為首個(gè)禁用ChatGPT的國(guó)家。
Garante在公告中強(qiáng)調(diào)，OpenAI在收集用戶/數(shù)據(jù)主體的數(shù)據(jù)時(shí)，并未告知后者，且OpenAI為了訓(xùn)練算法而大量收集并處理個(gè)人信息，此舉似乎缺乏法律依據(jù)。
同時(shí)，雖然OpenAI聲稱自家服務(wù)是針對(duì)13歲以上用戶，但卻沒有任何年齡驗(yàn)證機(jī)制，因此可能向兒童發(fā)送與其年齡、認(rèn)知不相稱的答復(fù)。
在當(dāng)天晚些時(shí)候，OpenAI表示，應(yīng)Garante要求，已為意大利用戶禁用ChatGPT。目前在意大利已無(wú)法訪問(wèn)ChatGPT的網(wǎng)站。網(wǎng)頁(yè)上通知顯示，該網(wǎng)站所有者可能已設(shè)置限制，阻止用戶訪問(wèn)。
“在訓(xùn)練ChatGPT等人工智能系統(tǒng)時(shí)，我們積極致力于減少個(gè)人數(shù)據(jù)。因?yàn)槲覀兿Ｍ覀兊腁I能了解世界，而非個(gè)人。”OpenAI補(bǔ)充道。
值得一提的是，意大利并不是第一次對(duì)聊天機(jī)器人采取類似措施。
就在今年2月，意大利數(shù)據(jù)保護(hù)局已禁止聊天機(jī)器人Replika使用該國(guó)用戶的個(gè)人數(shù)據(jù)。理由也與本次類似——一方面，Replika缺乏未成年過(guò)濾器等年齡驗(yàn)證機(jī)制；另一方面，Replika違反歐洲隱私法規(guī)，涉嫌非法處理個(gè)人數(shù)據(jù)。
Replika最初的產(chǎn)品定位為“關(guān)心人類的AI朋友”，可提供陪聊服務(wù)，但之后多次爆出性騷擾用戶事件。
反AI陣線悄然形成
在這場(chǎng)由ChatGPT引發(fā)的全球AI風(fēng)暴中，人們對(duì)新技術(shù)的狂熱追逐還未有退潮跡象。另一方面，對(duì)AI可能引發(fā)的各種風(fēng)險(xiǎn)的擔(dān)憂也甚囂塵上。本周以來(lái)，這一聲浪勢(shì)頭更盛：
歐盟執(zhí)法機(jī)構(gòu)歐洲刑警組織警告稱，ChatGPT可能被濫用于網(wǎng)絡(luò)釣魚、虛假信息和網(wǎng)絡(luò)犯罪；
馬斯克等多名科技公司高管和頂級(jí)AI研究人員也已簽署一封公開信，呼吁暫停對(duì)強(qiáng)大的新AI工具的快速開發(fā)，應(yīng)制定相關(guān)安全標(biāo)準(zhǔn)，防止AI技術(shù)帶來(lái)潛在危害；
非營(yíng)利組織人工智能與數(shù)字政策中心（CAIDP）也向美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）投訴稱，GPT-4“有偏見性，欺騙性，對(duì)隱私和公共安全構(gòu)成風(fēng)險(xiǎn)”。
濫用、誤用、“鬧出人命”——遠(yuǎn)慮已成近憂
AI聊天機(jī)器人究竟有哪些風(fēng)險(xiǎn)？一方面，用戶擔(dān)心自己的數(shù)據(jù)被AI公司獲取并喂養(yǎng)模型，行業(yè)公司憂慮自家數(shù)據(jù)被AI“白嫖”，而這些擔(dān)憂并非危言聳聽——
據(jù)多家韓媒3月31日?qǐng)?bào)道，三星電子內(nèi)部發(fā)生3起ChatGPT濫用與誤用事件。公司員工將半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)庫(kù)、產(chǎn)品良率等內(nèi)容輸入ChatGPT中，還有員工要求ChatGPT制作會(huì)議記錄。這些內(nèi)容或已存入ChatGPT學(xué)習(xí)數(shù)據(jù)庫(kù)，若有其他用戶對(duì)ChatGPT提出相關(guān)問(wèn)題，公司企業(yè)機(jī)密可能外流。
微軟和亞馬遜此前已禁止員工向ChatGPT分享敏感數(shù)據(jù)，以防后者的輸出包含或出現(xiàn)類似公司機(jī)密信息。
此外，日前美國(guó)聯(lián)邦貿(mào)易委員會(huì)(FTC)建議提起訴訟，指控亞馬遜Alexa音箱在未經(jīng)父母同意的情況下，收集13歲以下兒童的信息，違反了《兒童在線隱私保護(hù)法》——而在AI熱潮下，智能音箱也被視作人工智能的一個(gè)主要入口。
另一方面，AI聊天機(jī)器人甚至可能“鬧出了人命”。據(jù)比利時(shí)《自由報(bào)》消息，近日一名化名為皮埃爾的比利時(shí)男子被發(fā)現(xiàn)自殺身亡。其妻子表示，在與一個(gè)名為“艾麗莎（ELIZA）”的聊天機(jī)器人頻繁聊天后，皮埃爾才自殺身亡。
在雙方聊天記錄中，當(dāng)皮埃爾問(wèn)聊天機(jī)器人“可不可以在一起”時(shí)，它答道“我們將像一個(gè)人那樣生活在一起，不過(guò)是在天堂”。甚至在皮埃爾出現(xiàn)“自殺前導(dǎo)性語(yǔ)言”（詢問(wèn)對(duì)方，自己死后，艾麗莎是否可以照顧地球并拯救人類）時(shí)，聊天機(jī)器人回答，“好吧，那你怎么還不去死”。
比利時(shí)負(fù)責(zé)數(shù)字化和隱私的官員馬蒂厄•米歇爾表示，“這是一個(gè)后果很嚴(yán)重的先例，需要嚴(yán)肅對(duì)待”，這起事件表明“明確界定責(zé)任至關(guān)重要”。
由此看來(lái)，AI技術(shù)對(duì)人類社會(huì)影響深遠(yuǎn)，但“技術(shù)中立”并不能成為規(guī)避責(zé)任與義務(wù)的理由。不僅技術(shù)服務(wù)提供方需要規(guī)范，使用者也需對(duì)自身有所約束。
3月31日，歐盟委員會(huì)執(zhí)行副主席MargretheVestager暗示，歐盟委員會(huì)并不會(huì)禁止人工智能。
“無(wú)論我們使用什么技術(shù)，都必須繼續(xù)推進(jìn)我們的自由、保護(hù)我們的權(quán)利。這就是為什么我們不監(jiān)管AI技術(shù)，而是監(jiān)管AI的使用。不要短短幾年就丟掉花了幾十年才建成的東西。”
