·加州共和黨眾議員杰伊·奧伯諾特是國(guó)會(huì)唯一擁有人工智能碩士學(xué)位的議員，他說(shuō)，議員們甚至不理解這項(xiàng)技術(shù)：“令人驚訝的是，我花了太多時(shí)間向同事解釋，人工智能的主要危險(xiǎn)，并不是眼睛里冒紅光的終結(jié)者T800。”

　　·歐盟委員會(huì)、歐洲理事會(huì)和歐洲議會(huì)預(yù)計(jì)最早于4月開(kāi)始的三方談判中敲定《人工智能法》的細(xì)節(jié)。但是，ChatGPT很可能會(huì)導(dǎo)致談判陷入僵局。

 

　　得益于ChatGPT的流行，美國(guó)企業(yè)開(kāi)始不斷嘗試使用人工智能賦能應(yīng)用場(chǎng)景。但與此同時(shí)，對(duì)人工智能的擔(dān)憂也在增加?！都~約時(shí)報(bào)》近日發(fā)表文章稱，美國(guó)政府似乎沒(méi)有跟上人工智能技術(shù)監(jiān)管的步伐，這可能會(huì)導(dǎo)致可怕的后果。

 

　　“由于未能建立相關(guān)體系，政策制定者正在為人工智能的惡意競(jìng)爭(zhēng)創(chuàng)造條件。”政策研究機(jī)構(gòu)艾達(dá)·洛芙萊斯研究所（AdaLovelaceInstitute）所長(zhǎng)卡莉·金德（CarlyKind）表示。

 

　　與美國(guó)不同，歐盟目前已經(jīng)在準(zhǔn)備通過(guò)一項(xiàng)法案監(jiān)管人工智能，監(jiān)管內(nèi)容包括面部識(shí)別和關(guān)鍵公共基礎(chǔ)設(shè)施。該立法將要求人工智能公司對(duì)其技術(shù)進(jìn)行風(fēng)險(xiǎn)評(píng)估，違反者可能會(huì)被罰款，最高可達(dá)其全球收入的6%。歐盟三大機(jī)構(gòu)預(yù)計(jì)最早將于4月開(kāi)始的三方談判中敲定人工智能法案的最終細(xì)節(jié)。

 

　　多位美國(guó)議員呼吁監(jiān)管人工智能

 

　　最近幾周，美國(guó)多名國(guó)會(huì)議員對(duì)人工智能的危險(xiǎn)發(fā)出了警告。

 

　　加州民主黨眾議員劉云平（TedLieu）今年1月在《紐約時(shí)報(bào)》的一篇評(píng)論文章中寫道，人工智能工具模仿人類的能力越來(lái)越強(qiáng)，他“嚇壞了”。另一位民主黨人、馬薩諸塞州眾議員杰克·奧金克洛斯（JakeAuchincloss）發(fā)表講話呼吁監(jiān)管人工智能，這段一分鐘的講話內(nèi)容由機(jī)器人撰寫。

 

　　弗吉尼亞州民主黨眾議員唐·拜爾（DonBeyer）表示，不要指望華盛頓很快就會(huì)采取行動(dòng)，他提出的一項(xiàng)要求審計(jì)人工智能的法案未能獲得支持，拜爾認(rèn)為原因是這個(gè)問(wèn)題“對(duì)議員們來(lái)說(shuō)并不緊迫”。

 

　　加州共和黨眾議員杰伊·奧伯諾特（Jayoberolte）是國(guó)會(huì)唯一擁有人工智能碩士學(xué)位的議員，他說(shuō)，議員們甚至不理解這項(xiàng)技術(shù)：“令人驚訝的是，我花了太多時(shí)間向同事解釋，人工智能的主要危險(xiǎn)，并不是眼睛里冒紅光的終結(jié)者T800。”

 

　　盡管幾名議員一直在推動(dòng)加強(qiáng)人工智能的監(jiān)管，但美國(guó)當(dāng)權(quán)機(jī)構(gòu)依舊保持沉默。

 

　　一直以來(lái)，華盛頓對(duì)人工智能收到的批評(píng)都保持了沉默。2015年1月，物理學(xué)家斯蒂芬·霍金（StephenHawking）和特斯拉首席執(zhí)行官、現(xiàn)在的推特所有者埃隆·馬斯克（ElonMusk）警告說(shuō)，人工智能正在變得危險(xiǎn)，可能導(dǎo)致人類滅絕，呼吁制定相關(guān)法規(guī)。2016年11月，第一次人工智能國(guó)會(huì)聽(tīng)證會(huì)上，議員們兩次引用了馬斯克的警告，均遭到反駁和忽視。一些學(xué)者和人工智能研究機(jī)構(gòu)OpenAI的首席執(zhí)行官薩姆·奧特曼（SamAltman）駁斥了馬斯克的預(yù)測(cè)，還有一些議員強(qiáng)調(diào)了美國(guó)在人工智能發(fā)展方面保持領(lǐng)導(dǎo)地位的重要性。德克薩斯州共和黨參議員特德·克魯茲（TedCruz）表示，國(guó)會(huì)必須“確保美國(guó)在整個(gè)21世紀(jì)都保持全球領(lǐng)導(dǎo)者的地位”。

 

　　2021年，梵蒂岡、IBM和微軟提出“呼吁人工智能倫理”承諾，呼吁對(duì)人工智能技術(shù)的運(yùn)作方式保持透明，尊重隱私并盡量減少偏見(jiàn)。該承諾還呼吁對(duì)面部識(shí)別軟件進(jìn)行監(jiān)管，該軟件使用大型照片數(shù)據(jù)庫(kù)來(lái)確定用戶的身份。此后，在華盛頓，一些立法者試圖為面部識(shí)別技術(shù)制定規(guī)則，并對(duì)公司進(jìn)行審計(jì)以防止歧視性的算法。

 

　　據(jù)《紐約時(shí)報(bào)》報(bào)道，以上這些呼吁和法案均無(wú)疾而終。

 

　　劉云平稱，今年1月，奧特曼拜訪了幾名國(guó)會(huì)議員，展示了新的人工智能模型GPT-4。奧特曼曾表示將支持政府監(jiān)管，而展示的GPT-4安全性也將更上一層樓。

 

　　但劉云平說(shuō)，政府不能依靠個(gè)別公司來(lái)保護(hù)用戶。他計(jì)劃今年提出法案成立一個(gè)研究人工智能的委員會(huì)和一個(gè)監(jiān)管人工智能的新機(jī)構(gòu)。“OpenAI決定對(duì)其技術(shù)進(jìn)行安全控制，但我們?nèi)绾伪ＷC另一家公司也會(huì)這樣做？”他問(wèn)道。

 

　　歐盟的監(jiān)管態(tài)度更積極

 

　　《人工智能法》的主要立法者本尼菲和都鐸拉奇提議，在沒(méi)有人類監(jiān)督的情況下生成復(fù)雜文本的人工智能系統(tǒng)應(yīng)該是“高風(fēng)險(xiǎn)”名單的一部分，以阻止ChatGPT大規(guī)模生成虛假信息。

 

　　相較于美國(guó)，歐洲對(duì)于監(jiān)管的態(tài)度十分積極，歐盟委員會(huì)（EuropeanCommission）、歐洲議會(huì)（EuropeanParliament）和歐盟理事會(huì)（EuropeanCouncil）在2021年就提出了《人工智能法》（ArtificialIntelligenceAct）的草案，旨在禁止一些人工智能應(yīng)用程序的功能，如社交評(píng)分、操縱用戶和面部識(shí)別等。它還計(jì)劃把人工智能的一些具體用途指定為“高風(fēng)險(xiǎn)”，將開(kāi)發(fā)人員綁定到更嚴(yán)格的透明度、安全和人力監(jiān)督要求上。但隨著ChatGPT的發(fā)布，該計(jì)劃被擾亂。

 

　　“這些人工智能就像發(fā)動(dòng)機(jī)，它們是非常強(qiáng)大的引擎和算法，可以做很多事情，但其本身并沒(méi)有主觀意識(shí)。”羅馬尼亞自由派議員德拉戈·都鐸拉奇（DragoTudorache）說(shuō)。他與意大利議員白蘭度·本尼菲（BrandoBenifei）一起，負(fù)責(zé)指導(dǎo)歐洲議會(huì)通過(guò)人工智能法案。

 

　　ChatGPT已經(jīng)促使歐盟機(jī)構(gòu)重寫了他們的計(jì)劃草案。歐盟理事會(huì)于去年12月批準(zhǔn)了新版本的《人工智能法》草案，該法案將委托委員會(huì)為通用人工智能制定網(wǎng)絡(luò)安全、透明度和風(fēng)險(xiǎn)管理要求。

 

　　今年2月，《人工智能法》的主要立法者本尼菲和都鐸拉奇提議，在沒(méi)有人類監(jiān)督的情況下生成復(fù)雜文本的人工智能系統(tǒng)應(yīng)該是“高風(fēng)險(xiǎn)”名單的一部分，以阻止ChatGPT大規(guī)模生成虛假信息。

 

　　這一想法遭到了歐洲議會(huì)右傾政治團(tuán)體的質(zhì)疑，甚至包括都鐸拉奇自己所在的自由派團(tuán)體的部分成員。對(duì)議會(huì)立場(chǎng)有正式發(fā)言權(quán)的著名中右翼議員阿克塞爾·沃斯（AxelVoss）表示，該修正案“將使許多活動(dòng)變得高風(fēng)險(xiǎn)，而這些活動(dòng)根本沒(méi)有風(fēng)險(xiǎn)”。

 

　　但一些相關(guān)人士認(rèn)為，該提議只是觸及了通用人工智能難題的表面，專注于人工智能政策的非營(yíng)利組織“生命未來(lái)研究所（FutureofLifeInstitute）”的政策主管馬克·布拉克爾（MarkBrakel）說(shuō)：“只是把文本生成系統(tǒng)列入高風(fēng)險(xiǎn)名單并不好。市面上還有其他通用人工智能系統(tǒng)，它們存在風(fēng)險(xiǎn)，也應(yīng)該受到監(jiān)管。”

 

　　兩位議員還在努力對(duì)ChatGPT和類似的AI工具施加更嚴(yán)格的要求。他們?cè)噲D對(duì)大型服務(wù)提供商實(shí)施更嚴(yán)格的限制，但同時(shí)對(duì)使用這項(xiàng)技術(shù)的日常用戶保持較寬松的制度。

 

　　本尼菲說(shuō)，教育、就業(yè)、銀行和執(zhí)法等部門的專業(yè)人士必須意識(shí)到，如果使用者的目的是侵犯?jìng)€(gè)人權(quán)利，那么人工智能技術(shù)會(huì)帶來(lái)極其嚴(yán)重的后果。

 

　　歐盟委員會(huì)、歐洲理事會(huì)和歐洲議會(huì)預(yù)計(jì)最早于4月開(kāi)始的三方談判中敲定《人工智能法》的細(xì)節(jié)。但是，ChatGPT很可能會(huì)導(dǎo)致談判陷入僵局。

 

　　在場(chǎng)外，大型科技公司，包括微軟和谷歌等也在密切關(guān)注這一事件的進(jìn)展。

 

　　負(fù)責(zé)微軟AI業(yè)務(wù)的娜塔莎·卡普頓（NatashaCrampton）說(shuō)，歐盟的《人工智能法》應(yīng)該“保持對(duì)高風(fēng)險(xiǎn)用例的關(guān)注”，并表示ChatGPT等通用AI系統(tǒng)幾乎沒(méi)有被用于高風(fēng)險(xiǎn)活動(dòng)，而是主要用于起草文件和幫助編寫代碼。

 

　　活動(dòng)組織“歐洲合作觀察（CorporateEuropeObservatory）”最近的一項(xiàng)調(diào)查還表示，包括微軟和谷歌在內(nèi)的該行業(yè)企業(yè)一直在堅(jiān)持游說(shuō)歐洲的政策制定者們，以將ChatGPT等AI工具排除在對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)施加的監(jiān)管之外。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊（SundarPichai）2020年訪問(wèn)布魯塞爾，呼吁對(duì)人工智能進(jìn)行“明智的監(jiān)管”。

 

　　有趣的是，當(dāng)詢問(wèn)ChatGPT對(duì)監(jiān)管的看法時(shí)，它也認(rèn)為人工智能可能需要監(jiān)管：“歐盟應(yīng)該考慮將生成式AI和大型語(yǔ)言模型指定為‘高風(fēng)險(xiǎn)’技術(shù)，因?yàn)樗鼈冇锌赡軇?chuàng)造有害和誤導(dǎo)性的內(nèi)容。”它認(rèn)為，歐洲應(yīng)該考慮實(shí)施一個(gè)負(fù)責(zé)任的開(kāi)發(fā)、部署和使用這些技術(shù)的框架，其中包括適當(dāng)?shù)谋Ｕ?、監(jiān)測(cè)和監(jiān)督機(jī)制。