據(jù)路透社當(dāng)?shù)貢r間3月29日報道，埃隆·馬斯克(ElonMusk)和一群人工智能專家及行業(yè)高管在一封公開信中呼吁，在至少6個月內(nèi)，暫停開發(fā)比GPT-4更強(qiáng)大的AI系統(tǒng)，理由是“對社會和人類構(gòu)成潛在風(fēng)險”。
特斯拉老總馬斯克出席論壇圖源：網(wǎng)絡(luò)
路透社報道，本月早些時候，微軟支持的OpenAI推出了其GPT(生成式預(yù)訓(xùn)練變壓器)AI程序的第四次迭代，該程序通過讓用戶參與類似人類的對話、創(chuàng)作歌曲和總結(jié)冗長的文章而讓用戶驚嘆不已。
未來生命研究所發(fā)布的信中說，“只有當(dāng)我們確信它們的影響將是積極的，并且它們的風(fēng)險將是可控的時候，才應(yīng)該開發(fā)強(qiáng)大的人工智能系統(tǒng)。”
根據(jù)歐盟的透明度登記冊，該非營利組織主要由馬斯克基金會、總部位于倫敦的FoundersPledge集團(tuán)和硅谷社區(qū)基金會資助。
馬斯克本月早些時候說，“人工智能讓我壓力山大”。他是行業(yè)領(lǐng)導(dǎo)者OpenAI的聯(lián)合創(chuàng)始人之一，他擁有的汽車制造商特斯拉(TSLA.O)將AI用于自動駕駛系統(tǒng)。
康奈爾大學(xué)數(shù)字和信息法教授詹姆斯·格里梅爾曼(JamesGrimmelmann)表示：“埃隆·馬斯克(ElonMusk)簽署協(xié)議是非常虛偽的。”
“暫停是個好主意，但這封信含糊不清，沒有認(rèn)真對待監(jiān)管問題。”
特斯拉上個月不得不召回超過362000輛美國汽車來更新軟件，此前美國監(jiān)管機(jī)構(gòu)表示駕駛員輔助系統(tǒng)可能會導(dǎo)致撞車，促使馬斯克在推特上表示“召回”一詞用于無線軟件更新是“不合時宜的”。
公開信敦促暫停高級AI開發(fā)，直到獨立專家制定共享安全協(xié)議，并呼吁開發(fā)人員與政策制定者就治理問題進(jìn)行合作。
“我們應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道嗎?……我們是否應(yīng)該培養(yǎng)最終可能超過我們、智勝我們并取代我們的非人類思維?”信中問道，“此類決定不得委托給未經(jīng)選舉的技術(shù)領(lǐng)導(dǎo)者。”
這封信由包括馬斯克在內(nèi)的1000多人簽名。OpenAI的首席執(zhí)行官SamAltman不在簽署這封信的人之列，Alphabet和微軟的首席執(zhí)行官SundarPichai與SatyaNadella也不在簽署者之列。
聯(lián)合簽署人包括StabilityAI首席執(zhí)行官EmadMostaque、Alphabet旗下DeepMind的研究人員、AI重量級人物YoshuaBengio(通常被稱為“AI教父”之一)和該領(lǐng)域研究的先驅(qū)StuartRussell。
隨著ChatGPT因其對國家安全和教育的影響而引起美國國會的關(guān)注，這些擔(dān)憂也隨之而來。歐盟警察歐洲刑警組織警告稱，該系統(tǒng)可能被濫用于網(wǎng)絡(luò)釣魚企圖、虛假信息和網(wǎng)絡(luò)犯罪。
