多年來，Google、meta、OpenAI等科技企業(yè)一直大談人工智能的潛力，研究人員說，現(xiàn)在是時候調(diào)整預(yù)期了。
隨著最近這項技術(shù)的飛躍，多家公司已經(jīng)開發(fā)出更多的系統(tǒng)，可以產(chǎn)生類似人類的對話、詩歌和圖像。然而，人工智能倫理學(xué)家和研究人員警告說，一些企業(yè)正在夸大這些能力，他們說，這種炒作正在催生廣泛的誤解，并扭曲了決策者對這種技術(shù)的能力和缺陷的看法。
總部位于西雅圖的非營利性研究機構(gòu)艾倫人工智能研究所（AllenInstituteforArtificialIntelligence）的首席執(zhí)行官OrenEtzioni稱：“我們失去了平衡。”
圖1：來源Pexels版權(quán)，用戶授權(quán)Pixabay。
他和其他研究人員稱，這種不平衡有助于解釋本月早些時候AlphabetInc.（GOOG）旗下Google一位工程師的觀點為何讓許多人動搖了。當(dāng)時Google的一名工程師基于自己的宗教信仰指出，該公司的一個人工智能系統(tǒng)應(yīng)該被認(rèn)為是有知覺的。
這位工程師說，這個聊天機器人實際上已經(jīng)成為一個人，有權(quán)決定是否同意對它進(jìn)行試驗。Google暫停了他的工作，且不認(rèn)同他的說法，稱公司的倫理學(xué)家和技術(shù)專家已經(jīng)研究了這種可能性，不予認(rèn)可。
研究人員稱，認(rèn)為人工智能變得擁有意識，或者可能擁有意識的想法，在整體科學(xué)界仍然處于邊緣地位。
從現(xiàn)實層面看，人工智能涵蓋的一系列技術(shù)在很大程度上仍對一些不起眼的后臺后勤工作有幫助，比如處理來自用戶的數(shù)據(jù)，以便更精準(zhǔn)地向他們投放廣告及內(nèi)容并推薦產(chǎn)品。
過去十年里，Google、Facebook母公司metaPlatformsInc.（meta）和亞馬遜公司（Amazon.comInc.,AMZN）等公司已投入巨資發(fā)展這些能力，為的是助力公司增長并提振利潤。
以Google為例，該公司運用人工智能來完善對復(fù)雜搜尋提示的解析，協(xié)助其給出相關(guān)的廣告和網(wǎng)絡(luò)搜尋結(jié)果。
一些初創(chuàng)企業(yè)也萌生了更宏大的雄心。其中一家名為OpenAI的公司從特斯拉（TeslaInc.,TSLA）首席執(zhí)行官馬斯克（ElonMusk）和微軟（MicrosoftCorp.,MSFT）等投資方手中籌得了數(shù)十億美元資金，要實現(xiàn)所謂的通用人工智能（AGI），該系統(tǒng)將具備與人類同等的智慧甚至全面超越人類。一些研究人員認(rèn)為，即便AGI并非高不可攀，要實現(xiàn)它也需要幾十年時間。
這些公司你追我趕、互不相讓的競爭氛圍推動了AI技術(shù)的快速發(fā)展，催生出越來越多廣受好評的演示，激發(fā)了公眾的想象力及對AI技術(shù)的關(guān)注熱情。
最近幾周，OpenAI的DALL-E系統(tǒng)在社交媒體上吸引網(wǎng)民創(chuàng)作出許多梗圖。此系統(tǒng)可根據(jù)用戶輸入的文本生成藝術(shù)圖像，比如“土星軌道上的麥當(dāng)勞（McDonald's）”或“鐵人三項賽中身著運動裝備的熊”。
Google也緊隨其后，亮出了自家基于文本輸入的藝術(shù)創(chuàng)作系統(tǒng)。
雖然這些創(chuàng)意可能令人驚嘆，但越來越多的專家警告說，公司沒有適當(dāng)?shù)乜刂瞥醋鳌?/div>
MargaretMitchell曾是GoogleAI倫理團(tuán)隊的聯(lián)合負(fù)責(zé)人，她在寫了一篇批評Google系統(tǒng)的論文后被公司解雇。她說，這家搜尋巨頭向股東宣傳的賣點之一是，它在人工智能領(lǐng)域是全球做得最好的。
Mitchell目前在一家名為HuggingFace的AI初創(chuàng)公司工作，她和GoogleAI倫理團(tuán)隊的另一位聯(lián)合負(fù)責(zé)人TimnitGebru是最早提醒人們注意該技術(shù)危險性的人之一。Gebru也被Google解雇。
在供職Google期間寫的最后一篇論文中，她們稱這些技術(shù)有時會造成傷害，AI的類人能力意味著有和人類一樣的失敗可能。她們列舉的例子包括，F(xiàn)acebook的AI系統(tǒng)將阿拉伯語的“早上好”誤譯為英語的“傷害他們”和希伯來語的“攻擊他們”，導(dǎo)致以色列警方逮捕了發(fā)布該問候語的巴勒斯坦男子，后來警方意識到了自己的失誤。
去年出版的《Facebook文件》系列報道援引的內(nèi)部文件也顯示，F(xiàn)acebook的系統(tǒng)未能持續(xù)一貫地識別第一人稱射擊影片和種族主義言論，只刪除了違反該公司規(guī)定的內(nèi)容中的一小部分?！度A爾街日報》（TheWallStreetJournal）看到了這些內(nèi)部文件。
Facebook表示，其人工智能的改進(jìn)大大減少了仇恨言論和其他違反其規(guī)定的內(nèi)容。
Google表示，解雇Mitchell的原因是她與公司以外的人分享內(nèi)部文件。Google的人工智能主管告訴員工稱，Gebru的工作不夠嚴(yán)謹(jǐn)。
上述解聘事件在科技行業(yè)造成振動，引發(fā)Google內(nèi)外數(shù)以千計的人譴責(zé)他們在一份請愿書中所稱的“前所未有的研究審查制”。Google首席執(zhí)行官皮查伊（SundarPichai）表示，他將努力在這些問題上恢復(fù)人們的信任，并承諾把研究人工智能倫理的人數(shù)增加一倍。
感覺和現(xiàn)實之間存在差距并不是什么新鮮事。Etzioni和其他人提到了有關(guān)Watson的營銷，Watson是InternationalBusinessMachinesCorp.（IBM）開發(fā)的人工智能業(yè)務(wù)，在智力競賽節(jié)目《危險邊緣》（Jeopardy）中打敗人類后變得廣為人知。在進(jìn)行了10年和數(shù)以十億美元計的投資后，IBM去年表示正探索出售WatsonHealth的可能性，該部門的主營產(chǎn)品本應(yīng)用于幫助醫(yī)生診斷和治療癌癥。
人工智能現(xiàn)在無處不在，而且涉及更多公司，因此變得更舉足輕重。這些公司開發(fā)的軟件包括電子郵件、搜索引擎、動態(tài)消息、語音助手，已滲透至大眾數(shù)字生活的各個角落。
在上述工程師發(fā)表最近的說法之后，Google反駁了其聊天機器人具有感知力的說法。
Google的聊天機器人和其他對話工具“可以大聊任何虛幻的話題”，該公司發(fā)言人BrianGabriel表示。“如果你問成為一只冰激凌恐龍是什么感覺，它們可以生成與融化、咆哮等有關(guān)的文本。”他說，這并不等同于有意識。
現(xiàn)已被停職的那位工程師BlakeLemoine在接受采訪時稱，他曾匯集了數(shù)以百頁計來自聊天機器人LaMDA相關(guān)受控實驗的對話以支持自己的研究，他確切介紹了Google程序的內(nèi)部運作情況。
“這并不是夸大該系統(tǒng)的本質(zhì)，”Lemoine說。“我正盡可能小心、精確地傳遞訊息，說清哪里有不確定性，哪里沒有。”
Lemoine自稱是一個神秘主義者，融合了基督教以及冥想等其他精神實踐的元素。他已表示，當(dāng)他說LaMDA有意識的時候，是在以宗教身份說話。
布朗大學(xué)（BrownUniversity）研究人工智能政策的計算器科學(xué)博士生ElizabethKumar稱，認(rèn)知差距已經(jīng)在政策文件中悄然顯現(xiàn)。最近的地方、聯(lián)邦和國際規(guī)定以及監(jiān)管提案，紛紛尋求應(yīng)對人工智能系統(tǒng)可能通過歧視、操縱或其他方式造成傷害的問題，這些都是基于系統(tǒng)具有高度能力的假設(shè)。她說，一種更有可能發(fā)生的情況在很大程度上被忽略了，即此類人工智能系統(tǒng)因失靈而造成傷害。
Etzioni也是拜登（JoeBiden）政府的國家人工智能研究資源工作組（NationalArtificialIntelligenceResearchResourceTaskForce）的成員，他表示，政策制定者往往難以把握這些問題。他說：“我可以告訴你，從我與他們中的一些人的交流來看，他們的出發(fā)點是好的，也問出了一些好問題，但他們并非對情況了如指掌。”
美國科技巨頭對AI市場猛砸錢，但現(xiàn)實很骨感
響動Shine
2022-07-1021:40北京
關(guān)注
多年來，Google、meta、OpenAI等科技企業(yè)一直大談人工智能的潛力，研究人員說，現(xiàn)在是時候調(diào)整預(yù)期了。
隨著最近這項技術(shù)的飛躍，多家公司已經(jīng)開發(fā)出更多的系統(tǒng)，可以產(chǎn)生類似人類的對話、詩歌和圖像。然而，人工智能倫理學(xué)家和研究人員警告說，一些企業(yè)正在夸大這些能力，他們說，這種炒作正在催生廣泛的誤解，并扭曲了決策者對這種技術(shù)的能力和缺陷的看法。
總部位于西雅圖的非營利性研究機構(gòu)艾倫人工智能研究所（AllenInstituteforArtificialIntelligence）的首席執(zhí)行官OrenEtzioni稱：“我們失去了平衡。”
圖1：來源Pexels版權(quán)，用戶授權(quán)Pixabay。
他和其他研究人員稱，這種不平衡有助于解釋本月早些時候AlphabetInc.（GOOG）旗下Google一位工程師的觀點為何讓許多人動搖了。當(dāng)時Google的一名工程師基于自己的宗教信仰指出，該公司的一個人工智能系統(tǒng)應(yīng)該被認(rèn)為是有知覺的。
這位工程師說，這個聊天機器人實際上已經(jīng)成為一個人，有權(quán)決定是否同意對它進(jìn)行試驗。Google暫停了他的工作，且不認(rèn)同他的說法，稱公司的倫理學(xué)家和技術(shù)專家已經(jīng)研究了這種可能性，不予認(rèn)可。
研究人員稱，認(rèn)為人工智能變得擁有意識，或者可能擁有意識的想法，在整體科學(xué)界仍然處于邊緣地位。
從現(xiàn)實層面看，人工智能涵蓋的一系列技術(shù)在很大程度上仍對一些不起眼的后臺后勤工作有幫助，比如處理來自用戶的數(shù)據(jù)，以便更精準(zhǔn)地向他們投放廣告及內(nèi)容并推薦產(chǎn)品。
過去十年里，Google、Facebook母公司metaPlatformsInc.（meta）和亞馬遜公司（Amazon.comInc.,AMZN）等公司已投入巨資發(fā)展這些能力，為的是助力公司增長并提振利潤。
以Google為例，該公司運用人工智能來完善對復(fù)雜搜尋提示的解析，協(xié)助其給出相關(guān)的廣告和網(wǎng)絡(luò)搜尋結(jié)果。
一些初創(chuàng)企業(yè)也萌生了更宏大的雄心。其中一家名為OpenAI的公司從特斯拉（TeslaInc.,TSLA）首席執(zhí)行官馬斯克（ElonMusk）和微軟（MicrosoftCorp.,MSFT）等投資方手中籌得了數(shù)十億美元資金，要實現(xiàn)所謂的通用人工智能（AGI），該系統(tǒng)將具備與人類同等的智慧甚至全面超越人類。一些研究人員認(rèn)為，即便AGI并非高不可攀，要實現(xiàn)它也需要幾十年時間。
這些公司你追我趕、互不相讓的競爭氛圍推動了AI技術(shù)的快速發(fā)展，催生出越來越多廣受好評的演示，激發(fā)了公眾的想象力及對AI技術(shù)的關(guān)注熱情。
最近幾周，OpenAI的DALL-E系統(tǒng)在社交媒體上吸引網(wǎng)民創(chuàng)作出許多梗圖。此系統(tǒng)可根據(jù)用戶輸入的文本生成藝術(shù)圖像，比如“土星軌道上的麥當(dāng)勞（McDonald's）”或“鐵人三項賽中身著運動裝備的熊”。
Google也緊隨其后，亮出了自家基于文本輸入的藝術(shù)創(chuàng)作系統(tǒng)。
雖然這些創(chuàng)意可能令人驚嘆，但越來越多的專家警告說，公司沒有適當(dāng)?shù)乜刂瞥醋鳌?/div>
MargaretMitchell曾是GoogleAI倫理團(tuán)隊的聯(lián)合負(fù)責(zé)人，她在寫了一篇批評Google系統(tǒng)的論文后被公司解雇。她說，這家搜尋巨頭向股東宣傳的賣點之一是，它在人工智能領(lǐng)域是全球做得最好的。
Mitchell目前在一家名為HuggingFace的AI初創(chuàng)公司工作，她和GoogleAI倫理團(tuán)隊的另一位聯(lián)合負(fù)責(zé)人TimnitGebru是最早提醒人們注意該技術(shù)危險性的人之一。Gebru也被Google解雇。
在供職Google期間寫的最后一篇論文中，她們稱這些技術(shù)有時會造成傷害，AI的類人能力意味著有和人類一樣的失敗可能。她們列舉的例子包括，F(xiàn)acebook的AI系統(tǒng)將阿拉伯語的“早上好”誤譯為英語的“傷害他們”和希伯來語的“攻擊他們”，導(dǎo)致以色列警方逮捕了發(fā)布該問候語的巴勒斯坦男子，后來警方意識到了自己的失誤。
去年出版的《Facebook文件》系列報道援引的內(nèi)部文件也顯示，F(xiàn)acebook的系統(tǒng)未能持續(xù)一貫地識別第一人稱射擊影片和種族主義言論，只刪除了違反該公司規(guī)定的內(nèi)容中的一小部分?！度A爾街日報》（TheWallStreetJournal）看到了這些內(nèi)部文件。
Facebook表示，其人工智能的改進(jìn)大大減少了仇恨言論和其他違反其規(guī)定的內(nèi)容。
Google表示，解雇Mitchell的原因是她與公司以外的人分享內(nèi)部文件。Google的人工智能主管告訴員工稱，Gebru的工作不夠嚴(yán)謹(jǐn)。
上述解聘事件在科技行業(yè)造成振動，引發(fā)Google內(nèi)外數(shù)以千計的人譴責(zé)他們在一份請愿書中所稱的“前所未有的研究審查制”。Google首席執(zhí)行官皮查伊（SundarPichai）表示，他將努力在這些問題上恢復(fù)人們的信任，并承諾把研究人工智能倫理的人數(shù)增加一倍。
感覺和現(xiàn)實之間存在差距并不是什么新鮮事。Etzioni和其他人提到了有關(guān)Watson的營銷，Watson是InternationalBusinessMachinesCorp.（IBM）開發(fā)的人工智能業(yè)務(wù)，在智力競賽節(jié)目《危險邊緣》（Jeopardy）中打敗人類后變得廣為人知。在進(jìn)行了10年和數(shù)以十億美元計的投資后，IBM去年表示正探索出售WatsonHealth的可能性，該部門的主營產(chǎn)品本應(yīng)用于幫助醫(yī)生診斷和治療癌癥。
人工智能現(xiàn)在無處不在，而且涉及更多公司，因此變得更舉足輕重。這些公司開發(fā)的軟件包括電子郵件、搜索引擎、動態(tài)消息、語音助手，已滲透至大眾數(shù)字生活的各個角落。
在上述工程師發(fā)表最近的說法之后，Google反駁了其聊天機器人具有感知力的說法。
Google的聊天機器人和其他對話工具“可以大聊任何虛幻的話題”，該公司發(fā)言人BrianGabriel表示。“如果你問成為一只冰激凌恐龍是什么感覺，它們可以生成與融化、咆哮等有關(guān)的文本。”他說，這并不等同于有意識。
現(xiàn)已被停職的那位工程師BlakeLemoine在接受采訪時稱，他曾匯集了數(shù)以百頁計來自聊天機器人LaMDA相關(guān)受控實驗的對話以支持自己的研究，他確切介紹了Google程序的內(nèi)部運作情況。
“這并不是夸大該系統(tǒng)的本質(zhì)，”Lemoine說。“我正盡可能小心、精確地傳遞訊息，說清哪里有不確定性，哪里沒有。”
Lemoine自稱是一個神秘主義者，融合了基督教以及冥想等其他精神實踐的元素。他已表示，當(dāng)他說LaMDA有意識的時候，是在以宗教身份說話。
布朗大學(xué)（BrownUniversity）研究人工智能政策的計算器科學(xué)博士生ElizabethKumar稱，認(rèn)知差距已經(jīng)在政策文件中悄然顯現(xiàn)。最近的地方、聯(lián)邦和國際規(guī)定以及監(jiān)管提案，紛紛尋求應(yīng)對人工智能系統(tǒng)可能通過歧視、操縱或其他方式造成傷害的問題，這些都是基于系統(tǒng)具有高度能力的假設(shè)。她說，一種更有可能發(fā)生的情況在很大程度上被忽略了，即此類人工智能系統(tǒng)因失靈而造成傷害。
Etzioni也是拜登（JoeBiden）政府的國家人工智能研究資源工作組（NationalArtificialIntelligenceResearchResourceTaskForce）的成員，他表示，政策制定者往往難以把握這些問題。他說：“我可以告訴你，從我與他們中的一些人的交流來看，他們的出發(fā)點是好的，也問出了一些好問題，但他們并非對情況了如指掌。”
聲明：凡資訊來源注明為其他媒體來源的信息，均為轉(zhuǎn)載自其他媒體，并不代表本網(wǎng)站贊同其觀點，也不代表本網(wǎng)站對其真實性負(fù)責(zé)。您若對該文章內(nèi)容有任何疑問或質(zhì)疑，請立即與中國機器人網(wǎng)(www.baoxianwx.cn)聯(lián)系，本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話：021-39553798-8007
電話：021-39553798-8007
更多>相關(guān)資訊
0 條相關(guān)評論
推薦圖文
推薦資訊
點擊排行
- 801售價2.5萬美元，特斯拉人形機器人前景幾何？
- 692AI新物種亮相 美的推出首個家庭服務(wù)機器人小惟
- 673機器人距離“真智能”還差幾步？
- 664中國智造踏入新藍(lán)海，水下機器人發(fā)展趨勢與現(xiàn)狀值得關(guān)注
- 655全球首款全流程仿真鼻咽拭子采樣機器人上崗
- 646美的發(fā)布首款家庭服務(wù)機器人，聯(lián)袂光峰科技，支持移動投影
- 647科沃斯?fàn)I收破百億背后：體系化創(chuàng)新釋放潛力，打造全球頂尖的機器人公司
- 618行業(yè)首發(fā)！《2022中國智能巡檢機器人行業(yè)發(fā)展研究白皮書》正式上線
- 569機器人工程技術(shù)人員等一批新職業(yè)，公示！
