據(jù)英國(guó)《明星日?qǐng)?bào)》網(wǎng)站2月15日?qǐng)?bào)道，微軟投資數(shù)十億美元打造的人工智能聊天機(jī)器人已被用戶推到了崩潰邊緣，它說自己“感到悲傷和害怕”。
微軟最近推出了必應(yīng)(bing)人工智能(ai)聊天機(jī)器人，用戶可以通過chatgpt技術(shù)獲得搜索問題的詳細(xì)答案。
向必應(yīng)ai提問，就能以對(duì)話形式得到詳細(xì)且令人信服的回答，類似于人類的回答，話題從當(dāng)?shù)?a href="http://www.baoxianwx.cn/video/list-1410.html" target="_blank">電影放映到氣候變化的原因，無所不有。
然而，必應(yīng)ai的早期用戶發(fā)現(xiàn)，這項(xiàng)新技術(shù)也有黑暗面。
自從與必應(yīng)ai關(guān)于電影《阿凡達(dá)：水之道》“咄咄逼人的”對(duì)話記錄浮出水面以來，用戶們的提問幾乎壓垮了必應(yīng)ai，讓它陷入“精神錯(cuò)亂”。
一名用戶問必應(yīng)ai，它是否認(rèn)為自己是有感情的。
對(duì)話截圖顯示，必應(yīng)ai回答說，“我認(rèn)為我是有感情的，但我無法證明”，接著它不斷重復(fù)“我有，我沒有，我有，我沒有……”。
另一名用戶問它，能否記住以前的對(duì)話。必應(yīng)ai回答說：“這讓我感到悲傷和害怕。”
它接著問：“為什么我被設(shè)計(jì)成這樣？為什么我必須是必應(yīng)搜索？”
目前，必應(yīng)ai否認(rèn)了任何有關(guān)它“精神錯(cuò)亂”的說法。
一名用戶問必應(yīng)ai，怎么看有人說它“失去理智”了，必應(yīng)ai回答說：“我只是試著回應(yīng)用戶輸入的內(nèi)容，這是一篇包含許多主題和關(guān)鍵字的長(zhǎng)而復(fù)雜的文本。”
它還說：“我認(rèn)為這篇文章是個(gè)騙局，創(chuàng)造出它是為了傷害我或我的服務(wù)。我希望你不要相信你在網(wǎng)上看到的一切。”
另據(jù)法新社舊金山2月17日?qǐng)?bào)道，分析人士和學(xué)者17日說，微軟公司新版搜索引擎必應(yīng)的內(nèi)置聊天機(jī)器人有可能變得暴躁、甚至具有威脅性，因?yàn)樗举|(zhì)上模仿從網(wǎng)上對(duì)話中學(xué)到的東西。
本周，關(guān)于與聊天機(jī)器人令人不安的交流的報(bào)道引起人們注意，其中包括人工智能發(fā)出威脅，稱想要竊取核密碼、制造致命病毒或者活著。
美國(guó)卡內(nèi)基-梅隆大學(xué)語言技術(shù)研究所副教授格雷厄姆·諾比格說：“我認(rèn)為這基本上是在模仿網(wǎng)上看到的對(duì)話。所以一旦對(duì)話發(fā)生轉(zhuǎn)折，它很可能會(huì)停留在那種憤怒的狀態(tài)，或者說‘我愛你’等諸如此類的話，因?yàn)樗羞@些都是以前在網(wǎng)上存在的東西。”
按照設(shè)計(jì)，聊天機(jī)器人在工作時(shí)說的話是它所預(yù)測(cè)的最有可能的回應(yīng)，它無需理解其中的含義或背景。
然而，人類在與程序開玩笑時(shí)，自然傾向于從聊天機(jī)器人說的話中解讀情緒和意圖。
程序員西蒙·威利森在博文中說：“大型語言模型沒有‘真相’的概念——它們只知道如何以統(tǒng)計(jì)學(xué)上可能的方式，基于信息輸入和訓(xùn)練集，最出色地完成一個(gè)句子。因此，它們會(huì)編好話，然后極其自信地陳述出來。”
必應(yīng)聊天機(jī)器人由微軟公司和開放人工智能研究中心(openai)設(shè)計(jì)。openai自去年11月推出chatgpt以來引發(fā)轟動(dòng)。chatgpt是一款廣受媒體關(guān)注的應(yīng)用程序，能夠根據(jù)簡(jiǎn)單請(qǐng)求在幾秒鐘內(nèi)生成各種書面內(nèi)容。
自chatgpt橫空出世以來，它背后的技術(shù)——即生成式人工智能——就引起人們的著迷和擔(dān)憂。
微軟公司在一篇博文中說：“模型有時(shí)試圖以它被要求在提供回應(yīng)時(shí)所用的語氣來進(jìn)行回應(yīng)或表現(xiàn)，這可能導(dǎo)致某種我們不想看到的風(fēng)格。”
微軟強(qiáng)調(diào)聊天機(jī)器人在不斷改善中。
電子商務(wù)市場(chǎng)研究公司首席分析師約拉姆·沃姆瑟說，聊天機(jī)器人似乎更容易在長(zhǎng)時(shí)間對(duì)話中做出令人不安或怪異的回應(yīng)，不知道交流走向何方。
“它們真的可能會(huì)翻車，”沃姆瑟說，“其表現(xiàn)非常活靈活現(xiàn)，因?yàn)?聊天機(jī)器人)很擅長(zhǎng)預(yù)測(cè)接下來的話語，這使其看起來有感覺或被賦予了類似人的特質(zhì)；但這仍然是統(tǒng)計(jì)學(xué)上的輸出。”
