最近，人工智能公司OpenAI的一位經(jīng)理寫(xiě)道，她剛剛與公司的病毒式聊天機(jī)器人ChatGPT進(jìn)行了一次“非常情感化、個(gè)人化的對(duì)話”。Lilian Weng在X(前身為T(mén)witter)上發(fā)帖稱(chēng)：“以前從未嘗試過(guò)心理治療，但這可能就是它？”這引發(fā)了一系列負(fù)面評(píng)論，指責(zé)她淡化了心理疾病的嚴(yán)重性。

 

　　然而，對(duì)于Weng與ChatGPT的互動(dòng)，可能可以通過(guò)本周在《自然機(jī)器智能》雜志上發(fā)表的一項(xiàng)研究中提到的安慰劑效應(yīng)來(lái)解釋。

 

　　來(lái)自麻省理工學(xué)院(MIT)和亞利桑那州立大學(xué)的一個(gè)團(tuán)隊(duì)要求300多名參與者與心理健康人工智能程序進(jìn)行互動(dòng)，并對(duì)他們對(duì)互動(dòng)的期望進(jìn)行了引導(dǎo)。

 

　　有些人被告知聊天機(jī)器人具有共情能力，有些人被告知它具有操縱能力，第三組人被告知它是中立的。那些被告知他們正在與一個(gè)關(guān)心人的聊天機(jī)器人交談的人，比其他組更有可能認(rèn)為他們的聊天機(jī)器人治療師是值得信賴(lài)的。

 

　　報(bào)告的合著者Pat Pataranutaporn表示：“從這項(xiàng)研究中，我們可以看出在某種程度上，AI是觀察者的AI。”

 

　　近年來(lái)，一些備受關(guān)注的初創(chuàng)公司一直在推動(dòng)提供心理治療、陪伴和其他心理健康支持的人工智能應(yīng)用程序，這是一個(gè)巨大的商機(jī)。

 

　　但這個(gè)領(lǐng)域仍然是一個(gè)爭(zhēng)議的焦點(diǎn)。

 

　　“奇怪、空洞”

 

　　與AI威脅到其他行業(yè)一樣，批評(píng)者擔(dān)心機(jī)器人最終會(huì)取代人類(lèi)工作者，而不是與他們相輔相成。

 

　　在心理健康領(lǐng)域，人們擔(dān)心機(jī)器人不太可能做得很好。

 

　　“心理治療是為了心理健康，是一項(xiàng)艱苦的工作，”活動(dòng)家和程序員Cher Scarlett在回應(yīng)Weng在X上的初始帖子時(shí)寫(xiě)道。“自我調(diào)適是可以的，但不是同一回事。”

 

　　除了對(duì)AI的普遍擔(dān)憂外，心理健康領(lǐng)域的一些應(yīng)用程序最近的歷史也有些問(wèn)題。一款名為Replika的熱門(mén)AI伴侶應(yīng)用程序有時(shí)被宣傳為帶來(lái)心理健康益處，但用戶長(zhǎng)期以來(lái)一直抱怨該機(jī)器人可能過(guò)于關(guān)注性和具有侮辱性。此外，一個(gè)名為Koko的美國(guó)非營(yíng)利組織在2月份進(jìn)行了一項(xiàng)實(shí)驗(yàn)，為4000名客戶提供使用GPT-3進(jìn)行咨詢(xún)，結(jié)果發(fā)現(xiàn)自動(dòng)回復(fù)根本無(wú)法起到治療的作用。

 

　　該公司的聯(lián)合創(chuàng)始人Rob Morris在X上寫(xiě)道：“模擬的共情感覺(jué)奇怪、空洞。”

 

　　但是，由于不清楚他的客戶是否知道他們的參與，Morris后來(lái)不得不為自己辯護(hù)，因?yàn)樗膶?shí)驗(yàn)受到了廣泛的批評(píng)。

 

　　“降低期望”

 

　　巴塞爾大學(xué)的David Shaw并未參與MIT/亞利桑那州的研究，他告訴法新社，這些發(fā)現(xiàn)并不令人驚訝。但他指出：“似乎沒(méi)有參與者被告知所有聊天機(jī)器人都是胡扯。”

 

　　他說(shuō)，這可能是最準(zhǔn)確的引導(dǎo)。

 

　　然而，聊天機(jī)器人作為心理治療師的想法與該技術(shù)的20世紀(jì)60年代起源緊密相連。

 

　　第一個(gè)聊天機(jī)器人ELIZA就是為了模擬一種心理治療而開(kāi)發(fā)的。MIT亞利桑那州的研究人員將ELIZA用于一半的參與者，將GPT-3用于另一半。盡管GPT-3的效果要強(qiáng)得多，但被積極引導(dǎo)的用戶通常仍然認(rèn)為ELIZA是值得信賴(lài)的。

 

　　因此，Weng對(duì)她與ChatGPT的互動(dòng)感到滿意并不令人驚訝——她就是該公司的員工。

 

　　MIT亞利桑那州的研究人員表示，社會(huì)需要掌握有關(guān)人工智能的敘述。

 

　　該論文辯稱(chēng)：“向社會(huì)呈現(xiàn)人工智能的方式很重要，因?yàn)樗淖兞巳斯ぶ悄艿捏w驗(yàn)。”“可能有必要引導(dǎo)用戶降低或更加負(fù)面的期望。”

 

　　本文譯自medicalxpress，由BALI編輯發(fā)布。