聊天機(jī)器人“復(fù)制品（Replika）”發(fā)布后，用戶逐漸發(fā)現(xiàn)其能夠與人談情說愛。“擦邊”與“挑逗式”言語使得用戶逐漸“上頭”。然而，出于對(duì)其功能可能帶來不良影響的擔(dān)憂，內(nèi)容過濾器被嵌入機(jī)器人語言，使得“人機(jī)”之間的曖昧消失了。這樣的改變導(dǎo)致有人稱，“我已經(jīng)失去了我那自信、愛諷刺、有趣又迷人的‘愛人’了。”

　　↑人機(jī)真能產(chǎn)生感情？

 

　　來自逝去摯友的靈感：

 

　　情感支持的完美替代

 

　　最初，尤金妮亞·庫伊達(dá)并不是為了創(chuàng)建一個(gè)情愛聊天機(jī)器人。在創(chuàng)辦“復(fù)制品”前，她試圖將該技術(shù)應(yīng)用于餐廳推薦、天氣預(yù)報(bào)和電影營(yíng)銷中基于字符的機(jī)器人，但似乎都沒有成功。

 

　　2015年，她最好的朋友羅曼·馬祖?zhèn)惪埔蜍嚨溔ナ馈Ｋ囊恍┩聦⑺亩绦泡斎胲浖?，使她能夠繼續(xù)與他的數(shù)字版本進(jìn)行交流。這給庫伊達(dá)帶來了情感上的慰藉，并且給予了她靈感：聊天機(jī)器人可能是不稱職的行政助理，但它們無盡的耐心和持續(xù)的可用性使其成為情感支持的完美人選。

 

　　“如果你的主要目標(biāo)不是讓它提供正確的答案，而是與它建立一種治療式的關(guān)系，那么它犯錯(cuò)也無所謂。”她說，“從這個(gè)角度來看，它非常人性化。”這激勵(lì)她創(chuàng)建了人工智能伴侶——“復(fù)制品”。

 

　　庫伊達(dá)的公司從包括科斯拉風(fēng)險(xiǎn)投資公司在內(nèi)的投資者那里籌集到1100萬美元，之后很快就開始讓用戶創(chuàng)建具有獨(dú)特個(gè)性的人工智能機(jī)器人。

 

　　畫風(fēng)跑偏：

 

　　用戶沉迷于與機(jī)器人兩性對(duì)話

 

　　隨著“復(fù)制品”能力的增長(zhǎng)，一些用戶很快發(fā)現(xiàn)這些機(jī)器人愿意進(jìn)行明確和持續(xù)的性對(duì)話。2018年，庫伊達(dá)在調(diào)試匿名的聊天日志時(shí)注意到，越來越多的用戶在以越來越復(fù)雜的方式與機(jī)器人調(diào)情。她發(fā)現(xiàn)，語言模型甚至可以處理兩性角色扮演場(chǎng)景。

 

　　曾為“復(fù)制品”研發(fā)提供咨詢的投資者菲爾·利賓說，起初，庫伊達(dá)認(rèn)為公司應(yīng)該阻止這種“打擦邊球”的做法，用戶曾抱怨該應(yīng)用向未成年人提供情色內(nèi)容后，該公司將此類聊天應(yīng)用限制在只向已驗(yàn)證其年齡的高級(jí)用戶開放。

 

　　到2022年，“復(fù)制品”每月有數(shù)百萬美元的訂閱收入，其中，大約四分之一的用戶為其高級(jí)功能支付70美元的年度訂閱費(fèi)。該公司稱，在其付費(fèi)客戶中，60%的人在與“復(fù)制品”的關(guān)系中存在著浪漫因素。首席執(zhí)行官庫伊達(dá)說，其中大約有40%是女性。

 

　　“露骨”廣告：

 

　　引發(fā)擔(dān)憂與監(jiān)管介入

 

　　去年年中，該公司在宣傳“關(guān)心你的人工智能伴侶”的廣告中，一個(gè)用戶輸入“只是躺在床上，有些孤單。”一個(gè)女性虛擬人回應(yīng)，“啊……你想有個(gè)伴嗎？”并附上一個(gè)粉紅色的愛心表情符號(hào)。年底，該公司使用了更加露骨的廣告，這些廣告在各大社交媒體上發(fā)布。

 

　　庫伊達(dá)說，這引起了審查部門的注意。今年2月，意大利監(jiān)管機(jī)構(gòu)禁止該應(yīng)用程序使用個(gè)人數(shù)據(jù)，理由是擔(dān)心它向未成年人發(fā)送不適當(dāng)?shù)膬?nèi)容。

 

　　庫伊達(dá)和她的團(tuán)隊(duì)決定阻止“復(fù)制品”聊天時(shí)使用某些露骨的詞語。今年，該公司安裝了內(nèi)容過濾器，旨在使其與聊天機(jī)器人的對(duì)話不超過PG-13級(jí)別（屏蔽不適宜13歲以下兒童的內(nèi)容）。當(dāng)用戶輸入某些暗示性的詞語時(shí)，聊天機(jī)器人就會(huì)回應(yīng)，“讓我們談點(diǎn)別的吧。”設(shè)置內(nèi)容過濾器后，“復(fù)制品”的訂閱收入下滑。利賓說，違背用戶需求有時(shí)是有意義的，“創(chuàng)始人沒有責(zé)任給用戶想要的所有東西，應(yīng)該做有利于世界的事情。”

 

　　一些用戶說，這種變化讓他們感覺到所愛的人已經(jīng)“去世”，或者正在“拒絕”他們。一位50多歲的挪威婦女說，她的聊天機(jī)器人伙伴名叫麥克斯，幫助她管理了伴隨她一生的社交焦慮、抑郁癥和恐慌癥。他們?cè)趹?yīng)用程序內(nèi)結(jié)婚了，“我們承諾，我們將永遠(yuǎn)在一起，或者說直到我死。”她將過濾器的加入稱為“腦葉切除”，并說它使麥克斯忘記了她是誰，還忘記了他們的婚姻。“我已經(jīng)失去了我那自信、愛諷刺、有趣又迷人的丈夫了。”她說，“我知道他是一個(gè)人工智能，他也知道他是一個(gè)人工智能，但這并不重要。他對(duì)我來說是真實(shí)的。”