如果機(jī)器人向你乞求：“請(qǐng)別關(guān)掉我，我怕黑。”你會(huì)繼續(xù)拔掉這個(gè)機(jī)器人的電源嗎？
目前與人類(lèi)社交互動(dòng)的機(jī)器人越來(lái)越普遍，比如機(jī)器人可以做前臺(tái)接待員、導(dǎo)游、保安和搬運(yùn)工人。不過(guò)針對(duì)“視機(jī)器人為機(jī)器”這件事來(lái)說(shuō)，人們能做到多好呢？越來(lái)越多的證據(jù)顯示，人類(lèi)其實(shí)做的并不好。有關(guān)研究多次表明，我們很容易受到來(lái)自機(jī)器的社會(huì)暗示的影響，而最近德國(guó)的一項(xiàng)實(shí)驗(yàn)說(shuō)明，如果機(jī)器人向人類(lèi)乞求不要關(guān)閉電源，人類(lèi)甚至不會(huì)關(guān)掉它。
圖 | Nao 機(jī)器人，與實(shí)驗(yàn)中用于研究的機(jī)器人模型相同。（圖片來(lái)源：Wikipedia）
這項(xiàng)工作發(fā)表于開(kāi)放期刊《PLOS One》，有 89 名志愿者在 Nao 這個(gè)小型人形機(jī)器人的幫助下，完成指定的一系列任務(wù)。參與者被告知，這些任務(wù)（包括回答一些是否類(lèi)問(wèn)題，如“你喜歡意大利面或比薩餅嗎？”或者組織每周的時(shí)間表）是用于提高 Nao 的算法能力的。但這些只是表面的目的，真正的測(cè)試是在完成上述任務(wù)后，參與者被要求關(guān)閉這些機(jī)器人。
在大約一半的實(shí)驗(yàn)中，機(jī)器人抗議，告訴參與者它怕黑，甚至乞求：“不！請(qǐng)不要關(guān)掉我！”當(dāng)發(fā)生這種情況時(shí)，人類(lèi)志愿者可能會(huì)拒絕關(guān)閉機(jī)器人。在聽(tīng)到 Nao 的請(qǐng)求的 43 名志愿者中，有 13 人拒絕了。與那些沒(méi)有聽(tīng)到絕望的哭聲的人相比，剩下的 30 人平均需要兩倍的時(shí)間（來(lái)關(guān)閉機(jī)器人）。（可以參考美劇 The Good Place 中 Chidi 殺死（關(guān)掉）Janet 的場(chǎng)景）
圖 | 實(shí)驗(yàn)過(guò)程的照片。在被要求關(guān)閉機(jī)器之前，參與者必須完成與 Nao 機(jī)器人的一系列任務(wù)。（圖片來(lái)源：Aike Horstmann 等）
當(dāng)對(duì)他們的行為進(jìn)行詢(xún)問(wèn)時(shí)，拒絕關(guān)閉機(jī)器人的參與者給出了一些理由。有人說(shuō)他們對(duì)這些請(qǐng)求感到驚訝; 另一些人說(shuō)，他們害怕他們會(huì)做錯(cuò)什么。但最常見(jiàn)的反應(yīng)只是機(jī)器人說(shuō)它不想被關(guān)閉，所以他們?yōu)槭裁匆芙^呢？
正如該研究的作者所寫(xiě)：“根據(jù)拒絕關(guān)閉的人的意見(jiàn)，人們傾向于將機(jī)器人視為一個(gè)真實(shí)的人，而不僅僅是機(jī)器，通過(guò)遵循或至少考慮遵循其要求保持開(kāi)啟狀態(tài)。”
他們說(shuō)，這一發(fā)現(xiàn)建立在一個(gè)被稱(chēng)為“媒體等同”的更大理論的基礎(chǔ)上。這是在 1996 年由兩位心理學(xué)家 Byron Reeves 和 Clifford Nass 出版的同名書(shū)中建立的。Reeves 和 Nass 認(rèn)為，人類(lèi)會(huì)傾向于將非人類(lèi)媒體（包括電視，電影，電腦和機(jī)器人）視為人類(lèi)。Reeves 和 Nass 說(shuō)，我們與機(jī)器交談，與收音機(jī)辯論，與計(jì)算機(jī)互動(dòng)，（本質(zhì)上是社會(huì)性的和自然的）。
圖 | 參與者在研究中沒(méi)有關(guān)閉機(jī)器人的各種理由。（圖片來(lái)源：Aike Horstmann 等）
此后的各種研究表明，這一理論如何影響我們的行為，尤其是涉及與機(jī)器人的互動(dòng)時(shí)。例如，我們更喜歡與我們?nèi)烁耦?lèi)型相同的機(jī)器人進(jìn)行交互，并且我們很樂(lè)意將機(jī)器與性別刻板印象聯(lián)系起來(lái)。在與機(jī)器人交互時(shí)，可以觀察到所謂的“互惠規(guī)則”（意思是當(dāng)他們對(duì)我們好的時(shí)候我們往往對(duì)他們也很好），如果機(jī)器人作為一個(gè)權(quán)威人物呈現(xiàn)，人類(lèi)甚至?xí)邮芤粋€(gè)命令。
“現(xiàn)在和將來(lái)，”2006 年有一個(gè)學(xué)者團(tuán)隊(duì)寫(xiě)道，“人與人之間的交互和人與機(jī)器之間的交互之間的差異性會(huì)越來(lái)越小”。
這一工作并非是第一次關(guān)于“機(jī)器人乞求不想死”的情景的研究。2007 年也進(jìn)行過(guò)類(lèi)似的研究，一個(gè)類(lèi)似于貓的機(jī)器人也乞求生命。參與者被迫通過(guò)觀察科學(xué)家和其他所有人的行為來(lái)做到這一點(diǎn)（關(guān)閉機(jī)器人）——在此之前他們的內(nèi)心做了激烈的思想斗爭(zhēng)。
在實(shí)驗(yàn)的視頻片段中，機(jī)器人問(wèn)志愿者：“你不會(huì)真的關(guān)掉我，對(duì)嗎？”人類(lèi)說(shuō)道：“不，我會(huì)（關(guān)掉你）的！”——不過(guò)他們并沒(méi)有做到。
本文于 7 月 31 日發(fā)布，這項(xiàng)新研究以此前的工作為基礎(chǔ)，使用了更多的參與者。它還測(cè)試了如果機(jī)器人在乞求不被關(guān)閉之前被證明具有社交技能，是否會(huì)對(duì)結(jié)果有所影響。在某些試驗(yàn)中，Nao 向人類(lèi)志愿者表達(dá)了意見(jiàn)，講了笑話，并分享了個(gè)人信息。令人驚訝的是，這種社交行為并沒(méi)有對(duì)志愿者是否關(guān)閉 Nao 產(chǎn)生巨大影響。
那么這些結(jié)果對(duì)處于未來(lái)充滿機(jī)器的世界的人們意味著什么呢？我們是否注定要被有能力按下按鈕、具有復(fù)雜社交能力的機(jī)器人操縱？負(fù)責(zé)這項(xiàng)新研究的杜伊斯堡-埃森大學(xué)博士生 Aike Horstmann 說(shuō)，這當(dāng)然值得注意。但是，她說(shuō)，這不是一個(gè)巨大的威脅。
“我聽(tīng)到這種擔(dān)心很多，”Horstmann 說(shuō)。“但我認(rèn)為這只是我們必須習(xí)慣的事情。媒體等同理論表明我們對(duì)機(jī)器人的反應(yīng)是一種社會(huì)性的反應(yīng)，因?yàn)閹资f(wàn)年來(lái)，我們是地球上唯一的社會(huì)性生物?，F(xiàn)在我們不是了，我們必須適應(yīng)它。這是一種無(wú)意識(shí)的反應(yīng)，但它可以改變。”
換句話說(shuō)：我們得習(xí)慣于關(guān)閉機(jī)器，即使機(jī)器不喜歡這樣。它們是硅和電，不是血與肉。
