在2013年的一次機(jī)器人大會(huì)上，麻省理工學(xué)院的研究員凱特·達(dá)令（KateDarling）做了一個(gè)小測試，她邀請與會(huì)者和體形與吉娃娃相當(dāng)?shù)碾娮涌铸埻媾家黄鹜嫠！＿@些玩偶名為帕雷歐（Pleo），但與它們互動(dòng)的人可以為自己的機(jī)器恐龍另外取名。這些人很快發(fā)現(xiàn)帕雷歐可以和他們溝通：小恐龍們通過姿勢和面部表情清楚地表示它們喜歡被輕撫，不喜歡被拎著尾巴拽起來。一小時(shí)后，達(dá)令讓大家休息一下；等游戲再開始時(shí)，達(dá)令拿出小刀和斧頭，讓參與者折磨、肢解他們的小恐龍。
達(dá)令預(yù)計(jì)自己會(huì)遭到一些抵制，所以她早有準(zhǔn)備，但當(dāng)所有參與者一致拒絕傷害自己的機(jī)器恐龍時(shí)，她感到頗為驚訝。有些參與者為防止帕雷歐被人傷害，甚至用身體擋住它們。“我們回應(yīng)這些仿生機(jī)器恐龍發(fā)出的社交信息，”她在2013年的演講中總結(jié)道，“即使我們知道它們不是真的生命。”
這一洞見將引領(lǐng)下一波自動(dòng)化風(fēng)潮。埃里克·布林約爾松（Erik Brynjol fsson）和安德魯·麥卡菲（Andrew McAfee）在合著的《第二個(gè)機(jī)器時(shí)代》（The Second Machine Age）一書中提到，從在生產(chǎn)車間迅速學(xué)會(huì)新技能的自主機(jī)器人到能評估求職者或推薦企業(yè)戰(zhàn)略的軟件，這些“會(huì)思考的機(jī)器”正在進(jìn)入工作場所，而且為企業(yè)和社會(huì)創(chuàng)造巨大價(jià)值。然而，盡管技術(shù)瓶頸正被一一攻破，但社會(huì)制約因素還在。你如何勸說你的團(tuán)隊(duì)信任人工智能，或讓他們將機(jī)器人視為自己團(tuán)隊(duì)中的一員，甚至領(lǐng)導(dǎo)，并接納它們？如果你換掉那個(gè)機(jī)器人，員工的士氣會(huì)低落嗎？但是當(dāng)這些機(jī)器從工具轉(zhuǎn)變成我們的隊(duì)友時(shí)，有一點(diǎn)越來越明確：接納機(jī)器人意味著我們不能僅僅把它們當(dāng)成一種新的技術(shù)應(yīng)用。
信任算法還是判斷？
與會(huì)思考的機(jī)器協(xié)同工作時(shí)，我們遇到的第一個(gè)挑戰(zhàn)就是承認(rèn)機(jī)器知道的比我們多。請參考2014年的一項(xiàng)研究：沃頓商學(xué)院的研究者進(jìn)行了一系列實(shí)驗(yàn)；受試者既可以運(yùn)用某個(gè)算法，也可以根據(jù)自己的判斷做預(yù)測，而預(yù)測較準(zhǔn)的受試者會(huì)得到獎(jiǎng)金。多數(shù)人傾向憑直覺預(yù)測，而非運(yùn)用某個(gè)算法。
這一現(xiàn)象被稱作“回避算法”（Algorithm Avoidance），在多個(gè)研究中都有記錄。人們在診斷疾病或預(yù)測政治結(jié)果時(shí)都選擇摒棄算法，而是相信自己或他人的判斷，但結(jié)果往往是這種人類憑直覺做出的決定更糟糕。因此，管理者應(yīng)得到啟示：幫助人們信任會(huì)思考的機(jī)器很有必要。
但僅僅告訴人們算法有多精準(zhǔn)并不能說服他們信任算法。人們會(huì)因算法出錯(cuò)而對其抱有偏見，卻對犯錯(cuò)的人類則更包容。研究者伯克利·戴特沃斯特（Berkeley Dietvorst）認(rèn)為，這是因?yàn)槲覀兿嘈湃祟惖呐袛嗔?huì)提升，卻錯(cuò)誤地以為算法無法演進(jìn)。我們在做比數(shù)字計(jì)算更復(fù)雜或感性的工作時(shí)，回避算法的傾向更明顯。哈佛商學(xué)院的麥克·諾頓（Michael Norton）總結(jié)說：“思考近乎于做數(shù)學(xué)題。機(jī)器人可以做數(shù)學(xué)題。但它們不可以感受事物，因?yàn)槟菢铀鼈兙吞袢祟惲恕?rdquo;
諾頓認(rèn)為，只要把任務(wù)描述成分析類的工作，就有助于消除人們對算法的疑慮。在另一實(shí)驗(yàn)中，他和凱洛格商學(xué)院的亞當(dāng)·韋茲（Adam Waytz）一起發(fā)現(xiàn)，如果受試者得知數(shù)學(xué)老師教學(xué)生各種各樣的公式和運(yùn)算法則時(shí)，要用到很多分析技能，他們會(huì)比較容易接受機(jī)器人可以當(dāng)數(shù)學(xué)教師的觀點(diǎn)。但如果受試者被告知這份工作需要“與年輕人相處的能力”，他們就不太會(huì)贊同讓機(jī)器人任數(shù)學(xué)老師一職。
戴特沃斯特和沃頓的同事另辟蹊徑。如果人們更信任自己的判斷，而非算法，那為何不將前者融入后者呢？于是他們在一次實(shí)驗(yàn)中允許受試者稍稍調(diào)整算法的結(jié)果。他們要求受試者根據(jù)多個(gè)數(shù)據(jù)點(diǎn)預(yù)測某高中生的一次標(biāo)準(zhǔn)化數(shù)學(xué)測驗(yàn)成績，但沒有強(qiáng)迫受試者在自己的判斷和算法中選其一，所以受試者可以將算法得出的成績調(diào)高或調(diào)低幾個(gè)百分點(diǎn)，之后將結(jié)果作為最終預(yù)測成績上交。研究者發(fā)現(xiàn)，得到選擇權(quán)的受試者更傾向信任算法。戴特沃斯特認(rèn)為，這是因?yàn)樗麄儾辉俑械阶约赫诜艞壙刂祁A(yù)測的權(quán)力。
