（記者 蔣榮耀）最近，美國加州一家醫(yī)院發(fā)生了件怪事：一名機(jī)器人醫(yī)生告訴78歲的病人，他的病沒治了。由一名機(jī)器人來給人類下“病危通知書”，病人的家屬不敢相信也無法接受，于是將他們的憤怒在媒體上公開了。

 

　　詳情是這樣的：一位長(zhǎng)期受慢性肺病折磨的病人3月初住進(jìn)了加利福尼亞州弗里蒙特一家醫(yī)院急診科。初步診斷后，一名機(jī)器人在重癥監(jiān)護(hù)室對(duì)病人進(jìn)行了隨訪。機(jī)器人告訴病人，他將無法返回家中接受臨終關(guān)懷，但是他可以在醫(yī)院使用嗎啡來減輕痛苦。這次診斷意味著，一名機(jī)器人給病人下了“病危通知書”。在入院4天后，病人死亡。

 

　　盡管醫(yī)院也認(rèn)為這件事的發(fā)生是偶然且“極其不正常”的，但是隨著人工智能技術(shù)的進(jìn)步，人與機(jī)器人發(fā)生矛盾的事情一定會(huì)越來越多。從這個(gè)案例看，家屬質(zhì)疑的并不是機(jī)器人的能力——事實(shí)上機(jī)器人對(duì)病情的判斷是準(zhǔn)確的。那么問題究竟出在哪里呢？

 

　　大家還記得電影《我，機(jī)器人》開頭嗎？?jī)奢v車掉進(jìn)水里，機(jī)器人需要做一個(gè)選擇，是先救警探還是孩子。最終機(jī)器人救了警探，因?yàn)樗?jì)算出警探有45%的生還機(jī)會(huì)；而孩子只有11%的生還機(jī)會(huì)。在這個(gè)場(chǎng)景中，機(jī)器人的能力或者判斷似乎也并沒有錯(cuò)，但是當(dāng)遇到同樣問題時(shí)，人類已經(jīng)在千百年的發(fā)展中形成了自己的價(jià)值觀：應(yīng)該先救援老弱婦幼。

 

　　在美國加州醫(yī)院的案例中，病人家屬認(rèn)為，“這些（病人不行了）話應(yīng)該是一個(gè)活生生的人來告訴我們，而不是冰冷的機(jī)器。”家屬也沒有質(zhì)疑機(jī)器人的診斷能力，而是從價(jià)值觀上，他們不能接受“冰冷”的機(jī)器人給病人判了“死刑”。

 

　　機(jī)器人今天確實(shí)已經(jīng)在廣泛領(lǐng)域得到應(yīng)用，在工業(yè)、教育、醫(yī)學(xué)等領(lǐng)域，機(jī)器人已經(jīng)開始替代一些人類的工作。隨著機(jī)器人不斷智能化，當(dāng)機(jī)器人替代我們完成了各項(xiàng)工作，有沒有一些活兒是機(jī)器人不應(yīng)該去做的呢？

 

　　機(jī)器人給病人下病危通知，機(jī)器人選擇先救警察而不是小孩，引發(fā)人類擔(dān)心的根源，首先是因?yàn)闄C(jī)器人沒有倫理道德。我們的擔(dān)心，其實(shí)就是機(jī)器人可能引發(fā)一系列倫理風(fēng)險(xiǎn)問題。

 

　　但本文開頭提到的案例，還有擔(dān)心機(jī)器傷害人類的問題，其實(shí)是另外一層的沖突：法律沖突。機(jī)器人給病人下病危通知，有沒有法律效力？在我們的法律社會(huì)，一個(gè)人犯了錯(cuò)會(huì)承擔(dān)后果，民事案中承擔(dān)民事責(zé)任，刑事案件中承擔(dān)刑事責(zé)任。機(jī)器人呢？機(jī)器人能夠成為承擔(dān)責(zé)任的主體嗎？既然機(jī)器人不能夠成為承擔(dān)責(zé)任的主體，反過來是不是可以理解為，機(jī)器人其實(shí)無權(quán)給病人做出診斷？或者我們需要在機(jī)器人不能承擔(dān)責(zé)任的情況下，設(shè)計(jì)出追究相關(guān)人的法律責(zé)任的制度？

 

　　隨著AI技術(shù)和5G技術(shù)的發(fā)展，機(jī)器人的發(fā)展、創(chuàng)新和使用一定會(huì)大步向前走。機(jī)器人所帶來的倫理道德風(fēng)險(xiǎn)問題和法律問題會(huì)越來越多，看來我們是該考慮考慮怎么辦了。