相信看過(guò)《終結(jié)者》的觀眾都對(duì)影片中擁有自我意識(shí)的機(jī)器人印象非常深刻。本是在服務(wù)人類的初衷下產(chǎn)生的機(jī)器人在擁有獨(dú)立意識(shí)后，紛紛反水，對(duì)人類發(fā)起了大肆進(jìn)攻。

 

　　除了《終結(jié)者》系列，《黑客帝國(guó)》等影片也在講述著類似的故事，反映著一個(gè)共同的心理——人們?cè)谙硎苤悄芑瘞?lái)的便利時(shí)，也懷揣著隱憂。

 

　　近日，英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)發(fā)布了全球首個(gè)關(guān)于機(jī)器人倫理設(shè)計(jì)的規(guī)范指南。其中對(duì)機(jī)器人的欺詐問(wèn)題、成癮現(xiàn)象、傷害行為等作出規(guī)范。人們?cè)趪L試將機(jī)器人，甚至可以說(shuō)所有的智能化產(chǎn)品納入人類社會(huì)的道德系統(tǒng)中去。

 

　　毋庸置疑，這有相當(dāng)大的難度。但智能化的倫理設(shè)計(jì)的最大難關(guān)還不是人們?cè)覆辉敢獍凑找?guī)定設(shè)計(jì)，而是不知道怎么設(shè)計(jì)。

 

 

　　靈活性的質(zhì)疑：電腦能替代人腦嗎？

 

　　在大部分的科幻電影中，智能化設(shè)備的終極目標(biāo)是完全的電腦代替人腦。而設(shè)備實(shí)現(xiàn)智能化操作是通過(guò)預(yù)先設(shè)定程序?qū)崿F(xiàn)的。為了不與社會(huì)倫理相違背，企業(yè)在生產(chǎn)時(shí)如何進(jìn)行功能預(yù)置成為難題。

 

　　以無(wú)人駕駛車輛為例。即使無(wú)人駕駛車輛的初衷是解放人的大腦，同時(shí)減少交通事故，但并不意味著它一定沒(méi)有風(fēng)險(xiǎn)。那么緊急避險(xiǎn)設(shè)置如何進(jìn)行？

 

　　網(wǎng)上有人提出這樣的問(wèn)題：如果在行駛過(guò)程中，前方出現(xiàn)一個(gè)物體，不影響行駛的情況下要不要停？逢物不停，或許下一秒會(huì)突然有個(gè)孩子竄出來(lái)?yè)鞏|西；逢物必停，則嚴(yán)重影響用戶的駕駛體驗(yàn)。

 

　　還有這樣的疑惑：當(dāng)前方行駛著一輛摩托車和一輛轎車，此時(shí)車剎車系統(tǒng)失靈，不可避免地會(huì)撞上一輛車，那車輛在智能化預(yù)置時(shí)怎樣操作？

 

　　雖說(shuō)人腦在處理時(shí)也不一定能規(guī)避這些問(wèn)題，但企業(yè)在進(jìn)行智能化產(chǎn)品的量產(chǎn)時(shí)，如果不考慮好的話必然會(huì)招致社會(huì)輿論的壓力和道德的拷問(wèn)，埋藏禍端，限制企業(yè)發(fā)展。如何才能將風(fēng)險(xiǎn)和傷害降到最低，如何更順應(yīng)人們的心理需求，是企業(yè)進(jìn)行智能化產(chǎn)品倫理設(shè)計(jì)的基礎(chǔ)。

 

　　法律層面的質(zhì)疑：有些甚至連合法身份都沒(méi)有

 

　　法律在這一領(lǐng)域的態(tài)度大多是遲緩而謹(jǐn)慎的。在某些智能化產(chǎn)品推廣過(guò)程中，就連獲得合法身份都是企業(yè)需要突破的難關(guān)。

 

　　這種滯后也是可以理解的。平衡車、無(wú)人機(jī)……智能化產(chǎn)品的風(fēng)靡就好比雙刃劍。近幾年，無(wú)人機(jī)以“空中交警”的身份在交通執(zhí)法中出現(xiàn)的頻率越來(lái)越高。但除了利好的一面，無(wú)人機(jī)還面臨著墜落傷人、偷窺隱私等質(zhì)疑。無(wú)人機(jī)的安全性從生產(chǎn)到監(jiān)管，還沒(méi)有達(dá)到百無(wú)一漏的地步。

 

　　而且，機(jī)器人的深度學(xué)習(xí)遠(yuǎn)超過(guò)我們的預(yù)計(jì)。國(guó)外研究發(fā)現(xiàn)，當(dāng)機(jī)器人執(zhí)行特定任務(wù)時(shí)，并不是完全按照事先編寫好的程式，而是采用不同的方式來(lái)實(shí)現(xiàn)指令，逐漸形成策略。也就是說(shuō)，在“后智能化時(shí)代”，機(jī)器人掌握一定的學(xué)習(xí)能力不是癡人說(shuō)夢(mèng)。事實(shí)上，如今機(jī)器人的某些深度學(xué)習(xí)能力已進(jìn)入成熟階段，例如圖像識(shí)別、語(yǔ)音識(shí)別等。

 

　　據(jù)了解，國(guó)內(nèi)有家公司在制造機(jī)器人時(shí)，刻意地限制了其自我學(xué)習(xí)能力，還限制了影像資料的保存時(shí)間，就是為了避免泄露用戶的隱私信息。

 

　　那么當(dāng)機(jī)器人有違法行為時(shí)，誰(shuí)來(lái)埋單？所有者、生產(chǎn)廠商還是機(jī)器人？按照英國(guó)標(biāo)準(zhǔn)協(xié)會(huì)機(jī)器人的倫理設(shè)計(jì)規(guī)范來(lái)說(shuō)，需要負(fù)責(zé)的是人而非機(jī)器人。但是，有時(shí)這種責(zé)任是難以界定的。衛(wèi)報(bào)之前報(bào)道過(guò)一件事，用戶給機(jī)器人一些錢用于購(gòu)物，但最終機(jī)器人買到了護(hù)照、興奮劑、可偷拍的棒球帽等違法物品。責(zé)任在誰(shuí)，很難明確區(qū)分。

 

　　智能化產(chǎn)品的倫理設(shè)計(jì)，還有很長(zhǎng)的路要走。