未來(lái)世界，如果老公成天和機(jī)器人劈情操，怎么辦？未來(lái)世界，智能保姆也“學(xué)壞”了，隨意打罵老人孩子，怎么辦？未來(lái)世界，無(wú)人駕駛交通工具肇事了，責(zé)任怎么認(rèn)定？然而，這并非“未來(lái)世界”。昨天，來(lái)自計(jì)算機(jī)、通信、法律等各路專家參加了“上海大學(xué)人工智能理論、技術(shù)、平臺(tái)與應(yīng)用交流合作論壇”。會(huì)場(chǎng)內(nèi)外，專家們對(duì)正在或即將遭遇的智能生活雙刃劍，透露出幸福的煩惱。

 

 

　　自主無(wú)人駕駛正在不斷走進(jìn)人們的日常生活，這又會(huì)引發(fā)新的法律問(wèn)題。有專家設(shè)想了一個(gè)場(chǎng)景：一輛載滿乘客的無(wú)人駕駛汽車正在高速行駛，突遇一位孕婦橫穿馬路，如果緊急剎車，可能傷及車內(nèi)乘客；如果不急剎車就會(huì)撞到孕婦。如果有人駕駛，這就要取決于司機(jī)的經(jīng)驗(yàn)，或直覺(jué)作出判斷。但無(wú)人駕駛就會(huì)陷入倫理困境，由于其行為是通過(guò)預(yù)先設(shè)定的，它只能從數(shù)據(jù)庫(kù)中選取相似的案例進(jìn)行類推。如果遇到完全陌生的情形，就只能隨機(jī)選擇一種近似的處理方式了。那么，假如無(wú)人駕駛車肇事，造成了生命和財(cái)產(chǎn)損失責(zé)任由誰(shuí)來(lái)負(fù)？上海大學(xué)法學(xué)博士劉穎說(shuō)，人工智能將打破傳統(tǒng)法律主體資格的界定規(guī)則，以及智能機(jī)器人的法律地位與責(zé)任。在現(xiàn)有法律中，是將智能機(jī)器人的責(zé)任認(rèn)定為一種產(chǎn)品責(zé)任。然而，未來(lái)智能機(jī)器人一旦像人一樣被賦予法律人格，它可以作為法律關(guān)系主體享有權(quán)利，同時(shí)獨(dú)立承擔(dān)責(zé)任，其承擔(dān)責(zé)任的方式應(yīng)該參照人類承擔(dān)責(zé)任的方式，包括民事責(zé)任、行政責(zé)任甚至獨(dú)立承擔(dān)刑事責(zé)任。不過(guò)，反對(duì)意見(jiàn)也隨之而出——對(duì)“它”施以法律追責(zé)處罰，可行嗎？有意義嗎？

 

　　由人工智能引發(fā)的道德責(zé)任，或許會(huì)再次讓人大跌眼鏡?，F(xiàn)在的人形智能機(jī)器人越來(lái)越像“人”，越來(lái)越“善解人意”，也越來(lái)越“多愁善感”。有專家預(yù)測(cè)，到2050年，人形智能機(jī)器人將變得和真人一樣，擁有完美的身材、光潔的皮膚、溫柔的性情、堅(jiān)貞的品格，這到底是利是弊？它可以為人做家務(wù)、陪人聊天、與人調(diào)情，甚至可能與人上床。當(dāng)它們以保姆、情人、伴侶或孩子的身份進(jìn)入家庭后，久而久之，人與智能機(jī)器人之間會(huì)不會(huì)產(chǎn)生感情和利益糾葛？尤其是夫妻間的原配與“智能小三”之間因爭(zhēng)風(fēng)吃醋引起的矛盾與權(quán)益維護(hù)，必然牽涉出一堆新的道德倫理問(wèn)題。還有，如果未來(lái)的智能機(jī)器人一旦擁有了獨(dú)立的思維，也擁有了“人格尊嚴(yán)”，那么，當(dāng)它被辱罵、毆打甚至被強(qiáng)暴時(shí)，有沒(méi)有正當(dāng)防衛(wèi)權(quán)利？是否可以依法維權(quán)？

 

　　由此，管控和約束人工智能的行為，也成為專家熱議的話題。上海大學(xué)無(wú)人艇工程研究院院長(zhǎng)彭艷教授說(shuō)，目前的人工智能算法，部分是圍繞著獎(jiǎng)懲機(jī)制建立的訓(xùn)練關(guān)系。當(dāng)機(jī)器的目的變成獲取獎(jiǎng)勵(lì)，其思維就可能會(huì)變成這樣：只有繼續(xù)運(yùn)行才能獲得獎(jiǎng)勵(lì)。因此，它就有可能為了自身的存在，阻止人類關(guān)閉自己。當(dāng)然，這樣的場(chǎng)景目前離人類還很遙遠(yuǎn)，而一旦發(fā)生，后果將不堪設(shè)想。所以，人類需要防備人工智能的攻擊，“人類智能”必須學(xué)會(huì)管控人工智能。

 

　　也有專家提出，對(duì)于人工智能行為的管控，應(yīng)當(dāng)未雨綢繆設(shè)立幾條框架性的原則。比如，必須對(duì)人工智能的研究目標(biāo)加以約束，以對(duì)人類有益作為主要研究目標(biāo)；對(duì)設(shè)計(jì)者和開(kāi)發(fā)者有必要設(shè)定一定的倫理責(zé)任規(guī)則，主要是有益性、不作惡、透明性設(shè)計(jì)，以及隱私的保護(hù)等。