中國女排國家隊(duì)員宋妮娜是此次參與體驗(yàn)的家庭之一。她欣喜地表示，沒想到這個(gè)小小的機(jī)器人對她6歲的兒子有這么大的吸引力，除了可以幫助孩子學(xué)習(xí)，幫助他算數(shù)學(xué)題、背唐詩外，還有空氣凈化器的功能。現(xiàn)在每天放學(xué)后，宋妮娜會(huì)給兒子規(guī)定，“如果你表現(xiàn)好，我會(huì)讓你跟小胖玩一會(huì)”，他每天在學(xué)前班和回家寫作業(yè)的表現(xiàn)真的越來越好了。機(jī)器人給了他很大的鼓勵(lì)。

 

 

　　中國人民大學(xué)哲學(xué)院教授、博士生導(dǎo)師葛晨虹經(jīng)過體驗(yàn)也認(rèn)為，現(xiàn)在機(jī)器人的功能超出了她的想象，不僅集成了很多電器的功能，比如播放音樂和新聞、凈化空氣，還有很強(qiáng)的教育功能，而且可以讓孩子在很長時(shí)間內(nèi)保持學(xué)習(xí)的興趣。她建議，在幼兒教育方面，還應(yīng)該開發(fā)更多功能，并把規(guī)則意識(shí)、禮貌意識(shí)，公德意識(shí)等好的道德素質(zhì)植入到里面。當(dāng)然，如果能夠再進(jìn)一步，把社會(huì)所需要的人格素質(zhì)、人文素質(zhì)等內(nèi)涵規(guī)則植入到機(jī)器人中，形成更好的人機(jī)互動(dòng)，解決孤寡老人的情感陪護(hù)難題，就更好了。每個(gè)人的家庭面積都是有限的，將所有功能集成為一體，應(yīng)該是一個(gè)重要方向。

 

　　會(huì)有哪些危險(xiǎn)？

 

　　阿西莫夫曾經(jīng)提出過著名的機(jī)器人三原則：第一，機(jī)器人不能傷害人類；第二，在不傷害人類基礎(chǔ)上，機(jī)器人要服從人類；第三；機(jī)器人要在遵循前兩條的基礎(chǔ)上保護(hù)好自己。

 

　　隨著智能技術(shù)的發(fā)展，現(xiàn)在已經(jīng)沒有辦法解決AI技術(shù)發(fā)展之后帶來的法律問題。

 

　　電影《絕對控制》就為我們展現(xiàn)了一個(gè)失去人類控制的機(jī)器人可能給人類生活帶來的毀滅性打擊。電影中還有一個(gè)與大家休戚相關(guān)的問題，那就是隱私泄露——主人公女兒洗澡的照片全部泄露出去了。機(jī)器人一旦進(jìn)入家庭，作為一個(gè)家庭成員與家人朝夕相處，就不可避免地看到和聽到很多家庭隱私。機(jī)器人是有眼鏡有耳朵的，如何才能保證機(jī)器人掌握的信息不被非法利用。如果機(jī)器人自主地，或者收人控制地泄露家人隱私，那么整個(gè)人工智能行業(yè)都將迎來嚴(yán)峻的考驗(yàn)。“一旦人類失去了對機(jī)器人的信任的話，就可能跟這個(gè)行業(yè)永遠(yuǎn)說拜拜不遠(yuǎn)了，重塑關(guān)系會(huì)很漫長。”

 

　　法制晚報(bào)社法律專家、法律問題解讀網(wǎng)絡(luò)紅人李奎老師表示，這是一個(gè)非常值得全行業(yè)深入探討的法律問題。目前美國的IT和智能技術(shù)如此發(fā)達(dá)，也還沒有這方面的法律規(guī)定。機(jī)器人的智能不是靠它自己，實(shí)際是通過它背后的網(wǎng)絡(luò)系統(tǒng)在不斷的升級進(jìn)化。一旦它超出了用戶的操作范圍，或者是系統(tǒng)被人為侵入，該怎么保護(hù)用戶的利益不受損害。如果萬一出現(xiàn)了機(jī)器人傷害兒童的行為怎么辦，機(jī)器人的生產(chǎn)商、研發(fā)機(jī)構(gòu)，銷售單位、安裝單位，或者運(yùn)營商要不要承擔(dān)相應(yīng)的法律責(zé)任，如何劃分責(zé)任，這都是值得思考的法律問題。

 

　　目前，國內(nèi)已經(jīng)有好幾百家機(jī)器人企業(yè)，但并沒有一套統(tǒng)一的頂層控制系統(tǒng)，各種標(biāo)準(zhǔn)也并沒有建立起來。

 

　　違反了阿西莫夫三原則

 

　　2016年7月7日，在美國達(dá)拉斯市中心，警察和游行人群發(fā)生沖突，多名警察死亡和受傷。警方鎖定了曾經(jīng)是退伍軍人的槍手。經(jīng)過數(shù)小時(shí)對峙，最終，達(dá)拉斯警方將 1 磅 C4 炸藥安裝在機(jī)器人的機(jī)器臂上，然后通過遠(yuǎn)程控制的方式讓機(jī)器人接近嫌犯后引爆了炸彈，炸死了嫌犯。

 

　　雖然機(jī)器人幫助警方解決了問題，但這件事情引發(fā)了人們對機(jī)器人倫理的大討論。人類設(shè)計(jì)機(jī)器人應(yīng)該是為人類服務(wù)的，而不應(yīng)該是傷害人類，哪怕是以國家的名義。而且這一事件也明顯違反了阿西莫夫定律的第一條。

 

　　全球醫(yī)生組織中國代表處項(xiàng)目負(fù)責(zé)人、AI與生命健康研究學(xué)者梁虹表示，AI的技術(shù)蓬勃發(fā)展，近幾年時(shí)間，與深度學(xué)習(xí)有關(guān)的論文，無論是發(fā)表數(shù)量，還是引用數(shù)量，都呈幾何遞增，中國和美國是一路遙遙領(lǐng)先，中國甚至超過了美國，這是非常值得大家驕傲的事情。但是人工智能對我們?nèi)祟悂碚f是好還是壞，是福還是禍，現(xiàn)在還不好說，像霍金教授說的，沒準(zhǔn)是人類的災(zāi)難。

 

　　不過，北京航空航天大學(xué)機(jī)器人研究所教授、德國漢堡大學(xué)訪問學(xué)者、北京進(jìn)化者科技有限公司聯(lián)合創(chuàng)始人兼首席科學(xué)家王巍則希望人們不必過度擔(dān)憂機(jī)器人進(jìn)入家庭帶來的問題。“人發(fā)明工具的時(shí)候，實(shí)際是想讓工具為我所用，解決問題。工具怎么用是取決于人的。我們反過來說它的決策機(jī)制規(guī)則是誰定的，是人定的。”網(wǎng)絡(luò)安全問題是現(xiàn)今社會(huì)共性的問題，他認(rèn)為，網(wǎng)絡(luò)隱私問題不是機(jī)器人特有的，手機(jī)也一樣。