高交會隨后澄清事故原因為人為操作失當，誤將“前進鍵”當成“后退鍵”，導致機器人撞向展臺玻璃，玻璃倒地摔碎并劃傷一名現(xiàn)場觀眾。這個回復的意思很明確，此次事故非機器人本意為之。

 

　　不過，這條新聞仍引發(fā)了各方的關(guān)注。伴隨機器人開始進入千家萬戶，面對銅頭鐵臂，人的安全該如何保障？關(guān)于這個話題，2016年世界機器人大會秘書長、中國電子學會副理事長徐曉蘭做出了點評。

 

 

　　徐曉蘭：我認為，這次機器人傷人事件兼具偶發(fā)性和必然性。從我國機器人的發(fā)展來看，工業(yè)機器人的發(fā)展時間較長且設(shè)計比較完整，整體安全性能也比較成熟。但服務機器人還在小批量的試用階段，沒有形成規(guī)?；氖褂?，設(shè)計時的安全考量不是很完備。雖然服務機器人的應用還屬于萌芽狀態(tài)或是試用階段，但很多企業(yè)忙于或是急于做市場推廣，更多的是注重它的功能和應用，而對安全方面的設(shè)計恰恰是它的弱點。

 

　　這次事件給我們帶來了一個警示，提醒我們要更加注重服務機器人的安全設(shè)計。沒有安全設(shè)計和認證的服務機器人，特別是提供對人服務的機器人不能走向市場。此外，隨著對服務機器人需求的增長，市場變得更廣闊。而服務機器人安全標準和現(xiàn)有設(shè)計是滯后的。其實在今年和去年的世界機器人大會都特別加強了對服務機器人進行安全認證的要求。

 

　　這次高交會的機器人傷人事件，雖說是人為操縱失誤，但它其實應該有緊急制動的功能，而不是在危急時刻要完全依靠人力控制，這是安全設(shè)計方面的天然缺陷，可能也是產(chǎn)業(yè)發(fā)展的必經(jīng)過程，但要引起我們足夠的警惕和重視。

 

　　現(xiàn)在HBO大熱的美劇——《西部世界》，也在講述機器人開始覺醒的故事，里面有兩點值得關(guān)注，一個是機器人具有自我學習的能力，人類往往忽視它已經(jīng)學習到什么程度，沒有意識到它的智慧，但其實機器人已經(jīng)變得更加聰明了。未來這種情況在現(xiàn)實生活中怎么注意避免？

 

　　徐曉蘭：這實際上也是機器人技術(shù)和產(chǎn)業(yè)在推進過程中與其他信息技術(shù)或是科技成果不一樣的地方，我們要更加注重法律和倫理的約束。智能機器人領(lǐng)域?qū)Ψ珊蛡惱砑s束的要求更高，如果這種約束缺失，智能機器人越聰明，越可能做出更多壞事，對人類破壞的作用越大，這要求研發(fā)智能機器人的科技工作者要加強設(shè)計上的道德約束。今年的世界機器人大會特別增加了一個專題論壇，討論法律、道德、倫理應該進入智能機器人這種科技產(chǎn)品的話題，呼吁更多人關(guān)注這個領(lǐng)域，提醒要及早立法來約束智能機器人發(fā)展中可能出現(xiàn)的問題。

 

　　除了產(chǎn)業(yè)安全標準的建立，此事引發(fā)的另一大思考在于：隨著人工智能飛速發(fā)展，機器人的高度智能化并非遙不可及。當機器人具備自我意識、開始進入到人類日常工作與生活的時候，人類該與其如何相處？人類社會又該如何為那一天的到來做好準備？關(guān)于此話題，科幻作家、《三體》作者劉慈欣也做出了點評。

 

　　劉慈欣：早在20世紀末，在日本的生產(chǎn)線上就有一個機械手把一個工人拿到生產(chǎn)線上去加工，導致了工人的死亡，別的領(lǐng)域也發(fā)生過類似事情。我認為，這類機器人傷人的事件應該分為兩大類。一是意外，比如高交會上這起事件，包括程序錯誤、軟件錯誤或是硬件錯誤都可能導致傷人的意外發(fā)生。第二種是機器人故意傷人，即機器人有自我意識，有很高的智能，故意傷害別人。通常遇到這類問題時，社會輿論往往都向第二類情況想，如果真的發(fā)生第二種類型的傷害，情況是相當嚴重的，因為這表明機器人有某種自我意識，有某種自我行動的能力，而且用以傷害別人。但迄今為止發(fā)生過的所有機器人傷人事件，包括高交會上發(fā)生的事件，都是普通事故。就好像一些別的家用電器如電視、洗衣機、冰箱等都可能出事，可能傷害到人類，前段時間還發(fā)生過手機爆炸傷人事件。本質(zhì)上，現(xiàn)在的機器人傷人事件和這種事件是一樣的。我們把它當作普通家用電器故障來處理就可以，沒有必要因為這是個智能的機器而過度解讀。目前人類所達到的人工智能水準離機器人覺醒還差著十萬八千里，能不能克服大量技術(shù)障礙而走到高度智能化的地步尚未可知。

 

　　現(xiàn)在公眾和社會輿論，特別是中國公眾和社會輿論，很傾向于把科幻的東西當成現(xiàn)實的科技，這其實是兩碼事?？苹檬澜缰校O(shè)想機器具有自我意識，主動傷害人類是很平常的事，而現(xiàn)實中還是不可能的。以長遠計，可以做這方面的學術(shù)考慮，但在現(xiàn)實生活中，因此來限制人工智能的發(fā)展是很可笑的?，F(xiàn)在我們竭盡全力想造這種人工智能還造不出來呢，卻反而被這種莫須有的恐懼所牽制，反而去限制它的發(fā)展，我認為這種做法是十分愚蠢的。

 

　　目前為止的人工智能還是沒有生命的普通機器，和其他機器設(shè)備沒有區(qū)別，從社會地位及人文角度來看，都沒有什么特別的。但假如未來機器人擁有自我意識，其智力和人類相當、甚至高于人類，這個問題是相當復雜的。這時候，不能再把它看做普通機器。到那時，我們?nèi)绾谓缍C器的權(quán)利，是否給它以真正的權(quán)利，或給它以人權(quán)，要做社會學、哲學和文化方面的深邃思考。

 

　　現(xiàn)在已經(jīng)有很多學者在探討這方面的問題，據(jù)我所知，美國現(xiàn)在已經(jīng)有一個相當大的組織，探討學術(shù)和其他機器倫理方面的探討。但目前也只是理論上的探討，與運用到實際上還有相當?shù)木嚯x。如果機器人高度智能的那一天真的到來，人類將面臨相當大的社會學、倫理學挑戰(zhàn)。因為地球上現(xiàn)存的其他高等生命，如大猩猩、海豚，人類都沒有給予其應有的權(quán)利，沒有生命的機器否要應該得到這種權(quán)利是很難抉擇的。但這都還屬于科學幻想領(lǐng)域，離真正實現(xiàn)還是很遙遠的。