騰訊思享會(huì)，是由騰訊網(wǎng)主辦、騰訊文化傾力打造的跨界思想論壇，每年夏冬舉行兩次。思享會(huì)堅(jiān)持建設(shè)性、開(kāi)放性、獨(dú)立性、學(xué)術(shù)性，匯聚思想，容納意見(jiàn)。與上一次思享會(huì)側(cè)重思想文化領(lǐng)域不同，本次的主題關(guān)注時(shí)下科技前沿——物聯(lián)網(wǎng)、人工智能，以及由此產(chǎn)生的哲學(xué)、倫理議題。

 

　　物聯(lián)網(wǎng)是柄“雙刃劍”

 

　　被稱為“第三次信息技術(shù)革命”的物聯(lián)網(wǎng)，無(wú)疑是時(shí)下的熱門(mén)話題。曾著有《智慧的物聯(lián)網(wǎng)》一書(shū)的南開(kāi)大學(xué)教授吳功宜，當(dāng)天圍繞“從互聯(lián)網(wǎng)到物聯(lián)網(wǎng)：機(jī)遇or風(fēng)險(xiǎn)”進(jìn)行了演講。

 

　　在回顧了互聯(lián)網(wǎng)和物聯(lián)網(wǎng)的發(fā)展歷程后，吳功宜指出，物聯(lián)網(wǎng)發(fā)展的最終目的是什么？“是讓人們有更多智慧”。在他看來(lái)，實(shí)現(xiàn)人與人、人與物、物與物的互聯(lián)并非物聯(lián)網(wǎng)的目的。最終目的是要提升人類對(duì)外界世界的全面感知、透徹認(rèn)知和智慧處理的能力，催生大量具有計(jì)算、通信、控制系統(tǒng)的智能設(shè)備和系統(tǒng)。物聯(lián)網(wǎng)的推廣將加快人類邁入智能時(shí)代的步伐。但是任何事情都沒(méi)有完全的利和弊。有研究表明，物聯(lián)網(wǎng)是懸在人類頭上的一把雙刃劍。“現(xiàn)在我們對(duì)互聯(lián)網(wǎng)的安全問(wèn)題頭疼得要命，將來(lái)物聯(lián)網(wǎng)的問(wèn)題更要命。”根據(jù)物聯(lián)網(wǎng)網(wǎng)絡(luò)安全的特性，RFID \WSN的無(wú)限信道、嵌入式系統(tǒng)等將成為新的攻擊重點(diǎn)。網(wǎng)絡(luò)攻擊的動(dòng)機(jī)也已經(jīng)由過(guò)去的好奇心，變得趨利，甚至成為有組織的經(jīng)濟(jì)犯罪。

 

　　他還以諾基亞的一項(xiàng)移動(dòng)數(shù)據(jù)研究計(jì)劃為例，指出智能技術(shù)與隱私保護(hù)的矛盾。“智能數(shù)據(jù)處理的方法，智能信息服務(wù)系統(tǒng)和智能系統(tǒng)都會(huì)對(duì)人類的隱私保護(hù)產(chǎn)生嚴(yán)重的影響，而我們現(xiàn)在恰恰很難注意到這些問(wèn)題。”

 

　　吳功宜的結(jié)論是，“物聯(lián)網(wǎng)是高懸在人頭上的雙刃劍，它的安全問(wèn)題是一個(gè)系統(tǒng)工程。”

 

　　劉德寰：最可怕的是模擬人性

 

　　提到“科學(xué)怪人”，人們常常會(huì)聯(lián)想到瑪麗·雪萊在《弗蘭肯斯坦》一書(shū)中創(chuàng)造的“人造人”。當(dāng)人類意識(shí)到未來(lái)有可能創(chuàng)造出有獨(dú)立意識(shí)的生命體，關(guān)于人工智能風(fēng)險(xiǎn)的討論就從未停止。在思享會(huì)當(dāng)天的對(duì)話環(huán)節(jié)，北京大學(xué)新媒體研究院副院長(zhǎng)、CMRA會(huì)長(zhǎng)劉德寰就以“商業(yè)智能：科學(xué)怪人”為題發(fā)表演講。

 

　　談到人工智能可能帶來(lái)的風(fēng)險(xiǎn)，劉德寰說(shuō)，目前大規(guī)模的機(jī)器信息搜集、機(jī)器模擬認(rèn)知已經(jīng)開(kāi)始，“更可怕的是機(jī)器決策。這件事如果有突破性進(jìn)展，后果非常值得探討。當(dāng)然最可怕的是模擬人性。”

 

　　他的看法是，“如果把所有這些技術(shù)整合在一起，就不再只是技術(shù)問(wèn)題，而是道德問(wèn)題。就有點(diǎn)兒像克隆。現(xiàn)在克隆出一個(gè)人來(lái)沒(méi)問(wèn)題，但是問(wèn)題在于從道德來(lái)說(shuō)有巨大的風(fēng)險(xiǎn)，對(duì)人類的未來(lái)也會(huì)有非常大的風(fēng)險(xiǎn)。”

 

　　“現(xiàn)在可看到的最可怕的機(jī)器人是能模擬女性思維。我們知道任何一個(gè)女性都是一個(gè)大數(shù)據(jù)分析終端，男的不行。這個(gè)感覺(jué)本身如果放到機(jī)器上，大家可以想象后果是什么，好在還沒(méi)有把女性研究透。”劉德寰還有一個(gè)擔(dān)心：“如果我們能探討出來(lái)人類思考的密碼，類似DNA的一個(gè)東西，我估計(jì)這東西出來(lái)的時(shí)候人類就走向毀滅，因?yàn)樗旧硖膳铝恕?rdquo;

 

　　網(wǎng)絡(luò)安全性帶來(lái)的隱患也是劉德寰所擔(dān)心的。“過(guò)度互聯(lián)本身會(huì)帶來(lái)過(guò)度風(fēng)險(xiǎn)，一旦我們的生活跟所有的東西聯(lián)結(jié)在一起的時(shí)候，也就是所謂物聯(lián)網(wǎng)的圖景，那么這個(gè)網(wǎng)絡(luò)會(huì)綁架我們的一切，帶來(lái)一個(gè)整體性安全事件的可能性比較大。”而且，“過(guò)度互聯(lián)會(huì)把我們與生俱來(lái)的能力給喪失，我們會(huì)被機(jī)器裹脅，很多病會(huì)增加，會(huì)帶來(lái)社會(huì)成本的上升。” Wi-fi對(duì)人有什么影響？電視、冰箱這些家電有了傳輸能力有什么影響？這些都無(wú)法確認(rèn)，是潛在的公共衛(wèi)生事件。過(guò)度互聯(lián)還引發(fā)了一個(gè)純社會(huì)性話題，“你會(huì)發(fā)現(xiàn)現(xiàn)在在輿論當(dāng)中能獨(dú)立思考的人越來(lái)越少，判斷問(wèn)題都是直線思維”。而數(shù)據(jù)產(chǎn)業(yè)由于存儲(chǔ)時(shí)間、難以精準(zhǔn)預(yù)測(cè)的尷尬，使得人類未來(lái)造出的模擬人性的機(jī)器，會(huì)比較稚嫩，很難模擬一個(gè)“愛(ài)因斯坦”。“如果真的所有的機(jī)器都變成了愛(ài)因斯坦，人也就麻煩了，真的非常非常的麻煩。”

 

　　他的結(jié)論是，“發(fā)揮這個(gè)科學(xué)怪人的所有能力，讓我們的生活更方便、更好。也要控制這個(gè)科學(xué)怪人的心思，因?yàn)槿绻豢刂粕婕叭诵缘牟糠郑L(fēng)險(xiǎn)是非常高的。”

 

　　中山大學(xué)人機(jī)互聯(lián)實(shí)驗(yàn)室主任、哲學(xué)系教授翟振明以世界上第一個(gè)“有情感”的機(jī)器人“辣椒”為例說(shuō)，有了情感就不再是簡(jiǎn)單的機(jī)器人，“過(guò)兩天控告你販賣(mài)感情、騷擾，不把我當(dāng)人看，那怎么辦？”

 

　　翟振明當(dāng)天更多介紹的是虛擬世界和主從機(jī)器人技術(shù)，“我一動(dòng)他就動(dòng)”。“戴上頭盔，接上電腦，人就進(jìn)入一個(gè)新的世界，可以在其他地方相遇，我的實(shí)驗(yàn)室可以做到這一點(diǎn)。”在他看來(lái)，“如果把電腦換成手機(jī)，把大頭盔換成小一點(diǎn)的，變成可穿戴設(shè)備，全世界網(wǎng)絡(luò)功能再?gòu)?qiáng)大一點(diǎn)，就進(jìn)入了電影《黑客帝國(guó)》的世界。”而這，并不是遙遠(yuǎn)的未來(lái)。

 

　　虛擬世界給人類帶來(lái)的變化將是空前巨大的，“國(guó)家主權(quán)的概念，領(lǐng)土的概念，人在什么國(guó)家，出國(guó)的概念完全就改變了”。就比如，人在中國(guó)，機(jī)器人“替身”在美國(guó)，那么這個(gè)人出沒(méi)出國(guó)？“替身”要是殺人如何定性？這里面有復(fù)雜的倫理、道德和責(zé)任主體問(wèn)題。

 

　　翟振明總結(jié)說(shuō)，虛擬現(xiàn)實(shí)對(duì)于人類生活的意義還不可知，盡管感官層次已經(jīng)沒(méi)問(wèn)題，但如果植入芯片后，這個(gè)人還是有自由意志的人嗎？

 

　　趙勇：機(jī)器人開(kāi)車比人開(kāi)車安全得多

 

　　在隨后的第二場(chǎng)對(duì)話中，年輕的格靈深瞳聯(lián)合創(chuàng)始人、CTO趙勇從技術(shù)應(yīng)用方面，介紹了人工智能的最新研究進(jìn)展——可以看到三維世界的深度視覺(jué)，以及人工神經(jīng)網(wǎng)絡(luò)技術(shù)等。“人工智能最底層是感知領(lǐng)域。”目前他所在公司的研究，可以將成果應(yīng)用到銀行安防監(jiān)控、交通領(lǐng)域等。“當(dāng)我們給汽車賦予了最底層的人工智能，比如視覺(jué)感知智能，我們就可以教他安全行駛或者幫助人更加安全行駛。”如果這個(gè)技術(shù)做得越來(lái)越好，有一天我們就可以把控制權(quán)完全交給汽車，讓他幫我們開(kāi)車。

 

　　“有研究表明，機(jī)器開(kāi)車比人開(kāi)車安全得多。我相信輔助駕駛兩年內(nèi)會(huì)出現(xiàn)，自主巡航可能五年，真正的自動(dòng)駕駛可能要十年之后。”他為現(xiàn)場(chǎng)觀眾設(shè)想了這樣一幅畫(huà)面：“有一天你打?qū)＼?，發(fā)現(xiàn)是汽車自己駕駛……”

 

　　展望20年以后的網(wǎng)絡(luò)世界，趙勇說(shuō)：“我想象中的因特網(wǎng)95%的網(wǎng)民不是人，而是幫你掃地的機(jī)器人，是你的汽車，是每個(gè)監(jiān)控?cái)z像頭，是各種各樣有自我分析能力的傳感器。他們?cè)谝黄鸶覀兘涣?，他們之間也相互交流，而且交流的東西并不是數(shù)據(jù)，而是想法、建議、決策。到那個(gè)時(shí)代我覺(jué)得因特網(wǎng)會(huì)變得特別有意思，也會(huì)有很多潛在的風(fēng)險(xiǎn)和隨之而來(lái)的倫理問(wèn)題。”

 

　　長(zhǎng)期關(guān)注互聯(lián)網(wǎng)發(fā)展的知名IT評(píng)論人謝文當(dāng)天表示，當(dāng)下萬(wàn)事萬(wàn)物數(shù)據(jù)化的趨勢(shì)正在加速，勢(shì)不可擋。這些數(shù)據(jù)原來(lái)是孤立的、片面的、破碎的，現(xiàn)在正在以越來(lái)越快的方式互聯(lián)互接起來(lái)，比如微信。他同時(shí)也表示，“我們沒(méi)有資格談?wù)撝悄苌鐣?huì)能帶來(lái)什么危害。”

 

　　機(jī)器人有沒(méi)有自由意識(shí)？

 

　　短暫的休息過(guò)后，包括中國(guó)社科院農(nóng)村發(fā)展研究所研究員馮興元、中國(guó)林業(yè)大學(xué)心理系主任朱建軍、圖靈機(jī)器人 CEO俞志晨、北京大學(xué)心理系認(rèn)知神經(jīng)科學(xué)副教授毛利華以及科幻作家韓松在內(nèi)的多位嘉賓，在中國(guó)信息經(jīng)濟(jì)學(xué)會(huì)信息社會(huì)研究所所長(zhǎng)王俊秀的主持下，圍繞“人工智能與人類未來(lái)”展開(kāi)討論。

 

　　韓松回顧了科幻文學(xué)中機(jī)器人的歷史，并以電影《人工智能》為例說(shuō)明，“科幻作品里對(duì)人工智能的關(guān)注，表面上看是技術(shù)的，核心的東西還是人文的。”關(guān)于機(jī)器人的討論有以下幾層：技術(shù)上討論能否造出來(lái)，造出來(lái)之后機(jī)器人的地位是怎樣的，再有就是機(jī)器人有沒(méi)有自由意志。

 

　　毛利華則提出疑問(wèn)，“我們所謂的智能，所謂的自我意識(shí)，很多東西并不一定像我們想象的那樣靠譜或者真正存在，科學(xué)的很多證據(jù)說(shuō)明這一點(diǎn)。那么拿什么定義智能？人和機(jī)器的區(qū)別在哪里？”對(duì)于未來(lái)他是個(gè)樂(lè)觀派，“無(wú)論將來(lái)的智能社會(huì)發(fā)展到什么程度，我都不是很悲觀。”

 

　　輪到朱建軍發(fā)言，他向現(xiàn)場(chǎng)觀眾發(fā)問(wèn)：“在座有機(jī)器人嗎？”一片笑聲中，還真有兩三個(gè)人舉手。他的觀點(diǎn)是，人類和機(jī)器的核心差異就是自我意識(shí)。

 

　　王俊秀在總結(jié)這一單元時(shí)表示，“當(dāng)我們這些人談?wù)撊斯ぶ悄芑蛘咧悄苌鐣?huì)的時(shí)候，事實(shí)上我們也在定義人，定義我們自己。”

 

　　當(dāng)天思享會(huì)最后，由中科院自動(dòng)化研究所復(fù)雜系統(tǒng)智能控制與管理國(guó)家重點(diǎn)實(shí)驗(yàn)室主任王飛躍做閉幕演講。他結(jié)合自身的跨界科研經(jīng)歷指出，未來(lái)的智能就是平行智能，未來(lái)的技術(shù)就是平行技術(shù)，將來(lái)社會(huì)的基礎(chǔ)一定是平行社會(huì)，而且將來(lái)會(huì)越來(lái)越好。談到人工智能的前途，王飛躍認(rèn)為，“將來(lái)的機(jī)器人，將來(lái)的智能機(jī)一定要產(chǎn)生出新的工作，就像計(jì)算機(jī)產(chǎn)生新的工種一樣，就像工業(yè)社會(huì)把農(nóng)民轉(zhuǎn)成工人一樣。只有這樣，它才有未來(lái)。所以，我不信機(jī)器替換人，應(yīng)該是機(jī)器度人，機(jī)器生人，機(jī)器化人。”

 

　　“我是不大相信人工智能危害人，至少近一段時(shí)期我相信它的前途在知識(shí)自動(dòng)化方面。”他也大膽設(shè)想未來(lái)：每個(gè)人一生下來(lái)，除了物理空間有一個(gè)你，就有好多平行網(wǎng)絡(luò)上的你，伴你成長(zhǎng)。以后你沒(méi)有這個(gè)“平行人”，就相當(dāng)于拿著大刀紅纓槍，跟槍炮對(duì)著干 。