智能技術(shù)集成和演化的社會(huì)風(fēng)險(xiǎn)主要體現(xiàn)為人類主體性喪失和獨(dú)立性削弱，首先帶來(lái)信息失控和信息壟斷問(wèn)題。“失控”和“壟斷”看似兩個(gè)相互沖突的問(wèn)題，卻同時(shí)在當(dāng)前智能技術(shù)集成和演化的社會(huì)中出現(xiàn)。當(dāng)前，人類信息普遍“在線”、信息傳播普遍“在線化”。然而，在信息本身“去中心化”的同時(shí)，信息入口卻越來(lái)越“中心化”。

 

　　在越來(lái)越多的智能技術(shù)影響下，我們正面臨著信息失控和信息壟斷的問(wèn)題；正逐漸失去對(duì)信息的控制權(quán)。主要信息入口正在被弱人工智能壟斷并將逐步移交給強(qiáng)人工智能。

 

　　人類正在失去面對(duì)信息的“自主”能力，具體表現(xiàn)為：各類信息獲取前所未有地便利；信息壟斷前所未有地嚴(yán)重，信息入口的馬太效應(yīng)顯著，Google、百度和部分超高頻App逐漸成為“信息入口寡頭”；虛假和惡意信息的生產(chǎn)、傳播前所未有地便捷，影響范圍前所未有地?cái)U(kuò)大；“技術(shù)焦慮與信息迷失”成為人類普遍的生存狀態(tài)。

 

　　另一方面，過(guò)濾泡沫和民主退化也是風(fēng)險(xiǎn)之一。人工智能根據(jù)有限現(xiàn)有信息對(duì)人類進(jìn)行大量重復(fù)而同類型的“個(gè)性化推薦”，導(dǎo)致人類陷入“喜歡的—推薦的—喜歡的”的自反陷阱無(wú)法逃離，切斷了人類對(duì)新鮮、陌生與異質(zhì)世界的接口，導(dǎo)致人類體驗(yàn)、視野越來(lái)越狹隘，對(duì)人類思想、認(rèn)知與行為都將產(chǎn)生重大影響。其政治意義在于，這將有害于包容異見(jiàn)的民主的發(fā)展，因?yàn)?，我們通過(guò)網(wǎng)絡(luò)獲得的都是同質(zhì)的觀點(diǎn)，難以在現(xiàn)實(shí)中“容忍”異議。我們預(yù)測(cè)，這一負(fù)面效應(yīng)將很快顯現(xiàn)而且可以測(cè)量。

 

 

　　智能技術(shù)集成和演化的社會(huì)風(fēng)險(xiǎn)還包括數(shù)據(jù)和隱私風(fēng)險(xiǎn)。通過(guò)主動(dòng)推薦、被動(dòng)監(jiān)視和間接收集，隨時(shí)都在產(chǎn)生數(shù)據(jù)的人類個(gè)體的碎片化信息被大數(shù)據(jù)等技術(shù)手段重新整合，人類面臨數(shù)據(jù)丟失、行動(dòng)和偏好透明化等風(fēng)險(xiǎn)。

 

　　這些數(shù)據(jù)被儲(chǔ)藏、整理、買(mǎi)賣(mài)交易，人類的價(jià)值和尊嚴(yán)正遭遇嚴(yán)重挑戰(zhàn)。一些“高技術(shù)”的網(wǎng)絡(luò)攻擊，如今年5月13日大范圍爆發(fā)的勒索病毒W(wǎng)anncry就造成了巨大的數(shù)據(jù)損壞和幾十億元的損失。而所謂“數(shù)據(jù)即財(cái)富”其本質(zhì)就是“隱私即財(cái)富”，只是需要通過(guò)技術(shù)調(diào)適、公眾協(xié)商實(shí)現(xiàn)數(shù)據(jù)、隱私保護(hù)與商業(yè)、社會(huì)發(fā)展的有機(jī)平衡。

 

　　人類生活的自主性喪失，對(duì)人工智能的依賴增強(qiáng)，則會(huì)產(chǎn)生決策依賴問(wèn)題。在非常短的未來(lái)里，由于強(qiáng)人工智能的決策遠(yuǎn)遠(yuǎn)優(yōu)于人類，越來(lái)越多人類放棄自主決策而完全依賴人工智能，成為人工智能的人體“人替”（avator）。對(duì)這類風(fēng)險(xiǎn)的宏觀警示已經(jīng)出現(xiàn)，如杰出物理學(xué)家斯蒂芬·霍金嚴(yán)肅指出，“人工智能的發(fā)展最終會(huì)導(dǎo)致人類族群的滅絕”。

 

　　但是無(wú)論國(guó)內(nèi)還是國(guó)外，先進(jìn)入智能集成和演化體系的內(nèi)部后跳出來(lái)考察其社會(huì)和倫理風(fēng)險(xiǎn)的研究并未出現(xiàn)：就整體而言哲學(xué)家持一種技術(shù)批判的外在立場(chǎng)對(duì)待這些技術(shù)，而技術(shù)專家則對(duì)哲學(xué)家們“大而無(wú)當(dāng)”的批評(píng)置若罔聞，他們忙于推進(jìn)這些具有內(nèi)在風(fēng)險(xiǎn)，但暫時(shí)還不會(huì)在實(shí)驗(yàn)室中爆炸的技術(shù)的具體研究。這種跨學(xué)科的相互批評(píng)和無(wú)視乃至敵視的現(xiàn)象本身也部分地與當(dāng)代技術(shù)集成所帶來(lái)的知識(shí)鴻溝有關(guān)。

 

 

　　當(dāng)代智能技術(shù)的集成和演化正在引發(fā)社會(huì)結(jié)構(gòu)和社會(huì)秩序的深刻變革。尤其需要重視的是，在某些技術(shù)領(lǐng)域，如移動(dòng)互聯(lián)和大數(shù)據(jù)研究，我國(guó)已經(jīng)處于世界的領(lǐng)先地位，這種變革可能在我國(guó)率先出現(xiàn)。

 

　　如果不能敏銳地認(rèn)識(shí)到這些變革，并及時(shí)有效地回應(yīng)、及時(shí)改變社會(huì)治理方式，就很可能會(huì)釀成社會(huì)危機(jī)。而且，在今后的技術(shù)集成和演化條件下這種危機(jī)往往是災(zāi)難性的。技術(shù)整體則包含了更大的風(fēng)險(xiǎn)，新技術(shù)已經(jīng)形塑了當(dāng)代人類的生活空間，“逼迫”人類改變自己的生活方式以適應(yīng)該環(huán)境。我們計(jì)劃通過(guò)實(shí)驗(yàn)研究的途徑探討社會(huì)風(fēng)險(xiǎn)形成的微觀機(jī)制，以及化解風(fēng)險(xiǎn)的治理方式的產(chǎn)生過(guò)程。