?。ㄖ靻⒊?國防科技大學國家安全與軍事戰(zhàn)略研究所所長）

 

　　進入21世紀，信息技術、新材料技術、新能源技術、先進制造技術等領域的發(fā)展突破，驅動著人工智能的第三次浪潮席卷全球，塑造著科技革命、產(chǎn)業(yè)革命和軍事革命的嶄新面貌，引起許多國家的高度重視。近年來，人們在津津樂道人工智能帶來無限發(fā)展機遇的同時，政界領袖、學界大咖、科技大佬等也紛紛表達了對人工智能可能帶來安全挑戰(zhàn)的擔憂。比如，俄總統(tǒng)普京認為人工智能是整個人類的未來，它將為人類提供巨大機遇，但同時也存在某些無法預測的威脅?；艚鹕霸粲跞祟愋枰刂埔匀斯ぶ悄転榇淼男屡d科技，以防止它們在未來可能對人類生存帶來毀滅性威脅。馬斯克聲稱人工智能是關系人類文明存亡的最大威脅，而馬云則在一次公開演講中認為，隨著人工智能逐漸消滅人類工作崗位，可能引爆第三次世界大戰(zhàn)。

 

　　這些擔憂到底是為了吸引眼球而危言聳聽，還是心懷悲憫而杞人憂天？到底應如何客觀看待人工智能可能帶來的安全挑戰(zhàn)？筆者認為，人們對于人工智能的安全擔憂是由于人工智能本身的技術復雜性、科幻色彩和應用實踐的初始性造成的，是一定階段人們對人工智能粗淺認知的折射反映。

 

　　人工智能本是個外來詞，來自英語artificial intelligence的翻譯。狹義的人工智能是指機器人及其相關技術，廣義的人工智能則是指能夠模擬、延伸、替代人的行為的相關技術。這種定義方式其實為我們理解人工智能帶來了技術上的難度。從狹義來看，機器人相關技術就包括了機器人設計制造、模式識別、交流學習等很多方面。從廣義來看，任何只要是能夠模擬、延伸、替代人的行為的相關技術都可認為是人工智能技術，比如模擬人的思維推理、人的五感交互、人的行為模式等技術。因此，無論是狹義還是廣義都可以看出，人工智能不是一項單一的技術，而是多項技術構成的復雜體系。這就為我們理解人工智能及其可能引發(fā)的安全問題帶來的困難，甚至由于對于技術的不了解造成了對于人工智能想象中的安全擔憂或認知黑洞。

 

　　人工智能的技術特性決定了人工智能具有鮮明的科幻色彩?！短章巍贰懂愋巍贰稒C械姬》《終結者》等與人工智能相關的科幻大片很多，給人們留下了深刻印象，也提供了豐富的想象空間。由于對于技術細節(jié)缺乏了解，對于未來的無限憧憬，對于未知世界的本能恐懼，導致人們對于人工智能及其可能產(chǎn)生的安全挑戰(zhàn)有了更多的想象，甚至走向人工智能終將毀滅人類這種極端。

 

　　從1956年人工智能概念的提出，半個多世紀過去，人們迎來了人工智能發(fā)展的第三次浪潮。這一次浪潮最大的特點是人工智能引發(fā)科技革命、產(chǎn)業(yè)革命、軍事革命的交織并進，激發(fā)了人工智能發(fā)展的強勁動力。但即便如此，人工智能無論是從科技創(chuàng)新本身，還是產(chǎn)業(yè)業(yè)態(tài)以及軍事應用的實踐，都還是處于一種遠未成熟的初級階段，很多科技本源問題、理論方法問題以及創(chuàng)新發(fā)展模式亟待取得突破。比如，人工智能相關腦科學研究仍有大片空白，人機共生的相關理論還未建立，人工智能產(chǎn)業(yè)生態(tài)還不完善，等等。

 

　　客觀看待人工智能可能帶來的安全挑戰(zhàn)，是我們理解人工智能、發(fā)展人工智能、管控人工智能的前提。人工智能本身發(fā)展的上述特點，為人們理解人工智能帶來了難度甚至障礙?？陀^看待人工智能可能帶來的安全挑戰(zhàn)，首先需要樹立正確的思維理念。

 

　　一是要秉持科學的態(tài)度。人工智能帶來的安全挑戰(zhàn)既可能來自于技術不成熟，也有可能由于人為管理管控上的疏失，必須用科學的態(tài)度，進行實事求是的分析。一般來說，人工智能引發(fā)的安全問題可以分為三個層次：一是某行業(yè)某領域或某系統(tǒng)內安全操作規(guī)程管理方面的安全風險；二是國家安全層面對于政治、經(jīng)濟、金融、科技、國防等領域帶來的安全挑戰(zhàn)；三是由于人工智能技術的跨國使用引發(fā)的網(wǎng)絡安全、太空安全、核安全、反恐行動乃至國際安全治理等方面的挑戰(zhàn)。人工智能在不同層面帶來的安全挑戰(zhàn)具有不同的特點及應對要求，需給予區(qū)別對待，而不能一鍋煮甚至張冠李戴。

 

　　二是要堅持發(fā)展的態(tài)度。總體上看，人工智能帶來的安全挑戰(zhàn)仍處于可控的范圍，人們對人工智能未來發(fā)展的擔憂，主要在于人工智能作為一項技術可能觸發(fā)更多的安全問題。另一方面，人類作為這個星球上智力水面最高的靈長類生物，一旦人類發(fā)明的人工智能超越了人類自身，將不可避免地引發(fā)對未來的本能的恐慌。歷史上，每一次工業(yè)革命或技術革命的到來初期，由于人們對于技術的認知與實踐體驗相對缺乏，都曾引發(fā)過一定程度的恐慌。

 

　　比如第一次工業(yè)革命初期作坊工人對于機器的抵制與破壞，第二次工業(yè)革命初期人們對于電力使用不當造成人員傷亡的恐慌。作為不斷發(fā)展演進的人類文明的產(chǎn)物，需要我們用發(fā)展的眼光看待人工智能的正面作用和可能引發(fā)的安全挑戰(zhàn)，既充分發(fā)揮人工智能的潛力造福人類，又能夠未雨綢繆管控人工智能可能引發(fā)的安全危機。當人們越是能夠客觀看待人工智能帶來的安全挑戰(zhàn)，就越能夠開辟人工智能安全科技與安全產(chǎn)業(yè)創(chuàng)新的藍海。

 

　　三是要堅持合作的態(tài)度。人工智能技術與信息技術的發(fā)展緊密相關，尤其是移動寬帶通信、大數(shù)據(jù)、云計算、物聯(lián)網(wǎng)等領域的技術突破，將促進人工智能相關技術和產(chǎn)業(yè)的成熟。從技術特點看，人工智能與信息技術類似，都具有低成本、易擴散、難封控的特征，并且技術一旦成熟，市場的邊際成本將大大降低，甚至被認為屬于“零邊際成本”的技術。這使得人工智能可能引發(fā)的安全問題也將具有易擴散、難封控的特點。比如，若監(jiān)管缺失，一個黑客就有可能運用新的人工智能算法及入侵技術破壞一個國家的電網(wǎng)、公共交通指揮網(wǎng)絡等的正常運轉，引發(fā)大面積的災難性后果，甚至殃及無辜。

 

　　從理論上說，社會信息化智能化水平越高，將會對于技術體系愈加依賴，而一旦原有的技術體系受到?jīng)_擊，將產(chǎn)生新的不確定性和脆弱性。在信息技術、人工智能技術等大發(fā)展的時代，我們面臨的安全挑戰(zhàn)呈現(xiàn)出技術復雜性、體系脆弱性的雙重特征。正因如此，必須堅持開放合作的態(tài)度，國家政府部門、社會行業(yè)領域及公民個體等應共同加強對人工智能的技術認知和實踐體驗，共同應對人工智能可能帶來安全挑戰(zhàn)，那些“各人自掃門前雪”獨善其身的想法已與這個時代越來越脫節(jié)。

 

　　總之，對于人工智能新的發(fā)展浪潮，既不能只看到其利而盲目追捧，也不能因為其潛在的安全威脅而踟躕不前。必須客觀認識人工智能的發(fā)展應用，如果人們能夠在未來的實踐中不斷避免對人工智能相關安全問題的誤解、誤判和誤用，人類仍然能夠掌控自己的命運。