自從人工智能問世以來，它的強大能力在給人們展現(xiàn)無限可能的同時，也發(fā)生了不少合理出錯、合規(guī)蠻干的事件。有外媒報道，美軍曾在戰(zhàn)場上投入一款名為“魔爪”的戰(zhàn)斗機器人，擁有出色的多任務(wù)能力。安裝上機械臂，它能進(jìn)行排雷作業(yè)；換上輕武器，它能瞄準(zhǔn)對手進(jìn)行精確射擊?？墒?，2007年美軍在測試這款機器人時，它突然轉(zhuǎn)身對著美軍士兵進(jìn)行瘋狂掃射，直至被火箭彈擊中之后才停止攻擊，讓人們不得不深思戰(zhàn)斗機器人背后的“失控”風(fēng)險。

隨著信息技術(shù)和人工智能技術(shù)的強勁發(fā)展，人工智能為人類提供的服務(wù)越來越多、手段越來越先進(jìn)，但它的行為及其結(jié)果卻并不總是符合人們的主觀愿望和理智判斷，常常會發(fā)生各種難以想到的可怕現(xiàn)象和嚴(yán)重后果?；谌斯ぶ悄艿默F(xiàn)有功能及其發(fā)展趨勢，人們完全可以作出這樣一些假設(shè)：當(dāng)運用人工智能情報系統(tǒng)進(jìn)行戰(zhàn)場偵察和情報搜集時，業(yè)已獲取的某些情報資料通過存在漏洞的“終端”和“后門”被錯傳給對手情報系統(tǒng)，或被對手突破網(wǎng)絡(luò)防御而竊取相關(guān)重要情報，結(jié)果造成戰(zhàn)場上的嚴(yán)重被動局面；當(dāng)經(jīng)過反復(fù)研究論證、權(quán)衡優(yōu)化而生成制訂的作戰(zhàn)方案準(zhǔn)備付諸實施時，人工智能指揮系統(tǒng)卻突然發(fā)生程序紊亂，將原先設(shè)定的方案計劃徹底打亂，致使作戰(zhàn)行動無法按計劃有序推進(jìn)；當(dāng)使用人工智能武器對敵實施攻擊時，它突然調(diào)轉(zhuǎn)槍口向著自己人襲擊，導(dǎo)致己方損失慘重、一時陣腳大亂……顯然，這樣的假設(shè)絕不是空穴來風(fēng)，而是隨時可能發(fā)生的實際存在，對于今天研究戰(zhàn)爭、設(shè)計戰(zhàn)爭、準(zhǔn)備戰(zhàn)爭的人們來說，無疑是一個必須未雨綢繆、防患未然的重大問題。

或許，戰(zhàn)斗機器人“反戈一擊”只是諸多意外事件中的個例。但隨著機器人運用范圍不斷擴大，其顯在功能和潛在效能不斷釋放，更多更壞更令人意想不到的驚人事件也可能不斷發(fā)生。從技術(shù)角度看，出現(xiàn)這種“亂象”的原因大多與人工智能中的算法不夠完善、有待進(jìn)化有關(guān)。而進(jìn)化算法的主要方法是通過不斷的選擇和優(yōu)化，逐步提升人工智能解決自身問題的性能和功能。為此，人工智能設(shè)計者、制造者、使用者應(yīng)當(dāng)具有預(yù)防意外事件的全域性全維性超前性思維方式和方法，從一開始就要考慮到防止各種人工智能“背叛”人類、傷害人類的事故發(fā)生，通過技術(shù)手段或其他有效方法將事故“后門”牢牢堵住。

科學(xué)技術(shù)歷來是一把雙刃劍，它在推動人類社會發(fā)展進(jìn)步的同時，也使人類掌握了巨大的破壞殺傷力。19世紀(jì)英國詩人狄更斯曾這樣描述第一次工業(yè)革命：這是一個最壞的時代，這是一個最好的時代；這是一個令人絕望的冬天，這是一個充滿希望的春天；我們面前什么都沒有，我們面前什么都有。用狄更斯這段話來形容人工智能等現(xiàn)代技術(shù)的“雙刃”性質(zhì)，也許再恰當(dāng)不過了。在軍事和戰(zhàn)爭領(lǐng)域，同樣面臨著包括人工智能在內(nèi)的現(xiàn)代技術(shù)所帶來的各種風(fēng)險和挑戰(zhàn)。如何趨利避害、化危為機？這是一個非常重要且緊迫的時代性課題，亟待人們研究解決。

由此或許可以得出一個結(jié)論：成也人工智能，敗也人工智能。這不僅應(yīng)當(dāng)成為我們的預(yù)見性共識，而且應(yīng)當(dāng)成為我們的預(yù)防性行動，在尚未“亡羊”時就精心做好各項“補牢”的工作，防止戰(zhàn)斗機器人“反戈一擊”之類事件發(fā)生。這樣，當(dāng)未來戰(zhàn)場真的出現(xiàn)類似情況時，也不至于驚慌失措、喪失戰(zhàn)機。