9月16日，以“共筑AI安全安享智能未來(lái)”為主題的AISC首屆人工智能安全大賽（以下簡(jiǎn)稱(chēng)大賽）落幕。這是首個(gè)全國(guó)性人工智能安全賽事，旨在推動(dòng)人工智能攻防技術(shù)創(chuàng)新、實(shí)戰(zhàn)演練、場(chǎng)景挖掘和人才培養(yǎng)。

 

　　和其他通用目的技術(shù)一樣，AI在高歌猛進(jìn)的同時(shí)，也隱藏著新的風(fēng)險(xiǎn)和隱患。聯(lián)合主辦方北京瑞萊智慧科技有限公司（以下簡(jiǎn)稱(chēng)瑞萊智慧）首席執(zhí)行官田天認(rèn)為，人工智能技術(shù)風(fēng)險(xiǎn)發(fā)生的范圍正隨著應(yīng)用場(chǎng)景的日趨廣泛而逐步擴(kuò)大，風(fēng)險(xiǎn)發(fā)生的可能性也隨著其應(yīng)用頻次的增長(zhǎng)而持續(xù)提高。

 

　　在同期舉辦的主題論壇上，與會(huì)專(zhuān)家們表示，重視人工智能安全體系建設(shè)，既是當(dāng)務(wù)之急，也是長(zhǎng)遠(yuǎn)考慮，需加快促進(jìn)人工智能安全領(lǐng)域關(guān)鍵技術(shù)研究與攻防實(shí)踐。

　　在田天看來(lái)，人工智能當(dāng)前的安全風(fēng)險(xiǎn)主要可以從“人”與“系統(tǒng)”這兩個(gè)視角來(lái)剖析。

 

　　從人的視角來(lái)評(píng)估AI的安全問(wèn)題，首當(dāng)其沖就是技術(shù)的兩面性問(wèn)題，存在AI濫用甚至“武器化”的問(wèn)題。具體到人工智能的應(yīng)用中來(lái)看，當(dāng)前最為典型的代表就是深度偽造技術(shù)，它的負(fù)向應(yīng)用風(fēng)險(xiǎn)持續(xù)加劇且已產(chǎn)生實(shí)質(zhì)危害。

 

　　而現(xiàn)場(chǎng)的人臉識(shí)別破解演示，所揭示的正是系統(tǒng)的風(fēng)險(xiǎn)，它來(lái)自于深度學(xué)習(xí)算法本身的脆弱性。以深度學(xué)習(xí)算法為核心的第二代人工智能是個(gè)“黑盒子”，具有不可解釋性，意味著系統(tǒng)存在結(jié)構(gòu)性的漏洞，可能受到不可預(yù)知的風(fēng)險(xiǎn)，典型的就比如現(xiàn)場(chǎng)演示的“神奇貼紙”，其實(shí)就是“對(duì)抗樣本攻擊”，通過(guò)在輸入數(shù)據(jù)中添加擾動(dòng)，使得系統(tǒng)作出錯(cuò)誤判斷。

 

　　這一漏洞在自動(dòng)駕駛感知系統(tǒng)同樣存在，瑞萊智慧演示了用對(duì)抗樣本攻擊自動(dòng)駕駛汽車(chē)。正常情況下，在識(shí)別到路障、指示牌、行人等目標(biāo)后，自動(dòng)駕駛車(chē)輛就會(huì)立即停車(chē)，但在目標(biāo)物體上添加干擾圖案后，車(chē)輛的感知系統(tǒng)就會(huì)出錯(cuò)，徑直撞上去。

 

　　人工智能對(duì)抗攻防包括對(duì)抗樣本、神經(jīng)網(wǎng)絡(luò)后門(mén)、模型隱私問(wèn)題等多方面技術(shù)。模型有錯(cuò)誤就需要進(jìn)行及時(shí)的修復(fù)，中國(guó)科學(xué)院信息安全國(guó)家重點(diǎn)實(shí)驗(yàn)室副主任陳愷提出“神經(jīng)網(wǎng)絡(luò)手術(shù)刀”的方法，通過(guò)定位引發(fā)錯(cuò)誤的神經(jīng)元，進(jìn)行精準(zhǔn)“微創(chuàng)”修復(fù)。陳愷表示，不同于傳統(tǒng)的模型修復(fù)工作需要重新訓(xùn)練模型，或者依賴(lài)于較大量的數(shù)據(jù)樣本，這種方式類(lèi)似于“微創(chuàng)手術(shù)”，只需極少量或無(wú)需數(shù)據(jù)樣本，能夠大幅提升模型修復(fù)效果。

 

　　安全的本質(zhì)在于對(duì)抗升級(jí)，構(gòu)建安全需要一個(gè)持續(xù)攻防演進(jìn)的過(guò)程。田天表示，大賽聚焦人工智能真實(shí)應(yīng)用場(chǎng)景中的典型漏洞及風(fēng)險(xiǎn)，以賽促建、以賽促研，通過(guò)考核參賽隊(duì)伍的漏洞發(fā)現(xiàn)、漏洞挖掘等能力，探索新型安全需求場(chǎng)景，推動(dòng)AI攻防技術(shù)創(chuàng)新，為強(qiáng)化人工智能治理體系與安全評(píng)估能力建設(shè)提供支撐。

 

　　專(zhuān)家提出，從長(zhǎng)遠(yuǎn)看，人工智能的安全問(wèn)題，還需從算法模型的原理上突破，唯有持續(xù)加強(qiáng)基礎(chǔ)研究，才能破解核心科學(xué)問(wèn)題，同時(shí)他們強(qiáng)調(diào)，人工智能的未來(lái)發(fā)展需確保對(duì)整個(gè)社會(huì)、國(guó)家發(fā)展的有效性和正向促進(jìn)性，需要政產(chǎn)學(xué)研用多方協(xié)同共進(jìn)。

 

　　在人工智能的全生命周期，不僅存在算法層面的安全性問(wèn)題，算力作為人工智能發(fā)展的重要基礎(chǔ)設(shè)施，也面臨著諸多風(fēng)險(xiǎn)，推動(dòng)人工智能算力基礎(chǔ)設(shè)施安全發(fā)展具有重要意義。活動(dòng)期間，由國(guó)家工業(yè)信息安全發(fā)展研究中心牽頭，聯(lián)合華為技術(shù)有限公司和北京瑞萊智慧科技有限公司共同撰寫(xiě)的《人工智能算力基礎(chǔ)設(shè)施安全發(fā)展白皮書(shū)》發(fā)布。

 

　　自七月開(kāi)啟報(bào)名以來(lái)，大賽共吸引來(lái)自全國(guó)范圍內(nèi)70多所高等高校、科研院所、企業(yè)機(jī)構(gòu)的超過(guò)400支團(tuán)隊(duì)，共計(jì)600余名選手的踴躍參與。經(jīng)過(guò)三個(gè)月的激烈角逐，最終，上海交通大學(xué)聯(lián)合戰(zhàn)隊(duì)“AreYouFake”與北京交通大學(xué)戰(zhàn)隊(duì)“BJTU-ADaM”分別摘得深度偽造安全與自動(dòng)駕駛安全賽道桂冠，北京理工大學(xué)戰(zhàn)隊(duì)“DeepDream”與建信金科戰(zhàn)隊(duì)“TianQuan&LianYi”共同位列人臉識(shí)別賽道第一名。