大會期間，在瑞萊智慧的展臺上，一件“隱身衣”的展示吸引了大量觀眾駐足。正常情況下，目標(biāo)對象只要站在攝像頭前面，就會被實(shí)時檢測出來，但瑞萊智慧團(tuán)隊基于領(lǐng)先的對抗攻防技術(shù)開發(fā)了一款“隱身衣”，通過在衣服上印刷特定的對抗圖案，就能夠使檢測算法出錯，普通人一旦穿上，便可以逃避檢測系統(tǒng)的追蹤，實(shí)現(xiàn)“隱身逃逸”。

 

　　究其原理，瑞萊智慧合伙人、高級副總裁朱萌表示，這是由于當(dāng)前以數(shù)據(jù)驅(qū)動的深度學(xué)習(xí)，其本質(zhì)是利用“黑箱”處理方法尋找規(guī)律，存在不可解釋、不可靠等結(jié)構(gòu)性缺陷，將導(dǎo)致不可預(yù)知的惡意攻擊，比如通過在輸入數(shù)據(jù)中添加擾動，即可使系統(tǒng)作出錯誤判斷。

 

　　除了“隱身衣”，類似的攻防還可以延伸到更多識別場景：在自動駕駛場景中，通過修改錐桶的形狀，就能讓汽車感知模塊失效，徑直撞上去；通過制作帶有特制花紋的眼鏡，刷開數(shù)十部商用手機(jī)的人臉解鎖等。

 

　　圍繞“高水平安全賦能高質(zhì)量發(fā)展”目標(biāo)，朱萌提出人工智能安全能力建設(shè)“三部曲”，首先是，發(fā)掘現(xiàn)有AI安全風(fēng)險、預(yù)判AI潛在風(fēng)險；二是針對風(fēng)險建設(shè)治理體系，包括建立AI治理理論、構(gòu)建治理運(yùn)轉(zhuǎn)機(jī)制、探索技術(shù)實(shí)踐路徑等；三是在治理體系框架下，重點(diǎn)探尋倫理法規(guī)的技術(shù)落地方案。

瑞萊智慧合伙人、高級副總裁朱萌（央廣網(wǎng)發(fā)受訪者供圖）

 

　　“人工智能當(dāng)前的安全風(fēng)險主要可以從‘系統(tǒng)’與‘人’兩個視角來剖析。”朱萌認(rèn)為，系統(tǒng)層面來看，以深度學(xué)習(xí)算法為核心的人工智能系統(tǒng)十分脆弱，其結(jié)構(gòu)性漏洞致使“對抗樣本攻擊”不可避免，而其數(shù)據(jù)依賴性則使其存在“數(shù)據(jù)投毒”漏洞，出現(xiàn)“后門攻擊”。從“人”的層面來評估AI的可信問題，主要風(fēng)險來自人的濫用、惡意應(yīng)用，最為典型的就是深度合成技術(shù)。它大幅降低了信息生成合成的難度，但其負(fù)向應(yīng)用已產(chǎn)生實(shí)質(zhì)危害，甚至存在“武器化”風(fēng)險。

 

　　針對上述風(fēng)險，瑞萊智慧于今年6月成立了人工智能治理研究院，探尋從倫理法規(guī)到技術(shù)落地的人工智能治理實(shí)踐之路，主要開展四個方面工作：參與倫理規(guī)則建立、支撐立法工作、開展技術(shù)探索、建立從倫理法規(guī)到技術(shù)實(shí)踐的映射模型。

 

　　落實(shí)到技術(shù)和產(chǎn)品實(shí)踐中，瑞萊智慧搭建了系列安全可控新一代人工智能基礎(chǔ)設(shè)施，包括人工智能安全平臺RealSafe，業(yè)內(nèi)首個針對AI系統(tǒng)殺毒軟件，提供模型安全性測評及安全加固的端到端解決方案；針對人臉識別系統(tǒng)的AI安全防火墻RealGuard，可有效抵御對抗樣本攻擊、深度偽造攻擊等新型攻擊。用于快速、精準(zhǔn)地對多種格式與質(zhì)量的視頻和圖片進(jìn)行真?zhèn)舞b別的深度偽造內(nèi)容檢測平臺DeepReal等。