按細分領(lǐng)域劃分，早前圍繞安全的主要話題在網(wǎng)絡(luò)層面。但近年隨著數(shù)據(jù)量提升、數(shù)據(jù)泄露變得常見，數(shù)據(jù)安全產(chǎn)品、服務(wù)隨之成為產(chǎn)業(yè)熱點。而如今，伴隨生成式AI、大模型的出現(xiàn)，AI安全緊跟成為最被關(guān)注的議題。

 
 

　　在日前舉辦的2023西湖論劍·數(shù)字安全大會上，36氪觀察到，不少行業(yè)專家在談?wù)摂?shù)據(jù)安全的同時，同樣熱議AI安全。

 

　　安恒信息董事長范淵在2023西湖論劍·數(shù)字安全大會上表示，實戰(zhàn)化是安恒的基因之一。在過去的護網(wǎng)、重大活動安保過程中，安恒通過總結(jié)自己的經(jīng)驗，沉淀出實戰(zhàn)化模型。"我們這兩年發(fā)現(xiàn)，AI+安全大腦在網(wǎng)絡(luò)戰(zhàn)形勢下的價值越來越高。"范淵表示。

 

　　而針對最新出現(xiàn)的、生成式AI的安全，范淵總結(jié)，當前出現(xiàn)了幾個新挑戰(zhàn)和機遇：首先，AI和大模型本身會存在不少安全風(fēng)險；另外，ChatGPT這類應(yīng)用會給自動化生成網(wǎng)絡(luò)安全工具和病毒木馬后門帶來幾百倍的效率提升；同時，AI+安全的智能化應(yīng)用，也會為智能防護和響應(yīng)帶來更大的機遇和成果。針對這些變化，范淵表示，安恒現(xiàn)在正在用相關(guān)海量數(shù)據(jù)和多個場景模型，在AI安全這個中模型上，覆蓋產(chǎn)品、平臺和服務(wù)3個維度，形成安全大腦。

 

　　"AI+安全，這個大幕剛剛拉開，未來還有更大的可能性。"范淵總結(jié)。

 

　　在會議中，中科院信息工程研究所副所長、大數(shù)據(jù)安全研究室主任王偉平教授同樣介紹了生成式人工智能數(shù)據(jù)安全風(fēng)險分析和對策。王偉平總結(jié)，生成式人工智會帶來數(shù)據(jù)安全、內(nèi)容安全、意識形態(tài)安全等方面的問題。

 

　　他認為，目前的生成式人工智能還是一個黑盒，人們無法很好地保障可解釋性。這種情況下，首先社會應(yīng)該加強對個人安全風(fēng)險意識的宣貫，盡量避免個人信息透露給AIGC；第二，要對社交媒體上虛假信息內(nèi)容進行辨別，從源頭上避免給AIGC灌輸一些負面、虛假的輸入；同時也要加強涉密人員、涉密領(lǐng)域、涉密場所和涉密設(shè)備的監(jiān)管，防止和ChatGPT類似系統(tǒng)產(chǎn)生關(guān)聯(lián)。

 

　　另外他還強調(diào)，應(yīng)同時促進AIGC技術(shù)和安全防護技術(shù)的創(chuàng)新，因為在這個領(lǐng)域，"不發(fā)展就是最大的不安全"。他舉例，現(xiàn)在大家可以從輸入和輸出方面來抑制模型生成負面信息，并對人工智能智能生成的內(nèi)容進行標記、鑒別、檢測和溯源。

 

　　在垂直場景方面，浙江工業(yè)大學(xué)網(wǎng)絡(luò)空間安全研究院副教授徐東偉，分享了自己對自動駕駛領(lǐng)域安全的觀察。

 

　　他介紹，自己的團隊在研究過程發(fā)現(xiàn)，自動駕駛所涉及的圖片、視頻或者語音智能感知算法存在一定脆弱性。"在輸入過程中添加非常微小的、人耳聽不到的噪聲，就會對智能算法產(chǎn)生一個非常極端的影響。"他表示，這可能會導(dǎo)致車輛誤判指令，從而對安全性產(chǎn)生影響。

 

　　而在數(shù)據(jù)層面，徐東偉表示，在智能網(wǎng)聯(lián)場景下的車輛軌跡預(yù)測或者車輛控制中，如果缺失或者數(shù)據(jù)不含噪聲，也會對控制算法、軌跡預(yù)測算法產(chǎn)生非常大的影響，也就是"魯棒性會很差"。

 

　　同時，如果基于聯(lián)邦學(xué)習(xí)或者區(qū)塊鏈構(gòu)建數(shù)據(jù)安全共享機制，雖然數(shù)據(jù)共享會比較安全，但如果數(shù)據(jù)本身不準確，模型也會受到攻擊，同樣對最終產(chǎn)生的決策產(chǎn)生攻擊。

 

　　針對這些問題，徐東偉表示，未來他的團隊會關(guān)注三個方面：第一是如何基于AI設(shè)計車聯(lián)網(wǎng)的有效應(yīng)用。第二是在車聯(lián)網(wǎng)應(yīng)用過程中，如何從數(shù)據(jù)安全和模型安全兩方面保證車聯(lián)網(wǎng)應(yīng)用的安全。第三是在測試的前提下，如何進一步研究車聯(lián)網(wǎng)應(yīng)用過程中的魯棒增強和有效的安全防護。

 

　　總結(jié)來看，AI安全雖是新鮮事物，但從技術(shù)邏輯拆解，與會專家大多認為AI安全和數(shù)據(jù)安全存在一些相通之處。針對數(shù)據(jù)安全，范淵表示，安恒早前就一直強調(diào)應(yīng)用安全、數(shù)據(jù)安全，未來在數(shù)據(jù)安全方面也會持續(xù)投入。

 

　　“公司今年一季度收入同比增長44%，是很健康的。而在三年前，我們就募資投入到數(shù)據(jù)安全治理、數(shù)據(jù)安全防護、數(shù)據(jù)安全應(yīng)用、數(shù)據(jù)要素的研究中。所以過去這兩年可能也會感覺到好像利潤會受到影響，但是我覺得未來的十年是非常重要的。”范淵在采訪中表示。