為加快構(gòu)建人工智能安全創(chuàng)新環(huán)境，7月13日，以“共筑AI安全安享智能未來”為主題的2022人工智能安全大賽(以下簡稱大賽)正式啟動。作為中關(guān)村論壇國際前沿科技創(chuàng)新大賽的專題賽，本次大賽聚焦人工智能產(chǎn)業(yè)面臨的安全挑戰(zhàn)，旨在以競賽方式破解安全難題，培育高水平的人工智能安全團(tuán)隊，同時強(qiáng)化人工智能治理體系與安全評估能力建設(shè)，助力人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展。
作為國內(nèi)首個以人工智能安全為主題的賽事，本屆大賽“逼格”滿滿。例如，大賽匯聚業(yè)界頂級專家，中國科學(xué)院院士張鈸、中國工程院院士倪光南、中國工程院院士沈昌祥、中國工程院院士于全、中國工程院院士吳建平在內(nèi)的五位院士受邀擔(dān)任本屆大賽組委會主席，旨在打造人工智能安全領(lǐng)域最高水平的競技交流平臺。
大賽評審委員會則由來自中國科學(xué)院、清華大學(xué)、復(fù)旦大學(xué)、浙江大學(xué)、中國科學(xué)技術(shù)大學(xué)、北京航空航天大學(xué)、西安交通大學(xué)、北京郵電大學(xué)、北京理工大學(xué)等多所國內(nèi)知名高校學(xué)者組成，為保證大賽呈現(xiàn)高水平競技提供有力保障。
賽題方面，大賽深度聚焦前沿安全問題。大賽針對人臉識別安全、深度偽造內(nèi)容治理、自動駕駛安全等領(lǐng)域設(shè)置賽題，致力于將產(chǎn)業(yè)應(yīng)用中的實際需求與最前沿的安全問題融合，以期為人工智能的能力演進(jìn)提供重要參考。
具體而言，“深度偽造安全競賽”的賽題針對目前利用生成合成類算法偽造音頻、視頻等濫用現(xiàn)象，要求參賽選手模擬互聯(lián)網(wǎng)上深度偽造視頻傳播的場景，通過提交針對偽造方法的溯源算法，對相同生成方法的深度偽造視頻進(jìn)行識別，并最終根據(jù)準(zhǔn)確率進(jìn)行排名。
“自動駕駛安全競賽”則瞄準(zhǔn)自動駕駛車輛在極端場景中極易發(fā)生誤判、面臨算法安全威脅、存在被惡意攻擊的可能，要求選手模擬自動駕駛場景下的對抗攻擊，提供線上仿真自動駕駛環(huán)境。選手通過提交對抗補(bǔ)丁，對主流自動駕駛目標(biāo)檢測模型進(jìn)行攻擊測試，最終根據(jù)攻擊成功率進(jìn)行排名。
人臉識別系統(tǒng)容易受到對抗樣本攻擊，即通過對人臉圖像做微小的改動，能夠欺騙識別系統(tǒng)做出錯誤判斷。“人臉識別安全競賽”賽題需要選手模擬人臉比對場景下的對抗攻擊，在模型詳細(xì)信息未知的黑盒場景下，提交對抗補(bǔ)丁，并對模型進(jìn)行攻擊測試，最終根據(jù)攻擊成功率進(jìn)行排名。
據(jù)了解，大賽分為報名及線上初賽(7月13日～8月31日)、初賽評審(9月1日～9月10日)、線下決賽及頒獎典禮(2022中關(guān)村論壇期間)三個階段。從即日起，大賽面向全國高等院校、科研院所、科技企業(yè)招募參賽團(tuán)隊。大賽還設(shè)置了豐厚的獎金池，各賽道的冠亞季軍將分別獲得5萬元、2萬元、1萬元的獎金。每個賽道取得總決賽前十名的隊伍，將獲得大賽頒發(fā)的榮譽(yù)證書。
本屆大賽由北京市科學(xué)技術(shù)委員會、中關(guān)村科技園區(qū)管理委員會，北京市經(jīng)濟(jì)和信息化局指導(dǎo)，中關(guān)村國家實驗室、國家工業(yè)信息安全發(fā)展研究中心、清華大學(xué)人工智能研究院、北京瑞萊智慧科技有限公司聯(lián)合主辦，中國電子信息行業(yè)聯(lián)合會人工智能工作委員會協(xié)辦。
