最近，“AI繪畫有多離譜”相關(guān)話題火上熱搜。比如，明明是喜慶的結(jié)婚照，被AI繪畫軟件加工后，剩下了新娘一人；少女和狗的合影中，作為主角的少女被AI繪畫理解成了“狗”。這些生成結(jié)果的“翻車”叫人哭笑不得。不過，如果AI在醫(yī)療、自動(dòng)駕駛等其他領(lǐng)域“翻車”，則會(huì)產(chǎn)生嚴(yán)重問題。如何從底層構(gòu)建更穩(wěn)定的AI？

 

　　11月30日下午，7位來自阿里巴巴、清華大學(xué)、上海交大等公司和高校的90后和00后研究者，分享了他們在對抗學(xué)習(xí)、貝葉斯深度學(xué)習(xí)、異常檢測、魯棒評(píng)估、噪聲學(xué)習(xí)、魯棒動(dòng)態(tài)圖學(xué)習(xí)、偏微分方程求解等方向上發(fā)表的研究成果，共同探討如何打造更加安全可靠的智能技術(shù)。這些研究成果均被AI頂會(huì)NeurIPS收錄。

 

　　毛瀟鋒是阿里巴巴人工智能治理與可持續(xù)發(fā)展研究中心（AAIG）的一名算法工程師。進(jìn)入公司以來，他最重要的工作就是研究如何通過對抗訓(xùn)練來增強(qiáng)AI的魯棒性。這些研究能力被應(yīng)用在非常接地氣的直播和圖片內(nèi)容審核中。在實(shí)際應(yīng)用中，直播攝像頭的光線變化、商品的快速晃動(dòng)等因素都會(huì)對抗AI對違規(guī)商品的識(shí)別。如果AI識(shí)別的穩(wěn)定性難以保障，漏過違規(guī)商品，最終受損的還是消費(fèi)者。

 

　　《利用離散對抗訓(xùn)練增強(qiáng)視覺表征》是毛瀟鋒的分享議題。“如果把圖片拆成一個(gè)個(gè)像素，對某個(gè)或者多個(gè)像素點(diǎn)進(jìn)行修改，往往可能使得AI無法識(shí)別。我所做的工作就是對AI進(jìn)行對抗訓(xùn)練，讓它不糾結(jié)于少量不引起圖片本質(zhì)內(nèi)容的像素級(jí)別的改變，依然能認(rèn)出圖片表達(dá)的含義。”毛瀟鋒認(rèn)為，將這種能力用于平臺(tái)風(fēng)控后，能更好守護(hù)消費(fèi)者的安全。

 

　　董胤蓬是清華大學(xué)計(jì)算機(jī)系的一名95后博士后研究員，已發(fā)表30多篇頂級(jí)國際期刊和會(huì)議論文，主要專注于深度學(xué)習(xí)魯棒性的研究。他本次的分享集中于3D世界的視角變化對AI視覺識(shí)別產(chǎn)生的影響。董胤蓬舉例：“這項(xiàng)研究與自動(dòng)駕駛場景密切相關(guān)。如果前車車輛發(fā)生車禍，自動(dòng)駕駛車輛可能以非常不正常的視角拍攝了圖片或視頻，從而影響識(shí)別和判斷。我關(guān)心的是，在3D空間里，如果拍攝視角或者其他視覺條件出現(xiàn)變化，AI是否能正確識(shí)別從而避免車禍發(fā)生。”

 

　　00后劉松銘是清華大學(xué)的在讀本科生。他試圖利用物理信息機(jī)器學(xué)習(xí)方法解決結(jié)構(gòu)優(yōu)化等廣義上的“安全”問題。

 

　　劉松銘選取了燃料電池組、飛機(jī)機(jī)翼等場景介紹。“假如我們要建模一個(gè)安全穩(wěn)定可靠的電池，需要模擬電池的動(dòng)態(tài)，比如它的溫度或電流分布，這是一個(gè)物理問題，但我想用數(shù)學(xué)的辦法探索，然后通過神經(jīng)網(wǎng)絡(luò)求解。”劉松銘希望用AI探索廣義的科學(xué)問題，包括解決至關(guān)重要的安全問題，讓AI研究者從交叉學(xué)科中找尋思路。

 

　　這場以AI安全為主題的分享會(huì)由阿里巴巴和清華大學(xué)主辦。阿里巴巴集團(tuán)科技倫理治理委員會(huì)執(zhí)行主席、AAIG主任薛暉表示：“這些研究者的探索最后會(huì)反哺于實(shí)際應(yīng)用，幫助集團(tuán)和社會(huì)建設(shè)負(fù)責(zé)任的好科技。對安全可靠的重視和關(guān)注也是企業(yè)社會(huì)責(zé)任感的重要體現(xiàn)。我很高興，越來越多的年輕研究者們不斷投身于此，一起促進(jìn)人工智能技術(shù)的健康發(fā)展。”