昨晚的央視315晚會(huì)上,人臉識(shí)別 技術(shù)被曝存在安全隱患。不少觀眾看到主持人在現(xiàn)場(chǎng)技術(shù)人員支持下,僅憑兩部手機(jī)、一張隨機(jī)正面照片及一個(gè)換臉APP,分別就一張”眨眨眼”的照片和一段”活體檢測(cè)”場(chǎng)景模擬,成功“攻破”人臉識(shí)別系統(tǒng)。
一般業(yè)內(nèi)人士看到的是主持人手里所持人臉識(shí)別App的技術(shù)漏洞,但對(duì)于普通觀眾來(lái)說(shuō),他們看到的是一個(gè)不甚熟悉的高科技技術(shù)應(yīng)用背后的“巨大風(fēng)險(xiǎn)”——人臉識(shí)別怎么會(huì)被破解?為什么一個(gè)換臉App軟件就能輕松換臉?它會(huì)不會(huì)分分鐘“掏空”我的賬戶……經(jīng)由央視這個(gè)2C平臺(tái)一放大,即使只是出于提醒消費(fèi)者的出發(fā)點(diǎn),以百度,曠視,云從,商湯為首的這些被影響的企業(yè),從昨晚開(kāi)始,就開(kāi)始紛紛對(duì)此做出回應(yīng)。
它們的回應(yīng)手段
百度-模擬晚會(huì)場(chǎng)景,從活體檢測(cè)角度回應(yīng)
節(jié)目結(jié)束僅僅5分鐘,百度深度學(xué)習(xí)實(shí)驗(yàn)室主任林元慶便被邀請(qǐng)?jiān)诎俣瓤萍紙@的人臉識(shí)別閘機(jī)做一次親身驗(yàn)證,看百度人臉識(shí)別系統(tǒng)究竟能否被一段視頻“騙過(guò)”。以下是視頻回放:
從視頻中,我們可以看到,檢測(cè)結(jié)果是:林元慶首先對(duì)手機(jī)錄制了一段包括眨眼、轉(zhuǎn)頭等動(dòng)作的真人視頻,然后手持手機(jī),將該視頻在人臉識(shí)別閘機(jī)的攝像頭前播放,以模擬晚會(huì)的場(chǎng)景后,百度人臉閘機(jī)顯示“禁止通過(guò)”。
曠視-從晚會(huì)攻擊原理與防攻擊要點(diǎn)角度回應(yīng)
Face++相關(guān)人員一早就在跟AI科技評(píng)論討論這個(gè)事,后面他們也以視頻的形式,來(lái)“介紹”了央視現(xiàn)場(chǎng)的攻擊原理與防攻擊要點(diǎn):
從攻擊內(nèi)容上,主持人將自己的臉換成現(xiàn)場(chǎng)一名觀眾微博照片里的臉,這是一個(gè)基于軟件合成的換臉攻擊,又可叫虛擬人臉攻擊,這種攻擊不可避免的會(huì)留下圖像修改痕跡。Face++ 通過(guò)機(jī)器學(xué)習(xí)算法提取被修改后圖像特有局部與全局視覺(jué)特征,并對(duì)潛在的攻擊模式進(jìn)行在線歸檔與分類,從而實(shí)現(xiàn)對(duì)這類攻擊的防御。
從攻擊介質(zhì)上, 主持人將自己的手機(jī)對(duì)準(zhǔn)大屏這是一個(gè)屏幕翻拍攻擊。而屏幕翻拍在底層視覺(jué)特征、環(huán)境圖像特征等方面均與真人實(shí)拍有顯著差異。對(duì)此,曠視專門研發(fā)了基于屏幕翻拍綜合檢查的防范技術(shù),實(shí)現(xiàn)對(duì)此類攻擊的隔離。?
緊接著曠視的防攻擊小組也第一時(shí)間復(fù)現(xiàn)了場(chǎng)景,讓兩位工作人員通過(guò)換臉工具進(jìn)行攻擊:
云從-從多重驗(yàn)證的角度進(jìn)行回應(yīng)
相對(duì)于百度和Face++的視頻回?fù)?,云從科技用的?jiǎn)單的文字形式,在他們的微信上他們重點(diǎn)闡述到:
做過(guò)安全的人都知道,絕對(duì)的安全等于無(wú)限的成本。AES加密也能被很快破解,但商用256位足夠了,花費(fèi)破解的成本比破解后的利益還大。
首先,人臉識(shí)別在金融身份核驗(yàn)的用途上,通常是作為交叉驗(yàn)證增強(qiáng)安全性,只會(huì)比以往單用密碼更安全,并且還存在其他驗(yàn)證手段與人臉識(shí)別形成多重驗(yàn)證。其次,從face2face的技術(shù)原理來(lái)講,需要收集很多的被模仿人的人臉數(shù)據(jù),再加上比較先進(jìn)的人臉識(shí)別技術(shù)支撐,才可以模仿該人臉。
從防范攻擊上來(lái)講,被模擬的視頻需要通過(guò)非常高的技術(shù)手段才能夠傳輸?shù)綉?yīng)用軟件里面去,有這種技術(shù)力量,任何系統(tǒng)都存在風(fēng)險(xiǎn);而直接通過(guò)視頻或者圖片攻擊,完全可以被現(xiàn)在的紅外或者一些動(dòng)作判斷的活體手段所識(shí)別出來(lái)。
商湯-從“犯罪”線索角度進(jìn)行回應(yīng)
商湯科技沒(méi)有拍視頻,也沒(méi)有撰寫新的聲明,不過(guò)他們扒出來(lái)之前一篇技術(shù)背后秘密的核心闡述,重點(diǎn)從“犯罪”線索角度進(jìn)行了回?fù)簟?/div>
跟您聊聊技術(shù)后面的秘密:傳統(tǒng)的人臉?lè)纻畏椒ㄒ话阃ㄟ^(guò)用戶的動(dòng)作,例如:眨眼、張嘴、點(diǎn)頭、搖頭、微笑、眼動(dòng)等,作為防偽線索,即我們常說(shuō)的活體檢測(cè)。這種方法會(huì)有一個(gè)漏洞,就是難以防住真人視頻或者合成的視頻(例如3D模型或者換臉?biāo)惴ǎ?/div>
而當(dāng)(比)前(如)優(yōu)(商)秀(湯)的人臉?lè)纻危ɑ铙w檢測(cè))會(huì)采用全新的方法,它與傳統(tǒng)方法的最大不同點(diǎn)就在于更加關(guān)注偽造內(nèi)容本身的介質(zhì)屬性,以及合成的視頻/圖像與自然視頻/圖像的差異。
由于真人視頻或者合成的視頻,必然需要通過(guò)屏幕進(jìn)行顯示,然后使用采集端進(jìn)行翻拍。雖然視頻本身可能做到看起來(lái)非常真實(shí),但是翻拍的過(guò)程中,必然會(huì)暴露出“犯罪”線索,例如:顯示器邊緣,屏幕反光,摩爾紋,像素點(diǎn)紋理,鏡頭畸變等。有些線索可能會(huì)很細(xì)微,以至人眼常常難以察覺(jué),而計(jì)算機(jī)可以察覺(jué)在hack過(guò)程中這些的細(xì)微的線索。
事實(shí)的真相
整個(gè)315晚會(huì)人臉識(shí)別隱患事件,經(jīng)過(guò)一天的發(fā)酵后,業(yè)內(nèi)人士其實(shí)都開(kāi)始冷靜和客觀下來(lái)了。比如,
山世光博士在今天表示:
這肯定會(huì)是一場(chǎng)曠日持久的攻防博弈游戲。
第四范式的戴文淵則表示:
在這個(gè)場(chǎng)景里,人臉識(shí)別本質(zhì)上是一種反欺詐技術(shù),無(wú)論做多少改進(jìn),欺詐團(tuán)伙一定不會(huì)束手就擒,會(huì)開(kāi)發(fā)更多欺詐手段。欺詐與反欺詐永遠(yuǎn)都是博弈的過(guò)程,反欺詐技術(shù)也不應(yīng)該局限于人臉識(shí)別。更完美的解決方案是閉環(huán)的強(qiáng)化學(xué)習(xí)反欺詐方案。
云從的周曦在之前AI科技評(píng)論所做的公開(kāi)課里,被問(wèn)到”云從最近在雙創(chuàng)周展示了“1秒刷臉支付”,但近日也爆出最新木馬 Acecard 可以刷用戶照片盜取權(quán)限進(jìn)行惡意操作,怎么從技術(shù)上防止這類問(wèn)題?“這種人臉識(shí)別在實(shí)際應(yīng)用場(chǎng)景的問(wèn)題中。則用實(shí)際行業(yè)經(jīng)驗(yàn)表示:
銀行對(duì)于安全的要求是非常極致的。我們的方法是對(duì)人臉采集系統(tǒng)采集的人臉,均用云從研究的圖片加密方式對(duì)人臉圖片進(jìn)行了隱式的水印加密處理。云從的人臉識(shí)別系統(tǒng)后端進(jìn)行識(shí)別時(shí),會(huì)判斷人臉圖片是否為云從采集并且加密的人臉圖片。且這種加密方式需要的加密模板和加密參數(shù)很復(fù)雜,一般無(wú)法破解。
包括這次315晚會(huì)背后的換臉App提供者,360人工智能 研究院,其院長(zhǎng)顏水成也在事后的采訪中建議:
相關(guān)技術(shù)廠商不僅要關(guān)注人臉比對(duì)的準(zhǔn)確率,還應(yīng)關(guān)注活體檢測(cè)及人臉識(shí)別系統(tǒng)的使用場(chǎng)景,提高研發(fā)能力,在涉及隱私、支付等場(chǎng)景使用時(shí),應(yīng)當(dāng)將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號(hào)相融合,多個(gè)方面同時(shí)發(fā)力,從而提高安全門檻,保障用戶安全。
從技術(shù)的角度上,人臉識(shí)別同以往任何一個(gè)服務(wù)于安全領(lǐng)域的技術(shù)一樣,有其門檻和局限性;但從實(shí)際應(yīng)用的角度上,各個(gè)廠商在和客戶深入合作的過(guò)程中,一般會(huì)比觀眾更早遇到晚會(huì)里大家擔(dān)心的問(wèn)題。就算他們自己不自覺(jué),他們的客戶也會(huì)提醒他們潛藏在暗處的欺詐團(tuán)隊(duì)們的各種手段和隱憂,務(wù)必要 求技術(shù)提供方在保證一定用戶體驗(yàn)的同時(shí),盡量將人臉與聲紋、指紋、虹膜及其他生物認(rèn)證信號(hào)相融合來(lái)提高安全門檻。
人臉識(shí)別的安全技術(shù)攻堅(jiān)戰(zhàn)絕不會(huì)停止
套用云從科技比較老練的說(shuō)法:
“做過(guò)安全的人都知道,絕對(duì)的安全等于無(wú)限的成本。AES加密也能被很快破解,但商用的256位足夠了,花費(fèi)破解的成本比破解后的利益還大。……我們要正面看待此次315事件,輿論上的熱點(diǎn)讓主要面向B端的人臉識(shí)別廠家有機(jī)會(huì)做一次科普:攻擊和被攻擊本來(lái)就是一個(gè)矛和盾的過(guò)程,一直在相互博弈,使技術(shù)往更好的方向去發(fā)展。”
人臉識(shí)別的安全跟安全行業(yè)以往任何一個(gè)領(lǐng)域的性質(zhì)一樣,這是一場(chǎng)持久的攻堅(jiān)戰(zhàn)。就像大家非常熟悉的銀行卡安全問(wèn)題,5年前我們都用著招商銀行普通的磁條卡,今天基本上都被換成了芯片卡,最近又加了一個(gè)人臉識(shí)別,如果單說(shuō)安全加密手段,銀行方面的升級(jí)就從來(lái)沒(méi)有停止過(guò),因?yàn)槠浔旧韽膩?lái)都沒(méi)有”絕對(duì)安全”這一說(shuō)法。
聲明:凡資訊來(lái)源注明為其他媒體來(lái)源的信息,均為轉(zhuǎn)載自其他媒體,并不代表本網(wǎng)站贊同其觀點(diǎn),也不代表本網(wǎng)站對(duì)其真實(shí)性負(fù)責(zé)。您若對(duì)該文章內(nèi)容有任何疑問(wèn)或質(zhì)疑,請(qǐng)立即與中國(guó)機(jī)器人網(wǎng)(www.baoxianwx.cn)聯(lián)系,本網(wǎng)站將迅速給您回應(yīng)并做處理。
電話:021-39553798-8007
電話:021-39553798-8007
更多>相關(guān)專題
0 條相關(guān)評(píng)論
推薦圖文
推薦專題
- 中國(guó)機(jī)器人發(fā)展哪座城市最強(qiáng)?
- 會(huì)當(dāng)凌絕頂,一覽眾山小——埃夫特科創(chuàng)板上市之路
- 疫情下不得不看,關(guān)于中國(guó)未來(lái)十年的政治經(jīng)濟(jì)分析(深度雄文)
- 服務(wù)機(jī)器人成風(fēng)口,疫情過(guò)后還能否起飛?
- 中國(guó)機(jī)器人抗疫的經(jīng)驗(yàn),外國(guó)人怎么看?又學(xué)去了多少?
- 誰(shuí)來(lái)破解口罩機(jī)困境?
- 蘋果公司為什么做了一個(gè)機(jī)器人?
- 大疆“無(wú)人車”新專利圖曝光 這是個(gè)不會(huì)飛的無(wú)人機(jī)
- 從協(xié)作機(jī)器人到協(xié)作應(yīng)用?自動(dòng)化應(yīng)用的新拐點(diǎn)來(lái)了!
- 性愛(ài)機(jī)器人竟如此栩栩如生?
點(diǎn)擊排行