10月24日，在上海舉辦的GeekPwn2017國(guó)際安全極客大賽的現(xiàn)場(chǎng)，展示了多項(xiàng)人工智能項(xiàng)目的破解，揭露了目前人工智能發(fā)展過(guò)程所存在的安全問題。
KEEN公司CEO王琦表示，人工智能對(duì)抗或?qū)⒊蔀楹诳偷慕K極目標(biāo)，2017年GeekPwn將人工智能作為全年的重點(diǎn)項(xiàng)目，聯(lián)合NEXT IDEA（騰訊創(chuàng)新大賽）發(fā)起“人工智能安全挑戰(zhàn)賽”，同時(shí)特別增設(shè)“AI仿聲驗(yàn)聲攻防賽”，去探索人工智能時(shí)代下的安全問題。
iPhone 8遭遇遠(yuǎn)程破解
在本屆比賽現(xiàn)場(chǎng)，一個(gè)能夠影響iPhone7等系列手機(jī)甚至剛剛上市的iPhone8和更早期型號(hào)iPhone的漏洞被首次曝光。
選手“slipper@0ops”通過(guò)利用iPhone8手機(jī)最新系統(tǒng)漏洞，獲得手機(jī)的最高權(quán)限，實(shí)現(xiàn)了針對(duì)iPhone 8 的遠(yuǎn)程越獄破解，在獲取手機(jī)中照片的同時(shí)，成功獲得主持人黃健翔在現(xiàn)場(chǎng)寫下的密碼：“357912468“。
該選手具體操作方式是，用戶在iPhone 8里打開黑客的鏈接，比如掃描二維碼，用戶的iPhone就能被控制，黑客通過(guò)遠(yuǎn)程控制的方式，就能看到用戶iPhone手機(jī)里面的照片。
在2015年的GeekPwn賽場(chǎng)上，“slipper@0ops”就曾破解安卓手機(jī)的Root權(quán)限，2016年，該選手還成功將PS4破解越獄。
長(zhǎng)期以來(lái)，封閉式和開放式的編程方式被形容為大教堂和集市兩種模式。而蘋果的 iOS 與安卓系統(tǒng)被視為兩個(gè)完美代表。然而，隨著這幾年蘋果逐漸開放權(quán)限、開源部分內(nèi)核代碼，破解蘋果的案例開始增加。
該選手表示，此次發(fā)現(xiàn)的漏洞將會(huì)影響從iPhone6到iPhone8甚至更早期型號(hào)的iPhone用戶。他還表示，希望能進(jìn)一步研究攻破機(jī)制，再將漏洞提供給蘋果公司，也同時(shí)承諾“不會(huì)利用它做壞事”。
破解筆跡
將人工智能作為攻擊手段僅僅只是人類的設(shè)想嗎？在本屆大賽上，就用AI 顛覆了大眾傳統(tǒng)認(rèn)知中的“立字為據(jù)”。
由于個(gè)人書寫習(xí)慣等因素影響，筆跡具有特殊性，因此被模仿的難度相對(duì)較高。但中國(guó)金融認(rèn)證中心（CFCA）團(tuán)隊(duì)卻利用一個(gè)AI機(jī)械臂，就可以模仿中國(guó)著名科幻作家陳楸帆的字跡，達(dá)到了肉眼難以辨別的逼真程度。
在現(xiàn)場(chǎng)，選手通過(guò)構(gòu)建一個(gè)深度學(xué)習(xí)“DeepWriting“，使機(jī)械臂可以在紙張上隨意書寫，輕松“模仿”人的筆跡，甚至可以達(dá)到筆觸、線條的寬度和字母的傾斜度都難辨真假的程度。如果別有用心者利用這樣的機(jī)器臂假冒他人筆跡，就可能會(huì)造成受害者的財(cái)產(chǎn)損失，甚至是更為嚴(yán)重的后果。
聲音也能被模仿
除了筆跡可以被模仿，獨(dú)一無(wú)二的聲音也可以被復(fù)制。在“AI仿聲驗(yàn)聲攻防賽”上，看似成熟的語(yǔ)音識(shí)別系統(tǒng)在白帽黑客的挑戰(zhàn)下，也出現(xiàn)了漏洞并且被攻破。
在決賽現(xiàn)場(chǎng)，五組入圍隊(duì)伍向四個(gè)具有聲紋識(shí)別功能的設(shè)備發(fā)起挑，聲音樣本由騰訊自家的《王者榮耀》里的英雄人物“妲己”的配音者提供。
根據(jù)比賽規(guī)則，各位選手提前學(xué)習(xí)了妲己聲音樣本的聲紋特征，合成語(yǔ)音音頻，并在現(xiàn)場(chǎng)對(duì)若干語(yǔ)音驗(yàn)證系統(tǒng)發(fā)起攻擊。最終結(jié)果是，五組選手都成功實(shí)現(xiàn)了對(duì)語(yǔ)音驗(yàn)證系統(tǒng)的突破，“欺騙”了目標(biāo)系統(tǒng)，使其無(wú)法做出正確的判斷。
“AI 仿聲驗(yàn)聲攻防賽”主評(píng)委鄭方教授表示，就目前生物特征識(shí)別技術(shù)的發(fā)展來(lái)看，聲紋本身因語(yǔ)音信號(hào)所含信息量的豐富性而是最安全的，但目前市面上所見的一些帶聲紋識(shí)別功能的智能語(yǔ)音產(chǎn)品，普遍對(duì)安全性考慮不夠，沒有防攻擊技術(shù)支撐。這是被黑客攻陷的主要原因。
