以無處不在的終端側(cè)對(duì)云端實(shí)現(xiàn)補(bǔ)充是 Qualcomm 對(duì)人工智能的愿景。在我們預(yù)想中的世界里，將使終端、機(jī)器、汽車和萬物都變得更加智能，簡化并豐富人們的日常生活。
近日，在搶占人工智能生態(tài)入口—Qualcomm創(chuàng)投及創(chuàng)新峰會(huì)2017上，Qualcomm高級(jí)研發(fā)總監(jiān)侯紀(jì)磊發(fā)表了名為《讓終端側(cè)人工智能無處不在》的主題演講并與大家分享了分享Qualcomm在人工智能、尤其是在終端側(cè)人工智能的愿景以及未來努力的方向。
Qualcomm高級(jí)研發(fā)總監(jiān)侯紀(jì)磊
積極布局全面深耕智能領(lǐng)域
從整個(gè)科技發(fā)展的歷程看，使機(jī)器終端具備智能能力是人類多年來的愿景。在過去幾年，機(jī)器智能化的趨勢(shì)正在慢慢發(fā)生。
從這方面來講，Qualcomm作為移動(dòng)行業(yè)中的重要領(lǐng)軍企業(yè)，在移動(dòng)行業(yè)投入較多，包括技術(shù)創(chuàng)新和產(chǎn)業(yè)驅(qū)動(dòng)，對(duì)于人工智能的發(fā)展也起到了非常強(qiáng)的加速作用，尤其是加速了人工智能對(duì)整個(gè)人類社會(huì)以及消費(fèi)者個(gè)人的推動(dòng)作用。
據(jù)侯紀(jì)磊介紹，主要表現(xiàn)在以下幾方面：第一是移動(dòng)行業(yè)的龐大規(guī)模，目前全球手機(jī)保有量達(dá)到幾十億部。第二是移動(dòng)技術(shù)非?？焖俚牡芷?，在亞洲、歐洲、北美等相對(duì)發(fā)達(dá)地區(qū)，手機(jī)的平均更新周期為兩年。第三，移動(dòng)技術(shù)擁有高集成、低功耗、高性能等各方面的優(yōu)勢(shì)。這使移動(dòng)技術(shù)擁有無與倫比的優(yōu)勢(shì)，可推動(dòng)人工智能從手機(jī)拓展到各個(gè)行業(yè)。
此外，Qualcomm在人工智能方面有多年的投入，尤其在終端方面有非常強(qiáng)的優(yōu)勢(shì)和領(lǐng)先地位。為什么會(huì)怎么說呢？首先，2007年，Qualcomm啟動(dòng)了首個(gè)人工智能項(xiàng)目，當(dāng)時(shí)基于類腦科學(xué)也稱為脈沖神經(jīng)網(wǎng)絡(luò)開展了研究，也是業(yè)界最早在這方面投入研究的企業(yè)之一。接著在2011年、2012年左右，基于深度學(xué)習(xí)的人工神經(jīng)網(wǎng)絡(luò)有了較好的前景，Qualcomm也是業(yè)界投入這方面研究的早期企業(yè)之一。之后，2014年，收購了歐洲一家知名的移動(dòng)端人工智能公司Euvision。在終端側(cè)，他們對(duì)環(huán)境感知與認(rèn)知的計(jì)算能力和算法優(yōu)勢(shì)非常突出，這使Qualcomm當(dāng)時(shí)很快確立了在人工智能尤其終端側(cè)人工智能的領(lǐng)先優(yōu)勢(shì)。
其次，Qualcomm在推動(dòng)人工智能發(fā)展上比較重要的一個(gè)趨勢(shì)是對(duì)整個(gè)生態(tài)鏈的布局。例如，移動(dòng)具有無與倫比的規(guī)模，怎樣通過規(guī)模優(yōu)勢(shì)去推動(dòng)整個(gè)生態(tài)鏈的發(fā)展，這也是Qualcomm需要去投入的一個(gè)方面。因此，Qualcomm與谷歌在手機(jī)層面上展開了基于TensorFlow的早期戰(zhàn)略合作，也與Facebook在今年上半年開展基于Caffe2訓(xùn)練框架的戰(zhàn)略合作。與此相關(guān)的是，Qualcomm還推出了自己的軟件開發(fā)平臺(tái)——驍龍神經(jīng)處理引擎SDK。
此外，據(jù)透露，未來，雙方在Caffe2方面還有進(jìn)一步的合作空間，表現(xiàn)在兩個(gè)重要方面。第一，從Qualcomm的角度，可以對(duì)網(wǎng)絡(luò)進(jìn)行進(jìn)一步優(yōu)化，進(jìn)一步提高網(wǎng)絡(luò)實(shí)時(shí)性的性能。第二，從Facebook的角度，可以在訓(xùn)練網(wǎng)絡(luò)Caffe2中實(shí)現(xiàn)多種性能增強(qiáng)，以支持Qualcomm專有的芯片優(yōu)化。
最后，Qualcomm新近完成了對(duì)歐洲另一家領(lǐng)先人工智能公司Scyfer的收購。這家公司的創(chuàng)始人Max Welling教授，早在2000年左右就進(jìn)入到早期的人工智能方向，他在深度學(xué)習(xí)領(lǐng)域是一位非常有影響力的人物，他現(xiàn)在也是Qualcomm非常緊密的公司內(nèi)部的合作伙伴。
“Max Welling教授是全球貝葉斯深度學(xué)習(xí)領(lǐng)域中舉足輕重的一位人物。他將在學(xué)術(shù)方面對(duì)Qualcomm進(jìn)行引導(dǎo)，帶領(lǐng)公司甚至于整個(gè)業(yè)界實(shí)現(xiàn)從感知到認(rèn)知的過渡。” 侯紀(jì)磊補(bǔ)充到。
為終端側(cè)智能的發(fā)展賦能
“現(xiàn)在智能正向終端遷移。以往人工神經(jīng)網(wǎng)絡(luò)從訓(xùn)練到執(zhí)行的過程實(shí)際上都是在服務(wù)器或云端進(jìn)行的?，F(xiàn)在，雖然大部分的訓(xùn)練依然在網(wǎng)絡(luò)側(cè)，但很多執(zhí)行和推理過程都已經(jīng)在終端側(cè)進(jìn)行。同時(shí)，我們也看到一部分新興的終端側(cè)訓(xùn)練也在悄然發(fā)生，很多終端都有一些個(gè)性化理解和對(duì)于用戶習(xí)慣的學(xué)習(xí)，這方面將是終端側(cè)學(xué)習(xí)非常重要的應(yīng)用。” 侯紀(jì)磊講到。
談及為什么需要在終端側(cè)發(fā)展人工智能時(shí)，侯紀(jì)磊表示，終端側(cè)的智能發(fā)展最重要的特點(diǎn)是在最靠近數(shù)據(jù)源的位置進(jìn)行數(shù)據(jù)處理，對(duì)云端處理提供強(qiáng)有力的補(bǔ)充。主要優(yōu)勢(shì)表現(xiàn)在兩個(gè)重要的方面：一是隱私性和安全性。從個(gè)人隱私和安全的角度出發(fā)，很多時(shí)候人們并不希望把照片或者語音數(shù)據(jù)放到云端，能在終端側(cè)進(jìn)行本地的處理，這是終端側(cè)智能非常好的優(yōu)勢(shì)。二是低時(shí)延。在網(wǎng)絡(luò)側(cè)連接質(zhì)量沒有得到完全保障的前提下，可以在本地側(cè)進(jìn)行大量的數(shù)據(jù)處理和人工智能應(yīng)用，這也是終端側(cè)非常強(qiáng)的一個(gè)優(yōu)勢(shì)。
終端側(cè)人工智能既然很有必要性，那么如果要進(jìn)行研發(fā)和產(chǎn)品開發(fā)，有哪些重要的方面需要注意？侯紀(jì)磊表示最重要的兩點(diǎn)是計(jì)算的功耗和熱效率，因?yàn)槿斯ぶ悄軐?duì)工作負(fù)載的要求非常大。一方面，它需要大量密集計(jì)算。另一方面是始終開啟。在這樣的挑戰(zhàn)下，要怎樣實(shí)現(xiàn)高效散熱和電池的持久續(xù)航，要如何對(duì)存儲(chǔ)和內(nèi)存進(jìn)行有效利用，這都是未來實(shí)現(xiàn)終端側(cè)人工智能所面臨的重要挑戰(zhàn)。
針對(duì)這些挑戰(zhàn)， Qualcomm在終端側(cè)智能研發(fā)上，未來兩三年甚至五到十年需要持續(xù)投入的一些重要方向。第一是高效硬件。手機(jī)平臺(tái)一個(gè)顯著特點(diǎn)叫異構(gòu)計(jì)算。Qualcomm驍龍平臺(tái)集成了DSP、CPU和GPU，各處理核心有各自不一樣的特點(diǎn)，比如處理語音、圖像和視頻，這些處理核心都有自己的方式，在功耗和吞吐量之間的平衡上可滿足不同的需求。講到這里，侯紀(jì)磊坦言：“怎樣實(shí)現(xiàn)硬件對(duì)不同的語音、視頻或圖像的實(shí)時(shí)處理，這是我們努力的重要方向。”
第二是算法改進(jìn)，在算法改進(jìn)層面，要怎樣實(shí)現(xiàn)高效改進(jìn)，從而能夠?qū)崿F(xiàn)智能從網(wǎng)絡(luò)端到終端的遷移？侯紀(jì)磊講到，無論在設(shè)計(jì)還是應(yīng)用的模型中，99%以上模型的系統(tǒng)容量都是over design，也就是說它設(shè)計(jì)的容量要超過系統(tǒng)的需求。因?yàn)閛ver design這個(gè)特點(diǎn)，使我們?cè)谇度胧降纳窠?jīng)網(wǎng)絡(luò)優(yōu)化上還有很大的空間，可以壓縮網(wǎng)絡(luò)模型、利用稀疏性并從架構(gòu)的角度實(shí)現(xiàn)系統(tǒng)性的網(wǎng)絡(luò)優(yōu)化。
第三是軟件工具。如果要將優(yōu)化算法高效地放到異構(gòu)平臺(tái)，這中間的映射，包括并行計(jì)算的調(diào)度和內(nèi)存優(yōu)化等，都需要軟件工具本身做很多工作。
Qualcomm對(duì)整個(gè)終端側(cè)智能的發(fā)展起到了非常重要的賦能作用，主要表現(xiàn)在，第一，提供了低功耗和高效集成的計(jì)算平臺(tái)。第二是在5G技術(shù)方面，移動(dòng)計(jì)算和移動(dòng)通信一直是Qualcomm的優(yōu)勢(shì)所在。通過提供高速、低時(shí)延的連接，使得人工智能的計(jì)算架構(gòu)實(shí)現(xiàn)在云端和終端側(cè)之間的最靈活配比，這是Qualcomm的強(qiáng)大優(yōu)勢(shì)。第三是在安全性方面，Qualcomm也一直走在業(yè)界前列，比如說“刷臉”在支付以及其他一些安全應(yīng)用場景的使用。 Qualcomm的技術(shù)能夠從產(chǎn)品的角度，實(shí)現(xiàn)人工智能對(duì)安全性應(yīng)用方面的強(qiáng)大支持。
推動(dòng)終端側(cè)人工智能規(guī)?；?/strong>
談及未來人工智能在終端側(cè)將呈現(xiàn)怎樣的趨勢(shì)時(shí)，侯紀(jì)磊表示主要有以下兩點(diǎn)：首先，未來的人工智能發(fā)展趨勢(shì)一定是在終端側(cè)，并且是分布式的計(jì)算架構(gòu)。其次，神經(jīng)處理的硬件架構(gòu)本身也會(huì)不斷演進(jìn)，未來針對(duì)人工智能處理的專用處理器會(huì)是一個(gè)行業(yè)趨勢(shì)。
此外，針對(duì)終端側(cè)的人工智能，侯紀(jì)磊認(rèn)為在智能手機(jī)和汽車領(lǐng)域都有比較重要的用例和發(fā)展方向。
智能手機(jī)方面，首先，終端側(cè)的語音交互系統(tǒng)就是一個(gè)很好的例子。目前這些用例可能更多應(yīng)用在智能音箱和智能家居領(lǐng)域，未來它在手機(jī)平臺(tái)上會(huì)是一個(gè)重要的發(fā)展方向。第二是在圖像拍攝和后期處理方面，人工智能技術(shù)可以對(duì)圖片拍攝實(shí)現(xiàn)“一條龍”式增強(qiáng)。第三，人工智能可以真正地讓手機(jī)成為你的個(gè)人助理。未來的手機(jī)會(huì)在后臺(tái)持續(xù)學(xué)習(xí)用戶的使用習(xí)慣和個(gè)性，經(jīng)過學(xué)習(xí)它可以向你推薦合適的應(yīng)用，或幫助你更好地使用這些應(yīng)用，從而成為人們身邊無處不在的個(gè)人助理。
人工智能在終端側(cè)另一個(gè)非常重要的發(fā)展方向在于汽車領(lǐng)域。人工智能在汽車領(lǐng)域的應(yīng)用體現(xiàn)在兩個(gè)方面。第一是車載體驗(yàn)，也就是在汽車駕駛艙內(nèi)部，人工智能可以為人們帶來個(gè)性化的體驗(yàn)和服務(wù)。第二是車和環(huán)境的交互，包括感知和傳感器融合，也包括從路徑規(guī)劃到?jīng)Q策的各個(gè)方面。Qualcomm在系統(tǒng)平臺(tái)和算法方面其實(shí)有很多技術(shù)儲(chǔ)備和優(yōu)勢(shì)，侯紀(jì)磊表示，“我們也希望將來在自動(dòng)駕駛領(lǐng)域能有機(jī)會(huì)跟在座同仁合作。”
他表示，Qualcomm在人工智能領(lǐng)域處在一個(gè)非常有利的位置，可以強(qiáng)有力地推動(dòng)終端側(cè)人工智能的規(guī)?；＿@主要表現(xiàn)在以下三個(gè)方面。第一是推動(dòng)面向人工智能的硬件發(fā)展，這是一個(gè)很重要的趨勢(shì)。第二是算法提升方面。在認(rèn)知層面上，包括監(jiān)督學(xué)習(xí)以及更重要的非監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)方面的重要性能，對(duì)于終端側(cè)人工智能來說都是技術(shù)創(chuàng)新和產(chǎn)品發(fā)展的重要方向。第三是優(yōu)化策略。目前有很多的訓(xùn)練網(wǎng)絡(luò)，這可能會(huì)使開發(fā)者在網(wǎng)絡(luò)優(yōu)化上感到手足無措。但我們也很欣喜地看到，業(yè)界正在生態(tài)鏈上推動(dòng)更多的融合和統(tǒng)一。
最后，值得一提的是今年10月10日，Qualcomm宣布加入Facebook和微軟提出的ONNX（開放神經(jīng)網(wǎng)絡(luò)切換）概念。據(jù)悉，F(xiàn)acebook有兩種不同的訓(xùn)練網(wǎng)絡(luò)，PyTorch和Caffe2。PyTorch適用于開發(fā)者在開發(fā)初期快速進(jìn)行訓(xùn)練和原型機(jī)設(shè)計(jì)，Caffe2更適合應(yīng)用于大規(guī)模網(wǎng)絡(luò)，使得網(wǎng)絡(luò)在兼顧商業(yè)性和實(shí)時(shí)性的同時(shí)還能跑得更快更好。針對(duì)早期研發(fā)和后面產(chǎn)品的權(quán)衡（tradeoff），兩種訓(xùn)練網(wǎng)絡(luò)有各自的優(yōu)點(diǎn)。而ONNX將起到平臺(tái)性的作用，通過網(wǎng)絡(luò)描述的統(tǒng)一格式，使得開發(fā)者從早期研發(fā)階段到后面產(chǎn)品化的過程中能有一個(gè)統(tǒng)一的結(jié)構(gòu)。
