如果將源源不斷產(chǎn)生的數(shù)據(jù)全部傳輸?shù)皆贫?，云端服?wù)器將面臨巨大的存儲(chǔ)壓力，因此有人提出了邊緣計(jì)算的解決方案。所謂邊緣計(jì)算，是一種在物理上靠近數(shù)據(jù)生成的位置處理數(shù)據(jù)的方法。在2017邊緣計(jì)算產(chǎn)業(yè)峰會(huì)上，英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官?gòu)堄畈┦糠窒砹巳绾卧诰W(wǎng)絡(luò)邊緣實(shí)現(xiàn)智能化，是駕馭數(shù)據(jù)洪流的關(guān)鍵環(huán)節(jié)之一，也是物聯(lián)網(wǎng)未來(lái)發(fā)展的重要趨勢(shì)。他表示，“在物聯(lián)網(wǎng)時(shí)代，隨著數(shù)字化的轉(zhuǎn)型，它需要更敏捷地連接、更有效地?cái)?shù)據(jù)處理，同時(shí)要有更好地?cái)?shù)據(jù)保護(hù)。由于邊緣計(jì)算能夠有效的降低對(duì)帶寬的要求，能夠提供及時(shí)的響應(yīng)，并且對(duì)數(shù)據(jù)的隱私提供保護(hù)，因此邊緣計(jì)算在今后物聯(lián)網(wǎng)的發(fā)展過(guò)程中會(huì)起到非常重要的作用。”

　　英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官-張宇博士

 

 

　　既然邊緣計(jì)算如此重要，這是否意味著它可以替代云計(jì)算？張宇強(qiáng)調(diào)，“邊緣計(jì)算不會(huì)代替云計(jì)算，二者之間會(huì)實(shí)現(xiàn)互補(bǔ)。因?yàn)檫吘売?jì)算所處理的數(shù)據(jù)是個(gè)局部的數(shù)據(jù)，并不能形成對(duì)于全局的認(rèn)知。這些認(rèn)知的形成還需要云計(jì)算平臺(tái)，在后端對(duì)各種不同的邊緣采集到的數(shù)據(jù)進(jìn)行融會(huì)貫通。”

 

　　他列舉了智能交通領(lǐng)域和雙十一的例子，智能攝像頭通過(guò)各種智能方法能夠識(shí)別出攝像頭前經(jīng)過(guò)的各種人，以及對(duì)車(chē)輛的車(chē)型、車(chē)的顏色、車(chē)款以及車(chē)牌的識(shí)別，但是并不能了解車(chē)的軌跡。如果要形成車(chē)輛的完整軌跡，還是需要有云計(jì)算平臺(tái)的支持。雙11天貓商城上銷(xiāo)售峰值超過(guò)25億/秒，如此大量的計(jì)算也需要一個(gè)很大的云計(jì)算平臺(tái)在后面支撐。

 

　　張宇博士認(rèn)為，物聯(lián)網(wǎng)發(fā)展可以分成三個(gè)階段：互聯(lián)、智能、自治。物聯(lián)網(wǎng)系統(tǒng)發(fā)展到自治階段同樣是端到端的一個(gè)系統(tǒng)，邊緣計(jì)算和云計(jì)算二者之間會(huì)協(xié)同工作。

 

 

　　分析數(shù)據(jù)洪流你會(huì)發(fā)現(xiàn)，以前需要處理的數(shù)據(jù)很多都是結(jié)構(gòu)化數(shù)據(jù)，通過(guò)Excel表格或者簡(jiǎn)單關(guān)系型的數(shù)據(jù)庫(kù)就可以對(duì)其進(jìn)行維護(hù)和管理。但今后，物聯(lián)網(wǎng)會(huì)帶來(lái)越來(lái)越多的非結(jié)構(gòu)化數(shù)據(jù)，我們要從非結(jié)構(gòu)化的數(shù)據(jù)中發(fā)現(xiàn)內(nèi)在的關(guān)聯(lián)，就需要用到人工智能技術(shù)。

　　人工智能的識(shí)別率越來(lái)越高

 

　　在2012年以前，人工智能做圖像識(shí)別的準(zhǔn)確度低于人類(lèi)。虛線(xiàn)的部分代表人的識(shí)別水平，這樣一個(gè)曲線(xiàn)代表機(jī)器識(shí)別的錯(cuò)誤率。到2012年，AlexNet等一大批新的人工神經(jīng)網(wǎng)絡(luò)的出現(xiàn)，使得人工智能的水平上了一個(gè)新檔次。在人工智能新技術(shù)的推動(dòng)下，機(jī)器進(jìn)行圖像識(shí)別的水平開(kāi)始超過(guò)人類(lèi)。

 

　　雖然人工智能現(xiàn)在已經(jīng)取得了非常大的突破，但同樣還面臨著很多挑戰(zhàn)。最大的就是，人工智能在進(jìn)行處理時(shí)，還需要消耗大量的計(jì)算資源和存儲(chǔ)資源。以百度搜索為例，要完成一次搜索需要完成千億億次計(jì)算，在推理階段即使去處理一個(gè)非常典型的224×224分辨率的圖片，像AlexNet或者是GoogleNet這樣一些人工智能網(wǎng)絡(luò)，處理起來(lái)計(jì)算量同樣是要超過(guò)10億次。如此大量的計(jì)算，需要一個(gè)很強(qiáng)大的計(jì)算芯片支撐，所以說(shuō)，人工智能的發(fā)展實(shí)際上對(duì)芯片提出了更高的要求。

 

　　在芯片研制的過(guò)程中，芯片的工藝是決定性因素，英特爾是摩爾定律的創(chuàng)始者，也是摩爾定律的踐行者。從22納米到14納米，從14納米到10納米的過(guò)程中，從半導(dǎo)體晶體管的密度變化來(lái)看，密度增長(zhǎng)速度實(shí)際超過(guò)2倍，雖然英特爾的工藝迭代時(shí)間延長(zhǎng)了，但是從更新速率來(lái)看，仍然是按照摩爾定律的速度向前發(fā)展。摩爾定律還在不斷推動(dòng)半導(dǎo)體工藝的進(jìn)步，同時(shí)為人工智能等新的計(jì)算模式提供源源不斷的計(jì)算力。因此，人工智能的應(yīng)用對(duì)邊緣計(jì)算提出了更高的要求，對(duì)邊緣計(jì)算設(shè)備的演進(jìn)起到了推動(dòng)作用。

 

　　張宇博士強(qiáng)調(diào)，在邊緣側(cè)趨向負(fù)載整合是物聯(lián)網(wǎng)演進(jìn)的一個(gè)必然趨勢(shì)。原來(lái)在不同設(shè)備上分立的負(fù)載會(huì)越來(lái)越多地通過(guò)虛擬化等技術(shù)，整合到一個(gè)單一的高性能的計(jì)算平臺(tái)上，來(lái)實(shí)現(xiàn)一個(gè)綜合的復(fù)雜的功能，各個(gè)功能子系統(tǒng)既能分享設(shè)備提供的計(jì)算，存儲(chǔ)，網(wǎng)絡(luò)等資源，同時(shí)還能具有一定的獨(dú)立性，避免彼此的相互影響，從而可以簡(jiǎn)化系統(tǒng)架構(gòu)，降低系統(tǒng)總體。同時(shí)，負(fù)載整合實(shí)際上也為邊緣計(jì)算的實(shí)現(xiàn)以及為實(shí)施人工智能的應(yīng)用提供了條件。整合后的設(shè)備既是邊緣數(shù)據(jù)的匯聚節(jié)點(diǎn)，同時(shí)也是邊緣控制的中心，這為邊緣智能提供了處理所需的數(shù)據(jù)，同時(shí)也提供了控制的入口。因此英特爾認(rèn)為人工智能和負(fù)載整合的結(jié)合，會(huì)在今后的邊緣計(jì)算的系統(tǒng)里發(fā)生。

 

 

　　張宇博士指出，物聯(lián)網(wǎng)系統(tǒng)一定是一個(gè)邊緣協(xié)同的端到端系統(tǒng)，人工智能會(huì)在物聯(lián)網(wǎng)系統(tǒng)里廣泛應(yīng)用，不僅是在前端，也在后端。物聯(lián)網(wǎng)中不同的網(wǎng)源所需要的計(jì)算力需求不同，再加上人工智能部署，需要不同特性硬件平臺(tái)以及軟硬件協(xié)同優(yōu)化。英特爾提供了端到端的、業(yè)界領(lǐng)先的人工智能全棧解決方案，包括：涵蓋至強(qiáng)處理器、至強(qiáng)融核處理器、英特爾Nervana神經(jīng)網(wǎng)絡(luò)處理器和FPGA、網(wǎng)絡(luò)以及存儲(chǔ)技術(shù)等領(lǐng)先而完整的硬件平臺(tái)，以及多種軟件工具及函數(shù)庫(kù)，優(yōu)化開(kāi)源框架。值得一提的是，對(duì)于邊緣計(jì)算而言如何平衡功耗和計(jì)算力所面臨的一大挑戰(zhàn)，憑借Movidius領(lǐng)先的單瓦計(jì)算能力，英特爾可以為業(yè)界提供低功耗、高性能的邊緣計(jì)算解決方案。對(duì)于前端的攝像機(jī)來(lái)說(shuō)，對(duì)功耗要求嚴(yán)格，使用Movidius這樣的低功耗芯片更合適；對(duì)于設(shè)備偏向于邊緣域的連接相機(jī)的設(shè)備或者服務(wù)器服務(wù)中心運(yùn)行算法的，使用FPGA更適合。

 

　　目前針對(duì)人工智能應(yīng)用也涌現(xiàn)出AI芯片設(shè)計(jì)公司，AI芯片未來(lái)會(huì)是會(huì)怎樣的發(fā)展態(tài)勢(shì)？張宇認(rèn)為，“現(xiàn)實(shí)系統(tǒng)要解決的問(wèn)題不同，以及在系統(tǒng)里所處的位置不同，對(duì)硬件要求、計(jì)算要求也不一樣，用戶(hù)要根據(jù)不同的要求來(lái)選擇比較合適的硬件架構(gòu)。當(dāng)下的人工智能很多的應(yīng)用實(shí)際是圍繞著圖象處理，即使像AlphaGo，Alphago下圍棋也是把棋盤(pán)轉(zhuǎn)變成二維的圖像作為輸入，然后用神經(jīng)網(wǎng)絡(luò)分析得到最終結(jié)果，包括權(quán)重網(wǎng)絡(luò)、估值網(wǎng)絡(luò)等，最后得到下一步棋放在哪個(gè)位置贏(yíng)面最大的結(jié)論。但這是不是代表了人工智能的未來(lái)？很難說(shuō)。原因在于以后用人腦或者用機(jī)器分析的問(wèn)題的種類(lèi)很多，有些可以歸結(jié)到圖像，有些不可以，如果歸結(jié)到圖像可以用卷積來(lái)做，如果不能歸結(jié)到圖像是不是有另外一個(gè)更有效的架構(gòu)？隨著對(duì)處理問(wèn)題的復(fù)雜度越來(lái)越高、處理問(wèn)題的種類(lèi)越來(lái)越多、對(duì)問(wèn)題的認(rèn)識(shí)越來(lái)越清晰，可能在今后會(huì)找到適于某種特定應(yīng)用、特定問(wèn)題的應(yīng)用架構(gòu)。”

 

　　有了邊緣計(jì)算和云計(jì)算，開(kāi)發(fā)者做設(shè)計(jì)的時(shí)候更關(guān)注如何界定邊緣計(jì)算和云計(jì)算？采用哪個(gè)更合適？英特爾認(rèn)為，我們有一個(gè)共性的技術(shù)需要理解和掌握，就是怎么樣使計(jì)算架構(gòu)變得更容易被軟件定義。不管是什么樣的業(yè)務(wù)類(lèi)型都可以更靈活的在云端、在邊緣側(cè)，甚至在終端節(jié)點(diǎn)上運(yùn)行。如果沒(méi)有軟件定義的靈活性，我要把工作負(fù)載從云端遷移到前端是非常困難的事情，從芯片廠(chǎng)商角度來(lái)說(shuō)我們要做一個(gè)這樣的考量。

 

 

　　人工智能理論基礎(chǔ)尚不完備，這就造成目前很多人工智能很大一部分計(jì)算是冗余的，如果想將人工智能用到邊緣側(cè)，網(wǎng)絡(luò)優(yōu)化是一個(gè)關(guān)鍵的技術(shù)。英特爾的網(wǎng)絡(luò)優(yōu)化思路分三個(gè)方面：低比特、剪枝和參數(shù)量化。

 

　　所謂低比特，在傳統(tǒng)的深度學(xué)習(xí)領(lǐng)域，參數(shù)往往是用32比特的單精度浮點(diǎn)來(lái)進(jìn)行表述，但是我們看到，在很多應(yīng)用場(chǎng)景里，比如在安防領(lǐng)域、機(jī)器學(xué)習(xí)以及機(jī)器視覺(jué)領(lǐng)域，實(shí)際上精度要求沒(méi)有那么高，英特爾把整個(gè)參數(shù)的精度在不影響最終的識(shí)別率的情況下，從32比特的單精度浮點(diǎn)，轉(zhuǎn)變成16比特的半精，甚至于轉(zhuǎn)變成8比特的整精或者是2比特的整精。隨著比特?cái)?shù)量不斷地降低，存儲(chǔ)量和計(jì)算量都降低了，這樣就可以在原來(lái)相對(duì)計(jì)算能力有限的平臺(tái)上做更復(fù)雜的操作。

 

　　剪枝也類(lèi)似，如果把一個(gè)人工智能的網(wǎng)絡(luò)比喻成一個(gè)樹(shù)枝，這個(gè)樹(shù)的每個(gè)不同的分杈，實(shí)際上對(duì)應(yīng)的是不同的檢測(cè)特征。對(duì)于不同的應(yīng)用場(chǎng)景關(guān)注的特征不一樣，很可能這些處理和檢測(cè)特征對(duì)最終檢測(cè)是沒(méi)有效果的。對(duì)于沒(méi)有效果的分支，完全可以剪掉，剪枝能夠極大地降低計(jì)算。

 

　　量化就是參數(shù)可以根據(jù)它的一些特征做聚類(lèi)。一類(lèi)參數(shù)可以用相對(duì)簡(jiǎn)單的一些符號(hào)或者一些數(shù)字來(lái)表述，這樣能夠極大地降低人工智能對(duì)于存儲(chǔ)的要求。對(duì)這樣的優(yōu)化思路，英特爾在不斷地發(fā)展人工智能技術(shù)和硬件配合，形成很好的互動(dòng)。

 

 

　　邊緣計(jì)算是一個(gè)很大的生態(tài)，任何一家公司都無(wú)法提供這個(gè)產(chǎn)業(yè)鏈里所涉及的上下游所有環(huán)節(jié)。在這個(gè)產(chǎn)業(yè)鏈，英特爾定位自己是一家芯片公司，提供計(jì)算、通信、存儲(chǔ)所需要的芯片解決方案。張宇表示，“僅憑我們的一己之力不足以實(shí)現(xiàn)邊緣計(jì)算產(chǎn)業(yè)的宏大目標(biāo)，我們需要眾多類(lèi)型的公司和機(jī)構(gòu)來(lái)參加，就像各位在ECC邊緣計(jì)算聯(lián)盟所看到的，有來(lái)自學(xué)術(shù)機(jī)構(gòu)的參與，有來(lái)自政府機(jī)構(gòu)的支持，這樣才能齊頭并進(jìn)，才能夠真正地讓人工智能的潛力全部發(fā)揮出來(lái)，讓人能夠憑借人工智能技術(shù)做到更多以前我們做不到的事情。”

 

　　邊緣計(jì)算需要芯片，但是光有硬件還不夠，還需要軟件進(jìn)行配合。張宇提出，“我們還為用戶(hù)提供圍繞芯片相關(guān)的底層軟件和中間件元素。利用我們提供的零件能夠幫助合作伙伴更好地開(kāi)發(fā)它們的相應(yīng)產(chǎn)品。”目前英特爾與華為和沈陽(yáng)自動(dòng)化研究所已經(jīng)達(dá)成了合作，華為剛發(fā)布了基于英特爾處理器的邊緣網(wǎng)關(guān)產(chǎn)品AR550i，利用這個(gè)產(chǎn)品，華為在整個(gè)產(chǎn)業(yè)鏈起到ODM、OEM的角色。在本次邊緣計(jì)算產(chǎn)業(yè)聯(lián)盟峰會(huì)上，英特爾聯(lián)合沈陽(yáng)自動(dòng)化研究所展示邊緣計(jì)算測(cè)試床——智能機(jī)器人，目的是驗(yàn)證基于深度學(xué)習(xí)的機(jī)器視覺(jué)方案在實(shí)際系統(tǒng)中的工作效果。

 

　　張宇強(qiáng)調(diào)，“我們對(duì)于垂直行業(yè)的認(rèn)知肯定沒(méi)有行業(yè)合作伙伴那么深，在這方面我們和他們之間是很好的配合作用，我們提供解決方案，他們提供他們的應(yīng)用方案，大家一起構(gòu)架滿(mǎn)足特定垂直行業(yè)要求的整體方案來(lái)加速它的落地。英特爾除了可以在邊緣計(jì)算的節(jié)點(diǎn)持續(xù)做研發(fā)外，還具有云計(jì)算的能力以及在網(wǎng)絡(luò)通信基礎(chǔ)設(shè)施上的能力，我們可以更宏觀(guān)、更整體的服務(wù)于整個(gè)行業(yè)的需求。”