IBM Research日前推出AI芯片NorthPole，該芯片靈感號(hào)稱“來自人類大腦的運(yùn)作”，推論性能據(jù)稱超越4nm GPU，適用于邊緣計(jì)算等范疇。
▲圖源IBM
IT之家經(jīng)過查詢得知，NorthPole芯片是IBM曾在2014年“模擬人腦運(yùn)作”的TrueNorth芯片的后繼者，芯片開發(fā)同樣由TrueNorth芯片負(fù)責(zé)人Dharmendra Modha所主導(dǎo)。
▲圖源IBM
據(jù)悉，在傳統(tǒng)的半導(dǎo)體產(chǎn)業(yè)中，芯片主要遵循相同的基本架構(gòu)，處理單元與儲(chǔ)存信息是相互分開的，這種架構(gòu)雖然簡(jiǎn)化了芯片設(shè)計(jì)模式，卻也因傳輸速度趕不上處理速度而出現(xiàn)了“馮?諾伊曼瓶頸（von Neumann Bottleneck）”，而Dharmendra Modha則認(rèn)為，人腦是目前所知最節(jié)能的處理器，因而持續(xù)尋找以數(shù)字方式復(fù)制人腦的方法。
IBM目前推出的NorthPole芯片，相對(duì)于傳統(tǒng)芯片最大的不同點(diǎn)在于“芯片內(nèi)置存儲(chǔ)器”，在沒有“馮?諾伊曼瓶頸”的情況下，NorthPole芯片的AI推論能力優(yōu)于市面上競(jìng)品。
雖然NorthPole采用12nm工藝，于800平方毫米上安置了220億個(gè)晶體管，擁有256個(gè)核心，于8-bit精度下每核心每個(gè)周期可執(zhí)行2048次操作，若是在4-bit或2-bit精度下，操作次數(shù)則可翻倍。
在具體架構(gòu)上，NorthPole號(hào)稱模糊了運(yùn)算與存儲(chǔ)間的界線，這讓NorthPole容易整合至系統(tǒng)，且明顯減少了搭載芯片的設(shè)備負(fù)載。
IBM Research在ResNet-50模型上測(cè)試NorthPole，相較于同樣基于12nm工藝的GPU競(jìng)品，NorthPole每秒辨識(shí)幀數(shù)的能效是競(jìng)品的25倍，而且不管是在延遲或運(yùn)算空間的要求上，表現(xiàn)都優(yōu)于市面上所有主流架構(gòu)，甚至凌駕基于4nm工藝的GPU。
不過，NorthPole的優(yōu)勢(shì)同時(shí)也是它的弱點(diǎn)所在，NorthPole只能輕松讀取集成在芯片中的本地?cái)?shù)據(jù)信息，讀取外界數(shù)據(jù)時(shí)，便沒有計(jì)算速度優(yōu)勢(shì)。
Dharmendra Modha聲稱，雖然NorthPole無法用來承載GPT-4，但應(yīng)該可滿足許多企業(yè)所需的模型推論要求。
目前IBM Research仍在研究NorthPole的適用領(lǐng)域，研究人員許多需要即時(shí)處理大量資料的邊緣計(jì)算可能非常適合NorthPole，例如自動(dòng)駕駛、遙感通信等領(lǐng)域，NorthPole均有用武之地。
