亞馬遜宣布將會把旗下的人工智能處理程序全部轉(zhuǎn)移至使用定制的AWS Inferentia芯片上。這意味著諸如虛擬助手Alexa等亞馬遜的推理應用程序都將會棄用GPU，轉(zhuǎn)由更高效快捷的專用芯片負責處理。
 

 

　　AWS Inferenia是一種專門用于機器學習的芯片，每個芯片可以提供最高128TOPS的性能，并且支持 FP16、BF16 和 INT8 數(shù)據(jù)類型。

 

　　目前亞馬遜已經(jīng)轉(zhuǎn)移了Alexa百分之80的處理程序至使用新AWS Inferentia芯片的Elastic Compute Cloud（EC2）Inf1實例上/實例上。相較于使用傳統(tǒng)GPU的EC2 G4實例，新的EC2 Inf1實例可以使吞吐量提高 30％，同次使單次推理的成本降低45％。亞馬遜認為它們是目前市場上推理自然語言以及語音處理工作的最佳實例。
 

 

　　亞馬遜的Alexa智能助手，或者說目前基本上所有的智能音箱，其本體也就是那個盒子對于聽懂用戶在說甚么是沒甚么幫助的。假設小明向Echo音箱詢問今天的天氣，那么音箱就會把小明的語音實時發(fā)送到AWS（亞馬遜網(wǎng)頁服務）上。而在AWS的數(shù)據(jù)中心內(nèi)，這段語音會被轉(zhuǎn)化成文字，然后再從句子中抽取其真正的意思（或者它認為真正的意思）。在知道了句子的意思后，數(shù)據(jù)中心就會調(diào)取當天的天氣信息并將這些訊息與一段預先設定好的腳本結(jié)合在一起，再把這整段腳本轉(zhuǎn)成語音傳送到小明的Echo音箱中播放。

 

　　上述的各項語音文字互相轉(zhuǎn)換就是推理的成果，Alexa以及其他智能助手也是因為進行過龐大的推理訓練才可以完成用戶的指令，因此亞馬遜會投資數(shù)百萬去改進自己旗下的機器學習芯片也是可以理解的。