在MLPerf 2021年度的4次性能測試中，浪潮AI服務(wù)器獲得44項第一。其中，在數(shù)據(jù)中心AI推理場景的總32項任務(wù)中獲得17項冠軍，在邊緣AI推理場景的總31項任務(wù)中收獲16項冠軍，在單機AI訓(xùn)練場景的16項任務(wù)中斬獲11項冠軍。

MLPerfM是世界上影響力最大的國際AI性能基準評測，由圖靈獎得主大衛(wèi)帕特森（David Patterson）發(fā)起，谷歌、Facebook、英偉達、英特爾、浪潮信息、哈佛大學(xué)、斯坦福大學(xué)、加州大學(xué)伯克利分校等50余家全球AI領(lǐng)軍機構(gòu)共同組成的MLCommons推動，并致力于推進機器學(xué)習(xí)和人工智能標準及衡量指標。

MLPerf基準測試場景在實際應(yīng)用中均會被頻繁用起，用戶可以根據(jù)相應(yīng)測試結(jié)果，來獲悉服務(wù)商在AI上的真正實力。 本次浪潮信息以上述成績摘得MLPerf桂冠，或是促進AI行業(yè)新一輪爆發(fā)的“引信”。

當前，AI正在反哺開發(fā)者，使用Codex等AI輔助編程工具的開發(fā)者越來越多，而使用低代碼進行開發(fā)的人員占比也越來越高，同時這類低代碼平臺或輔助平臺也正在進化。之前平臺背后對應(yīng)的是某種編程語言，現(xiàn)在平臺背后則由AI進行加持。一旦AI徹底改變系統(tǒng)的開發(fā)模式，研發(fā)門檻得到降低，那么AI必將迎來新一輪爆發(fā)。

縱觀近年來在AI領(lǐng)域取得良好成績的各類模型，其參數(shù)規(guī)?；景凑罩笖?shù)級增長，從谷歌T5破百億開始到GPT-3破千億用了近2年。

而GPT-3到浪潮人工智能研究院的“源1.0”2457億參數(shù)只用了一年的時間，模型越大效果越好的大力出奇跡現(xiàn)象也正在成為業(yè)內(nèi)鐵律，比如在對“源1.0”大模型進行圖靈測試時，將人類專家創(chuàng)作的新聞、詩歌、對聯(lián)，小說續(xù)寫等類作品混雜在由源1.0的作品中，由測試者判斷該作品是否優(yōu)秀并把優(yōu)秀作品判定為人類創(chuàng)作，最后的測試結(jié)果“令人振奮”，在源1.0的挑戰(zhàn)測試中，人們能夠準確分辨人與“源1.0”作品差別的總體成功率低于50%。

這意味著，多數(shù)人不能辨別作品出自文學(xué)大師之手還是由源1.0創(chuàng)作，可以說“源”系列大模型正在朝著更高的人工智能水平邁進，這一切的背景是強大的AI數(shù)據(jù)處理能力與AI算力平臺支撐。

浪潮AI服務(wù)器，讓業(yè)界輕松擁抱超大數(shù)據(jù)

本次浪潮信息能夠奪冠，該公司的AI旗艦服務(wù)器NF5488A5和NF5688M6功不可沒。據(jù)悉，NF5488A5是全球首批上市的A100服務(wù)器，在4U空間支持8顆第三代NVlink互聯(lián)的A100 GPU和2顆AMD Milan CPU，同時支持液冷和風(fēng)冷散熱技術(shù)。NF5688M6是面向大規(guī)模數(shù)據(jù)中心優(yōu)化設(shè)計的具備極致擴展能力的AI服務(wù)器，支持8顆A100 GPU和兩顆Intel Ice Lake CPU，支持多達13張PCIe Gen4的IO擴展卡。

對比當下AI開發(fā)和十幾年前的不同，就會發(fā)現(xiàn)當前AI開發(fā)者面臨的數(shù)據(jù)越來越多，且正以三年翻兩番的速度爆炸式增長。但是數(shù)據(jù)的快速增長卻成了AI開發(fā)者們的“甜蜜負擔(dān)”，想玩轉(zhuǎn)越來越大的模型真是愈發(fā)困難，發(fā)揮數(shù)據(jù)價值需要強大算力引擎的支持，只有浪潮AI服務(wù)器的數(shù)據(jù)處理性能越來越強，數(shù)據(jù)作為當下的“原油”才能更好地發(fā)光發(fā)熱。

很多人都知道，智慧交通、智慧醫(yī)療、智能駕駛等場景涉及到大量數(shù)據(jù)，但對于具體的數(shù)據(jù)量級卻沒有直觀感受，姑且以對數(shù)據(jù)處理時效要求最高的自動駕駛場景為例：前不久特斯拉宣布旗下自動駕駛系統(tǒng)FSD Beta9.0即將完成，有消息稱最新版本的FSD自動駕駛系統(tǒng)能力要達到L5級。

這則消息令人頗感意外，因為目前特斯拉的AutoPilot也就是L3的程度。L5級別的自動駕駛，盡管不是從0到1的開創(chuàng)性工作，但在實踐上想真正實現(xiàn)全天候自動駕駛的難度極大。 公開資料顯示，一臺自動駕駛測試車輛每天至少產(chǎn)生10T數(shù)據(jù)，平均每分鐘要處理幾百M數(shù)據(jù)。

因此，自動駕駛的決策延時必須保持在極低狀態(tài)，當汽車的行駛速度為80公里/小時，其機械制動距離就會接近30米。要想確保安全，這時留給自動駕駛的反應(yīng)時間通常只有0.1秒，而且任何一點決策失誤都有可能造成極其嚴重的后果。 直觀地說，L5級別的自動駕駛是一個每秒數(shù)據(jù)處理能力要達一個G，數(shù)據(jù)處理延時必須低于0.1s，可靠性必須高于99.999999%，再考慮AI模型的上百億個參數(shù)，這對硬件數(shù)據(jù)處理能力的要求之高簡直令人咋舌。

在其他場景下，數(shù)據(jù)處理能力不足最多只需多算些時間，但是在智能駕駛、自動飛行等場景慢哪怕0.1秒都可能付出生命的代價。目前的AI領(lǐng)域就是一力降十會，而浪潮AI服務(wù)器通過MLPerf測試，證明它是大規(guī)模AI模型落地的絕佳選擇。

全棧式平臺，讓AI真正成為“日用品”

當然，只擁有強大的AI數(shù)據(jù)處理能力，還不足以應(yīng)對復(fù)雜的AI應(yīng)用場景，更無法在激烈的MLPerf中取得好成績。因為隨著數(shù)據(jù)的生根發(fā)芽，AI的應(yīng)用領(lǐng)域也在不斷拓展。但是AI爆發(fā)的前提還是要以全方位、無短板的AI計算能力為前提。

這方面MLPerf測試與實際應(yīng)用貼合很緊密，從圖像分類（ResNet）、醫(yī)學(xué)影像分割（U-Net3D）、目標物體檢測（SSD）、目標物體檢測（Mask R-CNN）、語音識別（RNNT）、自然語言理解（BERT）、智能推薦（DLRM）以及強化學(xué)習(xí)（MiniGo）等8大方面均有涵蓋。

概括來說，沒有實現(xiàn)數(shù)據(jù)處理、模型訓(xùn)練、AI推理的一體化&全棧式的AI平臺，根本就無法取得好成績，也無法真正讓AI大規(guī)模應(yīng)用落地。因為木桶效應(yīng)的制約，會讓AI在落地過程中付出無法承受的時間成本。如果說數(shù)據(jù)處理能力是AI領(lǐng)域的入場門票，那么全棧式AI算力平臺就是頂級選手所必須要修煉的內(nèi)功心法，而全棧式AI能力是浪潮信息一直在布局謀劃的大平臺。

2015年，該公司就對AI加速芯片進行研發(fā)，推出了集成FPGA加速卡的F37X；平臺方面則布局AI開發(fā)平臺AIStation、OpenStack AI云平臺、自動機器學(xué)習(xí)平臺AutoML Suite，在計算框架方面，開源發(fā)布基于FPGA的高效AI計算框架TF2，并在當年開源了集群并行版Caffe深度學(xué)習(xí)計算框架Caffe-MPI。

近期，浪潮人工智能研究院又發(fā)布全球最大中文巨量模型“源”，并以開源開放普惠產(chǎn)學(xué)研各界，共促AI大模型創(chuàng)新發(fā)展與產(chǎn)業(yè)落地。 而MLPerf的洗禮，證明浪潮信息可以提供全方位、無短板的AI計算支持。其能力覆蓋應(yīng)用場景洞察與系統(tǒng)方案設(shè)計、應(yīng)用代碼移植優(yōu)化、計算加速部件性能橫向評測等各個環(huán)節(jié)。填補了AI領(lǐng)域各技術(shù)棧之間的縫隙，也提升了數(shù)據(jù)分析的處理時效。

讓業(yè)界可以輕松獲取最強的AI算力，使AI產(chǎn)生更多價值。 此外，全棧式產(chǎn)品也讓浪潮信息的AI生態(tài)變得順理成章。浪潮發(fā)起“元腦生態(tài)計劃”，連接技術(shù)端的人工智能算法公司和應(yīng)用端的ISV、SI公司，通過伙伴間的能力融合，促進智算創(chuàng)新技術(shù)、場景應(yīng)用與交付服務(wù)的融合落地。

長期的研發(fā)積累與生態(tài)合作，讓浪潮信息在智能視頻分析、醫(yī)療影像、電力設(shè)備巡檢、語音識別、智能交通等等方面形成了端到端的全棧式解決方案，至此它已是一個擁有全棧式AI能力的頂級廠商之一。

總結(jié)來看，AI平臺是未來各行業(yè)數(shù)字化、智能化轉(zhuǎn)型的關(guān)鍵，浪潮信息的本次奪冠，預(yù)示著浪潮的AI生態(tài)已經(jīng)漸成閉環(huán)，讓AI真正產(chǎn)生價值，造福于整個社會。