浪潮AI產(chǎn)品家族

 

 

　　新一代M5反映出浪潮比較重要的變化是，服務(wù)器設(shè)計從均衡開始走向極致，主打“面向應(yīng)用/場景的極致設(shè)計”概念，以此強有力的推進智慧計算業(yè)務(wù)的持續(xù)發(fā)展。智慧計算是浪潮目前最為看重的一項高成長性業(yè)務(wù)，它以云計算為基礎(chǔ)平臺，以大數(shù)據(jù)為認知方法，以深度學(xué)習(xí)作為優(yōu)化工具，其核心是CBD（Cloud computing，Big data，Deep learning）。從組成要素來看，智慧計算與人工智能有著高度的重合，要知道目前引發(fā)人工智能熱潮的三個重要因素即是超大規(guī)模的計算能力、爆炸式的數(shù)據(jù)增長、機器學(xué)習(xí)尤其是深度學(xué)習(xí)算法的出現(xiàn)。

　　浪潮智慧計算核心三要素

 

　　可以說，將人工智能視為浪潮智慧計算業(yè)務(wù)的重心一點都不為過，而在這一領(lǐng)域的成功也將有助于浪潮實現(xiàn)躋身全球前三服務(wù)器廠商的目標。據(jù)埃森哲發(fā)布的研究報告，通過轉(zhuǎn)變工作方式以及開拓新的價值和增長源，人工智能有潛力將2035年的中國經(jīng)濟總增加值提升7.111萬億美元，即從6.3%提速至7.9%。而對現(xiàn)代人工智能產(chǎn)生深遠影響的科學(xué)家于爾根？施米德胡貝教授（Jürgen Schmidhuber）認為，人工智能將重構(gòu)幾乎所有的行業(yè)，包括金融、醫(yī)療保健、汽車、消費、娛樂等領(lǐng)域。毫無疑問，誰能贏得人工智能，誰就會贏得未來。

 

　　當我們行至一個“萬物AI時代”的大門之前，該如何以計算推開這扇大門呢？浪潮M5新一代服務(wù)器的發(fā)布將帶來耳目一新的AI計算體驗，其構(gòu)建了業(yè)界最全的AI的產(chǎn)品線，在部署密度、峰值性能、硬件解耦處于業(yè)界領(lǐng)先水平，相比上一代產(chǎn)品性能提升1.5倍。

 

 

　　M5系列所強調(diào)的極致、彈性兩大特點更加匹配人工智能對計算的需求。我們常說人工智能對計算力的需求是無止境的，但在實際應(yīng)用中并非總是如此。雖然人類社會的數(shù)據(jù)總量依然在爆炸式的增長，但能夠用于深度學(xué)習(xí)訓(xùn)練的標注數(shù)據(jù)卻無法快速增長，因此很多從事人工智能研究和應(yīng)用的用戶必須要考慮彈性的問題：在初期訓(xùn)練數(shù)據(jù)總量不大的時候，可以使用小規(guī)模的AI計算平臺；隨著訓(xùn)練數(shù)據(jù)規(guī)模的擴大，可以非常簡單的擴容AI計算平臺。

 

　　M5系列中被稱為“AI超級計算機”的NF5288M5（AGX-2），具備良好AI計算擴展能力，是全球首款在2U空間內(nèi)高速互聯(lián)集成8顆最高性能GPU加速器的服務(wù)器，在單位計算密度上體現(xiàn)出非常明顯的極致性，但它也可支持2-8卡的隨需擴展，用戶可根據(jù)模型訓(xùn)練的實際需要自由選擇計算力。AGX-2具備良好的I/O擴展能力，GPU間互聯(lián)帶寬高達150GB/s，提供8塊NVMe/SAS/SATA熱插拔硬盤，可支持最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯(lián)。

　　浪潮發(fā)布全球最高密度、最強性能的AI服務(wù)器NF5288M5

 

　　另一款可靈活擴展的新型AI加速計算產(chǎn)品GX4。實現(xiàn)了協(xié)處理器與CPU計算資源的解耦和重構(gòu)，突破了常規(guī)AI計算設(shè)備的8卡擴展限制，實現(xiàn)了更高的單機計算性能。每個GX4可在2U空間內(nèi)支持4塊加速卡，而單臺服務(wù)器最高可擴展鏈接4臺GX4從而實現(xiàn)單機16卡的加速計算池。這種獨立的加速計算模塊設(shè)計極大提升了系統(tǒng)部署彈性，既能輕松實現(xiàn)2到16卡的高擴展性，也能通過改變服務(wù)器與擴展模塊的鏈接方式實現(xiàn)快速靈活的拓撲轉(zhuǎn)換，使計算架構(gòu)與上層應(yīng)用更匹配。

 

 

　　而對于那些已經(jīng)擁有超大規(guī)模數(shù)據(jù)和復(fù)雜神經(jīng)網(wǎng)絡(luò)的用戶來說，AI計算平臺的性能自然是越強越好。M5系列中的SR-AI整機柜就是一款面向更大規(guī)模數(shù)據(jù)集和深層神經(jīng)網(wǎng)絡(luò)的超大規(guī)模AI計算平臺，能夠高效支撐復(fù)雜的深度學(xué)習(xí)線下模型訓(xùn)練任務(wù)，適用于圖像識別、語音識別、自然語言處理、搜索排序等AI應(yīng)用。

 

　　SR-AI整機柜是全球首個采用PCIe Fabric互聯(lián)架構(gòu)設(shè)計的AI方案，其I/O BOX單節(jié)點即可實現(xiàn)支持16個GPU的超大擴展，并且可以通過PCI-E交換機實現(xiàn)4個BOX、64塊GPU的級聯(lián)，峰值處理能力達到為512TFlops。

 

　　同時，傳統(tǒng)的AI計算設(shè)備集群需要通過高速網(wǎng)絡(luò)實現(xiàn)數(shù)據(jù)的交互，這會帶來us級以上的延遲，而SR-AI整機柜中GPU BOX間的互聯(lián)是通過PCI-E交換機來實現(xiàn)，并借助GPUDirect RDMA技術(shù)可以大幅下降跨節(jié)點GPU間的通信延遲，能夠?qū)崿F(xiàn)ns級網(wǎng)絡(luò)延時。

 

 

　　除了在底層架構(gòu)層面關(guān)注人工智能的計算需求外，浪潮也從AI軟件實現(xiàn)、框架優(yōu)化和應(yīng)用加速著手，解決AI計算中面對的各類復(fù)雜問題。目前，深度學(xué)習(xí)的模型訓(xùn)練往往流程較長、開發(fā)環(huán)境較復(fù)雜，涉及數(shù)據(jù)準備和處理、特征工程、建模、調(diào)參等多個步驟及多個框架和模型，每個框架依賴環(huán)境不同且有可能交叉使用。更大的“痛點”在于，深度學(xué)習(xí)模型在訓(xùn)練時往往耗時較長，短則數(shù)小時長則數(shù)天，以往在訓(xùn)練完成后才意識到模型存在問題，大大耗費了用戶的精力和時間。

 

　　為此，浪潮除獨立開發(fā)出AIStation深度學(xué)習(xí)系統(tǒng)管理平臺、Teye應(yīng)用特征分析系統(tǒng)以及Caffe-MPI深度學(xué)習(xí)并行計算框架之外，同時也在不斷強化GPU、MIC和FPGA三種異構(gòu)計算平臺下的應(yīng)用加速能力，協(xié)助用戶完成AI應(yīng)用的遷移、優(yōu)化。

 

 

　　浪潮之所以能夠打破服務(wù)器均衡設(shè)計的束縛，開發(fā)出一系列貼近應(yīng)用場景的AI計算產(chǎn)品，很重要的原因得益于JDM（聯(lián)合開發(fā)，Join Design Manufacture）模式。這是一種有別于OEM、ODM的新商業(yè)模式，即面向應(yīng)用、融合產(chǎn)業(yè)鏈、與客戶聯(lián)合定制開發(fā)模式，能夠創(chuàng)造出更顯著的商業(yè)價值。同時，JDM模式也讓浪潮建立了更難以逾越的競爭壁壘，因為這種能力很難復(fù)制，需要長時間的經(jīng)驗積累和不斷的技術(shù)資源投入，以及對客戶保持專注和對其需求的準確理解，并不是簡單的靠投錢就能砸出來的。

 

　　目前，JDM模式主要集中在浪潮與互聯(lián)網(wǎng)客戶之間。以浪潮與百度合作為例，雙方從單純的產(chǎn)品合作向研發(fā)模式、生產(chǎn)模式的兩端深入推進，使得硬件產(chǎn)品與軟件算法從研發(fā)設(shè)計階段就開始接觸和磨合，這令研發(fā)出的AI計算產(chǎn)品更符合業(yè)務(wù)需求，最大化發(fā)揮AI計算力和創(chuàng)新能力。浪潮兩度獲得百度頒發(fā)的服務(wù)器領(lǐng)域唯一的“技術(shù)創(chuàng)新獎”，可以說是JDM模式最好的詮釋。

 

　　可以說，浪潮是隱身在眾多超大互聯(lián)網(wǎng)公司身后的產(chǎn)品“研發(fā)部門”。關(guān)鍵的是，這種聯(lián)合創(chuàng)新背后，既代表了最前沿的技術(shù)需求，也意味著浪潮必須在快速交付以及定制化、個性化解決方案方面必須具備強大能力。

 

　　孕育無限可能的人工智能將是一場沒有既定方向的長跑，對于AI解決方案在中國占有率達到60%的浪潮而言，只有保持強大的創(chuàng)新能力與準確的趨勢預(yù)判，才能持續(xù)領(lǐng)跑。