IT之家11月13日消息,英偉達近日發(fā)布了下一代人工智能超級計算機芯片,這些芯片將在深度學習和大型語言模型(LLM)方面發(fā)揮重要作用,比如OpenAI的GPT-4。新芯片相比上一代有了顯著的飛躍,將被用于數(shù)據(jù)中心和超級計算機,處理諸如天氣和氣候預測、藥物發(fā)現(xiàn)、量子計算等任務。

此次發(fā)布的關鍵產(chǎn)品是基于英偉達的“Hopper”架構(gòu)的HGX H200 GPU,是H100 GPU的繼任者,也是該公司第一款使用HBM3e內(nèi)存的芯片,這種內(nèi)存速度更快,容量更大,因此更適合大型語言模型。英偉達稱:“借助HBM3e,英偉達H200以每秒4.8 TB的速度提供141GB的內(nèi)存,與A100相比,容量幾乎是其兩倍,帶寬增加了2.4倍。”
在人工智能方面,英偉達表示,HGX H200在Llama 2(700億參數(shù)LLM)上的推理速度比H100快了一倍。HGX H200將以4路和8路的配置提供,與H100系統(tǒng)中的軟件和硬件兼容。它將適用于每一種類型的數(shù)據(jù)中心(本地、云、混合云和邊緣),并由Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等部署,將于2024年第二季度推出。
英偉達此次發(fā)布的另一個關鍵產(chǎn)品是GH200 Grace Hopper“超級芯片(superchip)”,其將HGX H200 GPU和基于Arm的英偉達Grace CPU通過該公司的NVlink-C2C互連結(jié)合起來,官方稱其專為超級計算機設計,讓“科學家和研究人員能夠通過加速運行TB級數(shù)據(jù)的復雜AI和HPC應用程序,來解決世界上最具挑戰(zhàn)性的問題”。
GH200將被用于“全球研究中心、系統(tǒng)制造商和云提供商的40多臺AI超級計算機”,其中包括戴爾、Eviden、惠普企業(yè)(HPE)、聯(lián)想、QCT和Supermicro。其中值得注意的是,HPE的Cray EX2500超級計算機將使用四路GH200,可擴展到數(shù)萬個Grace Hopper超級芯片節(jié)點。
也許最大的Grace Hopper超級計算機是位于德國Jülich工廠的JUPITER,在2024年安裝后將成為“世界上最強大的AI系統(tǒng)”。其使用了液冷架構(gòu),其增強模塊由近24000個英偉達GH200超級芯片組成,這些芯片通過英偉達Quantum-2 InfiniBand網(wǎng)絡平臺互連。
英偉達表示,JUPITER將有助于在多個領域取得科學突破,包括氣候和天氣預測,生成高分辨率的氣候和天氣模擬,并進行交互式可視化。它還將被用于藥物發(fā)現(xiàn)、量子計算和工業(yè)工程,其中許多領域使用定制的英偉達軟件解決方案,這些解決方案簡化了開發(fā),但也使超級計算團隊依賴于英偉達硬件。
IT之家注意到,上個季度,英偉達僅在AI和數(shù)據(jù)中心領域就實現(xiàn)了創(chuàng)紀錄的103.2億美元的收入(總收入為135.1億美元),比一年前增長了171%,英偉達無疑希望新的GPU和超級芯片能夠幫助其繼續(xù)這一趨勢。