国产精品久久久久久久小说,国产国产裸模裸模私拍视频,国产精品免费看久久久无码,风流少妇又紧又爽又丰满,国产精品,午夜福利

熱搜: 佳士科技  irobot  工業(yè)機器人  機器人  機器人產(chǎn)業(yè)聯(lián)盟  ABB  機械手  發(fā)那科  碼垛機器人  機器人展覽 

老黃深夜炸場!英偉達發(fā)布全球最強 AI 芯片 H200:性能飆升 90%,Llama 2 推理速度翻倍

   日期:2023-11-14     來源:IT之家     評論:0    
標簽: AI 芯片 科技
   IT之家11月13日消息,英偉達近日發(fā)布了下一代人工智能超級計算機芯片,這些芯片將在深度學習和大型語言模型(LLM)方面發(fā)揮重要作用,比如OpenAI的GPT-4。新芯片相比上一代有了顯著的飛躍,將被用于數(shù)據(jù)中心和超級計算機,處理諸如天氣和氣候預測、藥物發(fā)現(xiàn)、量子計算等任務。
微信圖片_20231114085356
  此次發(fā)布的關鍵產(chǎn)品是基于英偉達的“Hopper”架構(gòu)的HGX H200 GPU,是H100 GPU的繼任者,也是該公司第一款使用HBM3e內(nèi)存的芯片,這種內(nèi)存速度更快,容量更大,因此更適合大型語言模型。英偉達稱:“借助HBM3e,英偉達H200以每秒4.8 TB的速度提供141GB的內(nèi)存,與A100相比,容量幾乎是其兩倍,帶寬增加了2.4倍。”
 
  在人工智能方面,英偉達表示,HGX H200在Llama 2(700億參數(shù)LLM)上的推理速度比H100快了一倍。HGX H200將以4路和8路的配置提供,與H100系統(tǒng)中的軟件和硬件兼容。它將適用于每一種類型的數(shù)據(jù)中心(本地、云、混合云和邊緣),并由Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等部署,將于2024年第二季度推出。
 
  英偉達此次發(fā)布的另一個關鍵產(chǎn)品是GH200 Grace Hopper“超級芯片(superchip)”,其將HGX H200 GPU和基于Arm的英偉達Grace CPU通過該公司的NVlink-C2C互連結(jié)合起來,官方稱其專為超級計算機設計,讓“科學家和研究人員能夠通過加速運行TB級數(shù)據(jù)的復雜AI和HPC應用程序,來解決世界上最具挑戰(zhàn)性的問題”。
 
  GH200將被用于“全球研究中心、系統(tǒng)制造商和云提供商的40多臺AI超級計算機”,其中包括戴爾、Eviden、惠普企業(yè)(HPE)、聯(lián)想、QCT和Supermicro。其中值得注意的是,HPE的Cray EX2500超級計算機將使用四路GH200,可擴展到數(shù)萬個Grace Hopper超級芯片節(jié)點。
 
  也許最大的Grace Hopper超級計算機是位于德國Jülich工廠的JUPITER,在2024年安裝后將成為“世界上最強大的AI系統(tǒng)”。其使用了液冷架構(gòu),其增強模塊由近24000個英偉達GH200超級芯片組成,這些芯片通過英偉達Quantum-2 InfiniBand網(wǎng)絡平臺互連。
 
  英偉達表示,JUPITER將有助于在多個領域取得科學突破,包括氣候和天氣預測,生成高分辨率的氣候和天氣模擬,并進行交互式可視化。它還將被用于藥物發(fā)現(xiàn)、量子計算和工業(yè)工程,其中許多領域使用定制的英偉達軟件解決方案,這些解決方案簡化了開發(fā),但也使超級計算團隊依賴于英偉達硬件。
 
  IT之家注意到,上個季度,英偉達僅在AI和數(shù)據(jù)中心領域就實現(xiàn)了創(chuàng)紀錄的103.2億美元的收入(總收入為135.1億美元),比一年前增長了171%,英偉達無疑希望新的GPU和超級芯片能夠幫助其繼續(xù)這一趨勢。
 
 
聲明:凡資訊來源注明為其他媒體來源的信息,均為轉(zhuǎn)載自其他媒體,并不代表本網(wǎng)站贊同其觀點,也不代表本網(wǎng)站對其真實性負責。您若對該文章內(nèi)容有任何疑問或質(zhì)疑,請立即與中國機器人網(wǎng)(www.baoxianwx.cn)聯(lián)系,本網(wǎng)站將迅速給您回應并做處理。
電話:021-39553798-8007
更多>相關資訊
0相關評論

推薦圖文
推薦資訊
點擊排行
?