比H100 更強! 英偉達最強 AI 芯片 GH200 是什么? 驚人跑分曝光!
2023-10-04 15:28:18 動區(qū)動趨(臺)來源:動區(qū)動趨(臺)
生成式AI運算需求不斷增長,助推GPU大廠英偉達(NVIDIA)股價大漲再創(chuàng)新高。8 月中 NVIDIA 首席執(zhí)行官黃仁勛展覽時再次力推 DGX GH200,是采 Grace Hopper 加速計算卡打造的新世代生成式 AI 超級芯片,也是 NVIDIA 首款 Exaflop 等級的 DGX 超級計算機產(chǎn)品。
根據(jù)9月11日跑分數(shù)據(jù),NVIDIA宣布旗下GH200、H100、L4 GPU與Jetson Orin同類產(chǎn)品都獲得領(lǐng)先表現(xiàn)。
GH200 首次提交單一芯片,與單張 H100 配合英特爾 CPU 比較后,GH200 組合各測試都至少有 15% 左右提升。NVIDIA 人工智能總監(jiān) Dave Salvator 新聞發(fā)布會表示:
Grace Hopper 首次表現(xiàn)非常強勁,與提交 H100 GPU 相比,性能提高 17%,而我們已全面領(lǐng)先。
NVIDIA GH200 各方面輾壓 H100
官方說明,NVIDIA GH200 是首個將 H100 GPU 和 Grace CPU 整合在一起的超級芯片,這兩者之間再通過帶寬高達 900GB/s 的 NVLink-C2C 連互連接,擴展性更佳,以超快速度訓(xùn)練深度學(xué)習(xí)。
簡單來說GH200就是內(nèi)存容量更大,帶寬也更大,并且能自動調(diào)節(jié)CPU和GPU之間的能耗,增加整體性能表現(xiàn)。
NVIDIA GH200 Grace Hopper 超級芯片的架構(gòu)
NVIDIA 表示 GH200 有三大特點:
適用大型模型的龐大內(nèi)存:為開發(fā)人員提供超過500倍存儲器打造大型模型。
超節(jié)能運算:帶寬提升7倍,互連功耗降低逾5倍。
已整合且立即執(zhí)行:數(shù)周內(nèi)即可打造大型模型。
5月 COMPUTEX期間,NVIDIA CEO黃仁勛提到GH200芯片預(yù)定2024年第二季量產(chǎn)。MLPerf v3.1基準測試超過13,500個結(jié)果,不少提交者性能比3.0基準提高20%以上。
其他提交者有華碩、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特爾、英特爾Habana Labs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等。
EETOP 官方微信
創(chuàng)芯大講堂 在線教育
半導(dǎo)體創(chuàng)芯網(wǎng) 快訊
相關(guān)文章