比H100 更強！ 英偉達最強 AI 芯片 GH200 是什么？ 驚人跑分曝光!
2023-10-04 15:28:18 動區動趨(臺)來源：動區動趨(臺)
生成式AI運算需求不斷增長，助推GPU大廠英偉達（NVIDIA）股價大漲再創新高。8 月中 NVIDIA 首席執行官黃仁勛展覽時再次力推 DGX GH200，是采 Grace Hopper 加速計算卡打造的新世代生成式 AI 超級芯片，也是 NVIDIA 首款 Exaflop 等級的 DGX 超級計算機產品。
根據9月11日跑分數據，NVIDIA宣布旗下GH200、H100、L4 GPU與Jetson Orin同類產品都獲得領先表現。
GH200 首次提交單一芯片，與單張 H100 配合英特爾 CPU 比較后，GH200 組合各測試都至少有 15% 左右提升。NVIDIA 人工智能總監 Dave Salvator 新聞發布會表示：
Grace Hopper 首次表現非常強勁，與提交 H100 GPU 相比，性能提高 17%，而我們已全面領先。
NVIDIA GH200 各方面輾壓 H100
官方說明，NVIDIA GH200 是首個將 H100 GPU 和 Grace CPU 整合在一起的超級芯片，這兩者之間再通過帶寬高達 900GB/s 的 NVLink-C2C 連互連接，擴展性更佳，以超快速度訓練深度學習。
簡單來說GH200就是內存容量更大，帶寬也更大，并且能自動調節CPU和GPU之間的能耗，增加整體性能表現。
NVIDIA GH200 Grace Hopper 超級芯片的架構
NVIDIA 表示 GH200 有三大特點：
適用大型模型的龐大內存：為開發人員提供超過500倍存儲器打造大型模型。
超節能運算：帶寬提升7倍，互連功耗降低逾5倍。
已整合且立即執行：數周內即可打造大型模型。
5月 COMPUTEX期間，NVIDIA CEO黃仁勛提到GH200芯片預定2024年第二季量產。MLPerf v3.1基準測試超過13,500個結果，不少提交者性能比3.0基準提高20%以上。
其他提交者有華碩、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特爾、英特爾Habana Labs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等。
