由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發者帶來高性能 AI 算力
2025-01-10 11:01:01 Arm當前，一個令人振奮的趨勢是，人工智能 (AI) 應用和功能正在各種邊緣側設備上快速擴展和普及。隨著 AI 的不斷發展和進步，對于 AI 研究員、數據科學家、開發者和學生而言，獲取高性能算力以開發或運行新的模型（如語言模型、視覺模型或多模態模型）變得至關重要。鑒于 AI 創新的步伐空前加快，行業需要確保開發者在云端及邊緣側均能獲得高性能算力，從而直接獲得更多的新功能。
為開發者實現唾手可得的突破性 AI 性能
在今年的國際消費類電子產品展覽會 (CES) 上，NVIDIA 創始人兼首席執行官黃仁勛在主題演講中發布了個人 AI 超級計算機 NVIDIA Project DIGITS，朝著 “隨處可開發和部署 AI” 的愿景又邁近了重要一步。基于 Linux 系統的 Project DIGITS 搭載了 Arm CPU 核心，使每位 AI 開發者都能擁有一套高性能的 AI 桌面系統。
圖：由 Arm 驅動的 NVIDIA Project DIGITS 為數百萬開發者帶來高性能 AI 算力
Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超級芯片，搭載 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA? core和第五代 Tensor Cores，通過 NVIDIA NVLink?-C2C 片間互連技術實現連接，并配有 128GB 的統一的高一致性內存。NVIDIA Grace CPU 搭載了先進的高性能 Arm Cortex-X 和 Cortex-A 技術，配置 10 個 Cortex-X925 和 10 個 Cortex-A725 CPU 核心。NVIDIA GB10 超級芯片能以 FP4 計算精度提供高達 1 PFLOPS (1,000 TFLOPs) 的 AI 性能，使開發者能對 AI 大模型進行原型設計、微調和推理，同時還能與云端或數據中心環境無縫對接，實現協同工作。
Arm 計算平臺的價值
借助無處不在的 Arm 計算平臺，新的 AI 模型和應用能更高效、更快速地在邊緣側運行。在消費級技術市場，不論是用于 Project DIGITS 的最新 Arm CPU，或是集成在 Arm 終端計算子系統 (CSS) 的一部分，Arm CPU 技術已成為市場中高性能邊緣側設備的核心驅動力。這些 CPU 技術經過精心優化，可在各種實際用例和工作負載中實現最大性能和最高效率。
Arm 計算平臺還兼具靈活性，可針對不同的 AI 應用場景使用不同的計算引擎。在 NVIDIA Project DIGITS 中，基于 Arm 架構的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相協作，使開發者能夠將這些組件用于各種工作負載。這種異構計算策略對于最大化 AI 性能，同時管理內存利用率和功耗至關重要。
NVIDIA SoC 產品副總裁 Ashish Karandikar 表示：“我們與 Arm 在 GB10 超級芯片的合作上，巧妙地結合了 NVIDIA 的 AI 專業知識與 Arm 可擴展的計算平臺，實現了出眾的性能和能效，將推動下一代 AI 創新。隨著 Project DIGITS 的推出，每位 AI 開發者和研究員都將能擁有一臺功能強大的超級計算機。”
釋放軟件創新的潛能
對于開發者而言，擁有一個完全集成的軟硬件 AI 平臺至關重要。Project DIGITS使用開源 Linux 操作系統，用戶可以訪問資源豐富的 NVIDIA AI 軟件庫，包括 NVIDIA NGC 目錄和 NVIDIA 開發者門戶網站中提供的軟件開發套件、編排工具、框架和 AI 模型，以加快生成式 AI 的工作流程。
Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在數據中心的合作，為數據中心和邊緣側設備環境提供一致的平臺架構，使開發者能夠無縫地使用同一套工具進行 AI 應用開發。此外，Arm 不斷積極推動開源開發者社區的重要工作，旨在開發出適配的軟件，加速AI 的全面部署。目前，全球已有超過 2,000 萬軟件開發者在 Arm 計算平臺上構建自己的應用程序，共同推動著一個快速創新、日益壯大的開源社區。
賦予高性能 AI 算力的理想平臺
Arm 作為當前和未來 AI 領域應用最廣泛的計算平臺，自然而然地成為了 Project DIGITS 中 GB10 超級芯片的理想平臺。Project DIGITS是一個功能強大的個人計算機桌面平臺，能夠運行高達 200B 參數的 AI 大模型，讓原本的不可能變為可能。這種對 AI 生態系統的廣泛影響力，為全球數百萬開發者帶來了靈活、高性能且高能效的 AI 功能。通過與 NVIDIA 及 Arm 強大的軟件生態系統緊密的合作，我們翹首以待下一代極具創新的 AI 應用的問世。
