擁有1000個RISC-V內核的人工智能加速器芯片
2021-08-27 13:10:30 EETOP隨著對人工智能和數據中心處理的需求不斷上升，一些新的人工智能加速器已經應用而生，站出來迎接挑戰。一個例子是國外初創公司Esperanto，它最近通過其新的基于RISC-V 的 1000 個內核的加速器來改變了這一領域。據稱該加速器的性能優于很多強大的對手。
經過多年的發展，Esperanto公司已經宣布了其ET-SoC-1 ML推理芯片。
本文將討論關于這個新的SoC的已知信息，并了解它如何與競爭對手抗衡。
在今年的Hot Chips 33大會上，主要頭條新聞之一來自總部位于加利福尼亞的 Esperanto 公司及其新的 AI 加速器。
這款新芯片ET-SoC-1專為數據中心推理而打造，可提供高水平的并行性，同時提供最大的能效。為此，新芯片在其基于臺積電 7nm 工藝構建的 SoC上集成了 1000 多個 RISC-V 內核、160M BYTE的 SRAM 和超過 240 億個晶體管。該 SoC 的內核是基于 RISC-V ISA 設計的：ET-Minion和 ET-Maxion。
ET-Minion 是一個通用的 64 位有序內核，具有機器學習的專有擴展，包括對每個時鐘周期高達 256 位浮點數的向量和張量運算。新的 SoC 具有1088 個這樣的內核。
ET-Maxion 是該公司專有的高性能 64 位單線程內核，具有四發射亂序執行、分支預測和預取算法。該SoC具有4個這樣的內核，由一個完全一致性的高速緩存（coherent cache）捆綁。
了解了核心技術后，讓我們深入研究一下這個 AI 解決方案的性能。
在性能方面，Esperanto旨在達到計算和能源效率之間的最佳平衡點。
SoC 的每瓦性能因各種軟件控制的設置而異，包括時鐘頻率；然而，該公司聲稱其最佳性能來自 1GHz 速度。在 ~0.4V 和 1 GHz 設定點下運行時，據報道該芯片在 20 瓦以下的功率下可運行 100 至 200 TOPS，或每瓦約 10 TOPS。
Esperanto 的基準測試表明它比競爭對手具有更好的性能和能耗效率
雖然基準測試有時會產生誤導，但該公司確實相信其 SoC 可以勝過許多最接近的競爭對手。
Esperanto專門為低功耗數據中心應用打造了這款SoC，甚至更專門為面向廣告的推薦性ML工作負載打造，比如社交媒體公司使用的那些。即使考慮到這一點，Esperanto也旨在將其芯片設計成通用的，設計師可以使用六片加速器卡（6000多個內核）來解決它所面臨的大多數任務。
如果它的芯片性能真的像該公司聲稱的那樣好，那么在不久的將來，它似乎有可能在數據中心找到自己的位置，用于ML和通用任務。
