AI芯片市場：先進封裝能力是關鍵差異化因素
2023-07-25 12:23:15 EETOP來源：EETOP編譯自counterpointresearch
先進封裝提供了一個很好的杠桿，可以提高整體芯片性能，超越傳統的晶體管幾何縮放，并在未來十年擴展摩爾定律。先進封裝分為垂直堆疊芯片或晶圓的前端 3D 和通過 RDL（再分配層）或中介層水平互連芯片的后端 2.5D CoWoS。
隨著人工智能應用的需求，HBM 成為主流
先進封裝和晶圓制造技術的結合可以滿足計算能力、延遲和更高帶寬的要求，特別是對于高性能計算芯片。用于在數據中心訓練人工智能模型的人工智能加速器需要最高的可用內存帶寬。與內存受限的早期系統不同，當前的數據中心架構使用多種技術來克服內存瓶頸。高帶寬內存 (HBM) 是廣泛實施的用于提高帶寬和內存容量的解決方案之一。盡管傳統上人工智能一直是一項小眾技術，但它一直是GPU中 HBM 的重要驅動力。
HBM 技術的工作原理是將 DRAM 芯片垂直堆疊在一起，并通過 TSV（硅通孔）和微凸塊互連。因為 DRAM 是堆疊的，對于人工智能訓練和高性能應用程序，HBM 每秒可以提供 TB 級的處理能力，這是人工智能和高性能計算應用程序所需的重要處理能力。雖然 HBM 為數據中心 AI 加速器所需的片外存儲器提供極高的帶寬，但需要權衡 HBM 的成本和熱限制。隨著 DRAM 堆棧和SoC被放置在單個封裝基板中，隨著每次迭代的領域進步、性能改進和功耗降低，HBM 正變得越來越主流，推動了其在人工智能應用中的采用。
CoWoS 使用 HBM 封裝高級邏輯的主要驅動力
廣泛使用的集成技術之一是CoWoS（基板上晶圓芯片），這是一種2.5D IC集成技術，通過將邏輯計算和HBM芯片安裝在硅中介層上，然后直接放置在封裝基板上來集成邏輯計算和HBM芯片。TSV/RDL 中介層適用于極細間距、高 I/O、高性能和高密度半導體 IC 應用。
邏輯電路和 HBM 首先并排鍵合在硅中介層上，形成晶圓上芯片(CoW)，在器件之間具有細間距和高密度互連布線。每個 HBM 均由帶有微凸塊的 DRAM 和帶有直通 TSV 的邏輯基座組成。硅通孔 (TSV) 是支持 2.5D 和 3D 高級封裝的功能。TSV 是電氣連接路徑，是穿過硅晶圓或芯片的短垂直柱，可實現更小的封裝尺寸和更密集的互連，通過縮短電氣傳輸距離來提高電氣性能，并實現 HBM 等產品中使用的多個芯片的堆疊。最后，在封裝基板上完成具有較大凸塊的 TSV 中介層的組裝。
CoWoS 也是行業發展的瓶頸
多年來，CoWoS 技術開發的重點是支持不斷增加的硅中介層尺寸，以支持整個封裝中的處理器和 HBM 堆棧。如今，通過 TCB 方法采用 C2 凸塊的 CoW 是硅對硅倒裝芯片接合最常用的組裝方法。CoW 倒裝芯片采用一種稱為混合鍵合方法的無凸塊技術，目前正在研發中，多年來將獲得關注。
CoWoS最近成為AI出貨量的主要瓶頸。在NVIDIA、AMD、Broadcom和Amazon的推動下，提高 CoWoS 容量以滿足不斷增長的需求一直是焦點。
應對 CoWoS 增長的挑戰
為了應對這些挑戰，現有參與者需要通過提高產能以及與價值鏈參與者（OSAT、中介層制造商和封裝設備供應商）的合作來實現供應鏈多元化。
純晶圓代工廠應該做什么？
臺積電在 CoWoS 方面存在產能限制，為 NVIDIA 和其他客戶造成了一些瓶頸。原因之一是來自設備供應商和制造中介商的瓶頸。因此，臺積電應該尋求合作，并可能外包給合作伙伴，這將有助于穩定中短期銷量，并滿足人工智能和高性能計算應用中對先進封裝不斷增長的需求。因此，從長遠來看，臺積電應該與設備制造商合作，優化TCB（熱壓接合）和混合接合等CoWoS加工技術。
設備廠商應該做什么？
設備制造商應與代工廠密切合作，共同開發優化工藝來擴展 CoWoS 封裝。例如，應用材料公司正在積極開發混合鍵合和 TSV 新技術，以推進異構芯片集成，幫助芯片制造商將小芯片集成到先進的 2.5D 和 3D 封裝中。預計 KLA Tencor、Lam Research、ASMPT 和 BESI 等其他參與者也將開展類似的合作，以推動 CoWoS 封裝或其他競爭技術（例如混合鍵合技術）的進步，從而改善細間距、I/O 密度和功耗。研究合作將為半導體和系統公司提供一整套工具和技術，用于開發和原型設計各種封裝設計，并實現功耗、性能、面積、成本和上市時間的持續進步。
IDM 應該做什么？
三星和其他IDM廠商也積極尋求在先進封裝市場分一杯羹，并增強其設計和制造能力，為高端解決方案建立足夠的客戶群。例如，三星電子的 HBM-PIM 技術將處理芯片和 HBM 等先進存儲芯片與其專有的 2.5D 或 3D 封裝技術集成在一起。三星開發了 HBM-PIM 作為其現有 HBM2 產品的潛在替代品，其中八個內存芯片的底部四個被包含 DRAM 和計算核心的芯片取代。通過在 DRAM 中進行一些計算，需要傳送到處理器的數據量會減少，從而有效地加速神經網絡并節省傳輸數據所需的功耗。隨著這項技術的發展，
對于擁有成熟節點能力的 IDM 來說，先進封裝也是一個機會，可以增強其現有產品組合的性能并占領重要的市場份額。
OSAT 應該做什么？
日月光 (ASE) 和 Amkor 等 OSAT 正在積極投資以擴大先進封裝產品，但需要時間才能從上升趨勢中受益。產量和產量是代工廠發展其先進封裝平臺的關鍵。這也對大多數傳統OSAT公司進入該領域構成了障礙。然而，他們可以與領先企業合作并提高后端流程的能力。另一種選擇可能是增加對成熟節點先進封裝應用的研發投資，這將有助于為下一次經濟好轉做好準備，例如擺脫倒裝芯片和引線鍵合。
如果 OSAT 不加入先進封裝浪潮以在成熟節點中實現 PPA 優勢，那么它們將面臨嚴峻的考驗。但如果他們現在開始投資，特別是在物聯網、汽車和網絡領域的人工智能應用方面，他們可以獲得先發優勢。
無晶圓廠供應商應該做什么？
NVIDIA 占據了當前 CoWoS 容量的大部分。由于 CoWoS 封裝帶來的好處，獲得 AI 工作負載所需的高性能是可能的。該技術在各種中介層尺寸、封裝尺寸和 HBM 立方體數量方面提供了靈活性，并以高性能計算應用所需的最高集成密度提供最佳性能。
隨著人工智能在設備和行業中變得越來越普遍，蘋果、特斯拉、谷歌和 Meta 等垂直行業參與者正在其產品中添加大量人工智能功能，并且還需要為其產品組合提供集成的人工智能計算。CoWoS 似乎是目前最好的選擇。隨著包括英特爾在內的其他競爭對手擴大其產品范圍來滿足人工智能需求，他們必須與同類最佳產品相匹配，而目前這些產品是通過 CoWoS 提供的。
從客戶端計算的角度來看，隨著行業開發能夠在智能手機上運行的縮小版人工智能模型，并且用戶需要智能手機上的人工智能模型，它可能會嘗試 CoWoS。然而，目前在智能手機應用中實施 CoWoS 封裝并不具有成本效益，替代封裝技術將是一個更好的選擇。
