[新聞]RISC-V陣營的振奮時刻！Meta可能是採用RISC-V架構設計自家AI晶片

看板Tech_Job (科技人)作者stpiknow (H)時間15小時前 (2025/03/17 13:55)推噓1(2推 1噓 6→)

留言9則, 5人參與討論串1/1

RISC-V陣營的振奮時刻！Meta可能是採用RISC-V架構設計自家AI晶片原文網址:https://bit.ly/3FzjFV7 原文: Meta正在悄悄測試基於RISC-V的AI訓練晶片。如果該晶片滿足Meta的目標，它可能會減少對高階輝達AI GPU（如H100/H200和B100/B200）的依賴，用於訓練先進的大語言模型。以目前來看，Meta和博通合作推出了首款AI訓練加速器，台積電則生產了初始工作樣品。其實早在2023年，Meta推出了第一代自家AI推理加速器，旨在為臉書和Instagram的排名和推薦系統提供支持，隨後在2024年4月推出了一個新版本，將運算和記憶體頻寬增加了一倍。後來在2024年Hot Chips研討會上，Meta就透露其推理晶片基於台積電的5奈米製程打造，處理單元核心是基於RISC-V架構。如今隨著路透社獨家揭露，Meta正在為AI訓練而設計晶片，但是其卻未提到是採用RISC-V 架構。 MTIA(Meta Training and Inference Accelerator)的推理加速器使用開源RISC-V核心。這使得Meta能夠根據自己的節奏自訂指令集架構以滿足其要求，且不需要向任何第三方支付版稅。目前尚不清楚MTIA的訓練加速器是否也基於RISC-V ISA，但可能性非常之大。如果這是真的，Meta可能已經開發出業界性能最高的基於RISC-V的晶片之一。根據專家判斷，預計該處理器將配備HBM3或HBM3E記憶體。由於其屬於客製化處理器，因此是由Meta定義了其支援的資料格式和指令，以優化晶片尺寸、功耗和效能。至於性能，該加速器必須提供與輝達AI GPU具有競爭力的每瓦性能特性。雖然該晶片的具體規格仍然是個謎，但AI訓練硬體通常依賴脈動陣列(systolic array)架構，旨在透過矩陣和向量運算處理海量數據集。 Meta設計這一晶片的風險是，在有限的部署測試中，其內部推理處理器如果未能達到效能和功率目標，因此可能會停止生產。這一案例就曾經發生在2022年的Meta公司，進而讓其改變策略，改為大量訂購輝達GPU，以滿足其即時的AI處理需求。自那時起，Meta已成為輝達最大的客戶之一，並購買了數萬顆GPU。這些單元對於訓練推薦、廣告和Llama Foundation模型系列的AI模型至關重要。因此，Meta的RISC-V之AI訓練晶片能否在2026年達到Meta客製化AI晶片的目標，就成為其未來命運走向的關鍵。從長遠來看，儘管面臨這些挑戰，Meta勢必仍在繼續推進其客製化矽晶片計劃，畢竟，AI 是長久趨勢，Meta不可能放棄自行研發AI晶片的努力。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1742190918.A.13C.html