[新聞]RISC-V陣營的振奮時刻!Meta可能是採用RISC-V架構設計自家AI晶片
RISC-V陣營的振奮時刻!Meta可能是採用RISC-V架構設計自家AI晶片
原文網址:https://bit.ly/3FzjFV7
原文:
Meta正在悄悄測試基於RISC-V的AI訓練晶片。如果該晶片滿足Meta的目標,它可能會減少
對高階輝達AI GPU(如H100/H200和B100/B200)的依賴,用於訓練先進的大語言模型。以
目前來看,Meta和博通合作推出了首款AI訓練加速器,台積電則生產了初始工作樣品。
其實早在2023年,Meta推出了第一代自家AI推理加速器,旨在為臉書和Instagram的排名
和推薦系統提供支持,隨後在2024年4月推出了一個新版本,將運算和記憶體頻寬增加了
一倍。
後來在2024年Hot Chips研討會上,Meta就透露其推理晶片基於台積電的5奈米製程打造,
處理單元核心是基於RISC-V架構。
如今隨著路透社獨家揭露,Meta正在為AI訓練而設計晶片,但是其卻未提到是採用RISC-V
架構。
MTIA(Meta Training and Inference Accelerator)的推理加速器使用開源RISC-V核心。
這使得Meta能夠根據自己的節奏自訂指令集架構以滿足其要求,且不需要向任何第三方支
付版稅。目前尚不清楚MTIA的訓練加速器是否也基於RISC-V ISA,但可能性非常之大。如
果這是真的,Meta可能已經開發出業界性能最高的基於RISC-V的晶片之一。
根據專家判斷,預計該處理器將配備HBM3或HBM3E記憶體。由於其屬於客製化處理器,因
此是由Meta定義了其支援的資料格式和指令,以優化晶片尺寸、功耗和效能。至於性能,
該加速器必須提供與輝達AI GPU具有競爭力的每瓦性能特性。
雖然該晶片的具體規格仍然是個謎,但AI訓練硬體通常依賴脈動陣列(systolic array)架
構,旨在透過矩陣和向量運算處理海量數據集。
Meta設計這一晶片的風險是,在有限的部署測試中,其內部推理處理器如果未能達到效能
和功率目標,因此可能會停止生產。這一案例就曾經發生在2022年的Meta公司,進而讓其
改變策略,改為大量訂購輝達GPU,以滿足其即時的AI處理需求。
自那時起,Meta已成為輝達最大的客戶之一,並購買了數萬顆GPU。這些單元對於訓練推
薦、廣告和Llama Foundation模型系列的AI模型至關重要。因此,Meta的RISC-V之AI訓練
晶片能否在2026年達到Meta客製化AI晶片的目標,就成為其未來命運走向的關鍵。
從長遠來看,儘管面臨這些挑戰,Meta勢必仍在繼續推進其客製化矽晶片計劃,畢竟,AI
是長久趨勢,Meta不可能放棄自行研發AI晶片的努力。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1742190918.A.13C.html
推
03/17 13:56,
12小時前
, 1F
03/17 13:56, 1F
噓
03/17 14:18,
12小時前
, 2F
03/17 14:18, 2F
→
03/17 14:18,
12小時前
, 3F
03/17 14:18, 3F
→
03/17 14:18,
12小時前
, 4F
03/17 14:18, 4F
→
03/17 16:46,
9小時前
, 5F
03/17 16:46, 5F
→
03/17 16:46,
9小時前
, 6F
03/17 16:46, 6F
推
03/17 18:23,
8小時前
, 7F
03/17 18:23, 7F
→
03/17 18:23,
8小時前
, 8F
03/17 18:23, 8F
→
03/17 18:36,
7小時前
, 9F
03/17 18:36, 9F
Tech_Job 近期熱門文章
PTT職涯區 即時熱門文章