Re: [新聞] 與台積電不一樣!馬斯克公布地表最大晶片廠計畫了
先別管晶片廠怎麼蓋
先來看一下老馬之前晶片設計怎麼翻車的
先貼個tesla dojo 2砍掉的新聞
https://techorange.com/2025/08/08/tesla-dojo-shut-down/
技術細節參考
https://electrek.co/2022/08/24/tesla-deep-dive-presentations-dojo-ai-supercomputer/
https://chipsandcheese.com/p/hot-chips-34-teslas-dojo-microarchitecture
他的架構是這樣
用354 riscv core組成一個die
再用25個die組成一個tile
最後tile組成運算節點
但這樣有個問題
他設計的功率密度太高 需要上水冷
然後die size很大 又要考慮壞點容錯
die to die也要考慮path失效的容錯
但不是只有晶片良率的壞點
高熱長期運轉本來就會經常掉點
尤其是這種大規模運算叢集
比如meta這篇
https://engineering.fb.com/2024/06/12/data-infrastructure/training-large-language-models-at-scale-meta/
練LLM基本上都在和節點失效搏鬥
神經網路的整個訓練流程
只要一個bit翻轉都有可能把整個訓練殺死
(梯度下降算法,錯誤會隨梯度傳播到整個模型)
他的技術只有考慮靜態失效
也就是練到一半突然壞一個core是無法處理的
(因為他的軟體根據晶片壞哪裡,去編譯出繞過壞點的程式
壞點必須事先知道)
不管你dojo 2算力多少,訓練流程跑不完,就是不能用的
我只能說Tesla還是太天真了
下次記得不要找印度人當主管
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.98.192 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1774335376.A.C90.html
推
03/24 14:57,
2小時前
, 1F
03/24 14:57, 1F
推
03/24 14:58,
1小時前
, 2F
03/24 14:58, 2F
推
03/24 14:58,
1小時前
, 3F
03/24 14:58, 3F
推
03/24 15:00,
1小時前
, 4F
03/24 15:00, 4F
→
03/24 15:01,
1小時前
, 5F
03/24 15:01, 5F
→
03/24 15:01,
1小時前
, 6F
03/24 15:01, 6F
推
03/24 15:02,
1小時前
, 7F
03/24 15:02, 7F
推
03/24 15:02,
1小時前
, 8F
03/24 15:02, 8F
推
03/24 15:03,
1小時前
, 9F
03/24 15:03, 9F
推
03/24 15:04,
1小時前
, 10F
03/24 15:04, 10F
→
03/24 15:04,
1小時前
, 11F
03/24 15:04, 11F
推
03/24 15:04,
1小時前
, 12F
03/24 15:04, 12F
→
03/24 15:06,
1小時前
, 13F
03/24 15:06, 13F
→
03/24 15:06,
1小時前
, 14F
03/24 15:06, 14F
推
03/24 15:09,
1小時前
, 15F
03/24 15:09, 15F
→
03/24 15:09,
1小時前
, 16F
03/24 15:09, 16F
→
03/24 15:11,
1小時前
, 17F
03/24 15:11, 17F
→
03/24 15:13,
1小時前
, 18F
03/24 15:13, 18F
→
03/24 15:13,
1小時前
, 19F
03/24 15:13, 19F
→
03/24 15:13,
1小時前
, 20F
03/24 15:13, 20F
推
03/24 15:14,
1小時前
, 21F
03/24 15:14, 21F
推
03/24 15:15,
1小時前
, 22F
03/24 15:15, 22F
→
03/24 15:17,
1小時前
, 23F
03/24 15:17, 23F
推
03/24 15:21,
1小時前
, 24F
03/24 15:21, 24F
→
03/24 15:22,
1小時前
, 25F
03/24 15:22, 25F
推
03/24 15:27,
1小時前
, 26F
03/24 15:27, 26F
推
03/24 15:28,
1小時前
, 27F
03/24 15:28, 27F
→
03/24 15:28,
1小時前
, 28F
03/24 15:28, 28F
→
03/24 15:30,
1小時前
, 29F
03/24 15:30, 29F
→
03/24 15:30,
1小時前
, 30F
03/24 15:30, 30F
推
03/24 15:31,
1小時前
, 31F
03/24 15:31, 31F
→
03/24 15:31,
1小時前
, 32F
03/24 15:31, 32F
推
03/24 15:37,
1小時前
, 33F
03/24 15:37, 33F
推
03/24 15:47,
1小時前
, 34F
03/24 15:47, 34F
推
03/24 15:50,
1小時前
, 35F
03/24 15:50, 35F
→
03/24 15:50,
1小時前
, 36F
03/24 15:50, 36F
→
03/24 15:52,
1小時前
, 37F
03/24 15:52, 37F
推
03/24 15:53,
1小時前
, 38F
03/24 15:53, 38F
推
03/24 16:01,
56分鐘前
, 39F
03/24 16:01, 39F
推
03/24 16:05,
52分鐘前
, 40F
03/24 16:05, 40F
→
03/24 16:05,
52分鐘前
, 41F
03/24 16:05, 41F
推
03/24 16:28,
29分鐘前
, 42F
03/24 16:28, 42F
推
03/24 16:29,
28分鐘前
, 43F
03/24 16:29, 43F
討論串 (同標題文章)
Stock 近期熱門文章
PTT職涯區 即時熱門文章