Re: [新聞] 華為撿到槍 迅速推出新晶片取代輝達H20令業界意外已刪文
結論就是LLM,
如果還要再加上另一個結論,
那就是演算法跟deepseek
Ascend這顆晶片最早第一代要回朔到十年前,
那個年代沒有LLM,
晶片的架構只專注在本機AI 訓練與推理的效能,
在那個年代,
有提早佈局LLM 開始設計LLM功能的晶片架構, 只有NVDA一家,
雖然後來谷歌TPU 有跟上LLM的功能,
但是還是追得很辛苦
回到華為這顆晶片,
本地單機也好, 單晶片也好, 效能不輸H20 不意外,
問題在LLM,
我兩年前就有一篇文章討論過這問題,
https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
當你的模型大到一顆晶片裝不下,
甚至本地單機的多晶片也裝不下,
甚至整個rack 十幾台機器也裝不下,
後來, 甚至連整個機房的機器都裝不下一個模型,
這就是LLM = Large Languae Model的問題,
這個Large 是比你能想像的還要大
目前有能力處理這麼大的模型 只有NVDA,
免強再加個谷歌TPU,
所以我相信Ascend 920在單顆晶片的效能不輸H20,
但是無法訓練LLM,
這已經不是晶片效能的問題,
而是提升到整個系統軟硬體的問題
然後,
為何我要提deepseek,
因為這才是中國真正可能的突破口,
請看我兩年前的文章,
https://www.ptt.cc/bbs/Stock/M.1680851343.A.8CF.html
早在五六年前我跟deepmind researcher 合作一顆TPU的時候,
我們就有討論過LLM的問題,
在那個時間點,
我們那顆TPU 也是有LLM的問題,
當時"他們model 部門也有在想辦法要細切 model 看可不可以塞進去這個系統",
也就是早在五六年前deepmind 就已經在想優化演算法來解決大模型的問題,
deepseek 不是第一個想到優化演算法的人,
deepseek 是第一個敢大聲喊出來的人
其實,
我到現在都搞不懂的點就是怎麼現在還在大力出奇蹟,
綜觀電腦科學百年來的歷史,
永遠都是先搞大力出奇蹟,
之後優化演算法,
搞成小計算機小算力的平行處理,
很明顯的,
AI 的硬體跟模型開發走在一個錯誤的道路,
明眼人都看得出來,
讀過電腦科學的人都看得出問題,
你這樣拼命堆算力, 拼命加大模型, 拼命花錢堆疊晶片,
這不可能是最後的結果,
你一定會遇到各種極限,
不論是物理極限, 或是模型極限,
怎麼會在一個錯誤的道路上面走這麼久,
當我看到這四五年NVDA 股價漲了百倍之後,
我懂了, 我悟了,
因為這會擋人財路,
這是一條AI 發財產業鍊,
雖然這是個錯誤的方向,
所以雖然researcher 早就知道問題,
也早就對演算法做優化,
但是他們不敢說出來 擋人財路
所以deepseek 喊出問題在算法優化的時候,
整個AI 產業鍊大跌20%-30%
anyway,
結論就是算法優化, 晶片串連LLM,
這世界上不是沒人發現這問題,
其實是早就已經算法優化做了五六年,
只是不能講而已
※ 引述《a000000000 (比古A十郎)》之銘言:
: ※ 引述《humbler (獸人H)》之銘言:
: : 原文標題:
: : 華為撿到槍 迅速推出新晶片取代輝達H20令業界意外
: : 原文連結:
: : https://ec.ltn.com.tw/article/breakingnews/5017695
: : 發布時間:
: : 2025/04/20 14:25
: : 記者署名:
: : 吳孟峰
: : 原文內容:
: : 美國總統川普對中國人工智慧晶片出口禁令擴及輝達H20禁售。就在華府宣布1天後,華為
: : 旋即發布下一代AI晶片Ascend 920,將取代H20留下的市場空缺。外媒指出,Ascend 920
: : 的發布讓一些業內人士感到意外,而這對華為來說是一個巨大的機遇。
: : 根據DigiTimes Asia報導,Ascend 920預計將於2025年下半年實現量產,專家表示它將能
: : 夠取代中國人無法再使用的H20晶片。
: : 儘管輝達H20晶片的功能不如其最新的AI產品強大,但它仍然是中國企業的熱門選擇。這
: : 對華為來說是一個巨大的機遇,多年來華為一直努力匹敵輝達的能力。
: : 華為Ascend 910C似乎能夠提供競爭對手輝達H100約60%的推理性能。另一方面,下一代
: : Ascend 920將採用6奈米製程,預計每卡將超過900 TFLOP,並使用HBM3模組擁有4 TB/s
: : 的記憶體頻寬。
: : 華為Ascend 920的發布讓一些業內人士感到意外,尤其是因為它是在白宮宣布禁止輝達
: : H20和超微的MI308之後發布。
: : 據報導,這項擴大出口管制的計畫應該已經醞釀幾個月,因此華為很可能一直在期待新禁
: : 令的到來。因此,華為一直在幕後積極開發Ascend 920,只是在等待時機發佈公告。
: : 心得/評論:
: : 到底是真的還假的
: : 華為被美國封殺成這樣
: : 怎麼自研晶片的能力越來越強
: : 好在現在美國還利用ASML封鎖中國半導體發展和製造能力
: 沒那摸複雜
: 想太多惹
: 這東西今年下半才會出
: 其實現在ai chip製程輸葛一代兩代對強國不是啥問題
: 頂多就比較耗電而已
: 像那葛華為cloudmatrix 384 每瓦效能大概老黃gb200nvl72的一半
: 華為這卡的天生限制是hbm3出口去年底才被封
: 所以他悶先屯惹hen多 夠玩很久
: 華為後續會怎樣還要觀察
: 目前
: 目前喔
: 所有老黃競爭者都需要面對模型訓練效能&穩定度的問題
: 這東西84尼去疊硬體就有
: 我在業內聽到的消息推斷
: 最近軟軟噴蘇媽的人說尼的新東西又不能拿來training我不買惹
: 簡單講蘇媽搞惹一年多 training還是大便
: 估狗tpu7整顆效能堪比老黃gb200
: 可是人家只專注在推理效能 訓練窩不知道
: 然後估狗自己還計畫要跟別家租gb200
: 我看他悶大概還要一兩代才有辦法自家晶片跑訓練跟老黃幹
: 如果說今天哪家強國公司說用華為的系統
: 訓練粗來跟美國幹的ai大模型
: 那真的94天塌惹天塌惹
: 不過捏
: 雖然之前deepseek沒啥名
: 但是實際上幻方的算力在強國可能可以排第五第六
: 前四名就啥百度騰訊阿里巴巴抖音
: 第五可能曾經是已經實體清單的商湯
: 前面那四家會不會乖乖幫華為弄 這hen難說
: 至於推理效能的話
: 老實說要幹死h20根本不用啥屁招
: 問94尼蓋data center但是只能跑推理
: 算算其實是在浪費錢 除非尼單顆效能強暴惹
: 尼要判斷ai股能不能買
: 扣掉總經問題
: 最簡單的還是去聽一下相關產業從業人員
: 像我朋友這行的不少 或者說越來越多
: 幾乎整天都在靠北hen忙藥丸
: 老黃產品(b系列):
: bug很多客戶很趕客戶很多
: 蘇媽產品:
: bug很多客戶很趕客戶很少內鬥很多
: 哀
: 蘇媽
: 可憐
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1745185871.A.5E5.html
噓
04/21 06:01,
10小時前
, 1F
04/21 06:01, 1F
我兩年前就講了,
我兩年前文章就有講了,
還不是被當笑話,
我人微言輕, 只是個社畜魯蛇
※ 編輯: waitrop (76.103.225.6 美國), 04/21/2025 06:04:23
推
04/21 06:06,
10小時前
, 2F
04/21 06:06, 2F
噓
04/21 06:07,
10小時前
, 3F
04/21 06:07, 3F
→
04/21 06:13,
9小時前
, 4F
04/21 06:13, 4F
→
04/21 06:17,
9小時前
, 5F
04/21 06:17, 5F
→
04/21 06:17,
9小時前
, 6F
04/21 06:17, 6F
→
04/21 06:18,
9小時前
, 7F
04/21 06:18, 7F
推
04/21 06:22,
9小時前
, 8F
04/21 06:22, 8F
→
04/21 06:22,
9小時前
, 9F
04/21 06:22, 9F
→
04/21 06:22,
9小時前
, 10F
04/21 06:22, 10F
→
04/21 06:22,
9小時前
, 11F
04/21 06:22, 11F
→
04/21 06:22,
9小時前
, 12F
04/21 06:22, 12F
推
04/21 06:28,
9小時前
, 13F
04/21 06:28, 13F
推
04/21 06:31,
9小時前
, 14F
04/21 06:31, 14F
→
04/21 06:37,
9小時前
, 15F
04/21 06:37, 15F
噓
04/21 06:39,
9小時前
, 16F
04/21 06:39, 16F
→
04/21 06:39,
9小時前
, 17F
04/21 06:39, 17F
→
04/21 06:39,
9小時前
, 18F
04/21 06:39, 18F
→
04/21 06:39,
9小時前
, 19F
04/21 06:39, 19F
→
04/21 06:40,
9小時前
, 20F
04/21 06:40, 20F
→
04/21 06:40,
9小時前
, 21F
04/21 06:40, 21F
討論串 (同標題文章)
Stock 近期熱門文章
PTT職涯區 即時熱門文章