PTT職涯區 / Stock (股票)

[新聞] 「HBM之父」：未來AI競爭看記憶體 未來3D架構決勝散熱與供電 中美會追趕上來

看板Stock (股票)作者 (綠頭鴨)時間1小時前 (2026/07/11 18:39), 1小時前編輯推噓27(33推 6噓 34→)
留言73則, 45人參與, 10分鐘前最新討論串1/1
新聞標題： 「HBM之父」：未來AI競爭看記憶體 未來3D架構決勝散熱與供電 中美會追趕上來 新聞記者： 鉅亨網／記者　陳韋廷 新聞內容： 被韓媒譽為「HBM 之父」的韓國科學技術院 (KAIST) 教授金正浩 (Kim Jung-ho) 最新表 示，AI 的本質就是記憶體。 他在接受《東亞日報》專訪時提出上述顛覆性觀點時指出，過去業界過度聚焦模型算法與 GPU 算力，但當大模型實際運行時，注意力機制、上下文緩存 (KV Cache) 與推論生成 的每一個環節，都高度依賴記憶體系統的支撐。 金正浩表示，HBM 透過將多層 DRAM 垂直堆疊，大幅拓展資料傳輸的「車道數」，並生動 比喻稱「傳統記憶像 8 道高速公路，HBM 則是 1024，甚至 2048 車道，未來可能演進至 百萬車道」。 然而，頻寬的提升並未根除瓶頸。大模型在輸出瞬間需頻繁從 HBM 或未來的 HBF(高頻寬 閃存) 讀寫資料，導致 GPU 絕大部分時間處於「等待資料抵達」的閒置狀態。 金正浩估計，即便部署百萬個 GPU，真正用於計算的時間僅約 10%，即便透過演算法優化 ，也很難超過 30%。 為解決「資料搬運」的能耗與延遲問題，金正浩預測未來 AI 運算將走向「以記憶體為中 心」。 他將理想的 3D 架構比喻為一棟百層大樓：「在一樓安裝 GPU，資料只需搭電梯下樓計算 ，整棟樓解決所有事，省去長途奔波。」從 HBM4 開始，部分 GPU 功能將整合進記憶體 結構中。 金正浩還進一步描繪三層異質記憶體指出，速度最快的 HBM(堆疊 DRAM) 扮演百貨公司存 放熱數據，容量巨大的 HBF(堆疊 NAND) 如同公寓樓群存放冷數據，而他提出的 HBS(高 頻寬 SRAM) 則作為超低延遲的緩存。GPU/CPU 將置於頂層，專注於散熱與調度。 金正浩特別點出，輝達執行長黃仁勳近期頻繁訪韓，正因 GPU 微架構的效能成長已近停 滯，且高發熱特性使其難以像記憶體般大規模堆疊。 他認為，未來 3D AI 電腦的供電與散熱能力將成核心競爭力，決定企業生死。這也意味 著擁有 DRAM 與 NAND 雙重技術累積的三星與 SK 海力士，有機會在未來架構中佔據核心 地位。 不過，金正浩也警示，這並非簡單的「GPU 時代」切換為「記憶體時代」，而是 GPU、 HBM、先進封裝、網絡互連與散熱的系統級競賽。 面對中國業者積極自研 GPU/NPU 並帶動本土記憶體發展的追趕壓力，金正浩則對韓國業 界直言：「這是一場關係生存的長期競爭，只能努力活到最後。」 完整新聞連結： https://news.cnyes.com/news/id/6528299 備註： 三星第二季都賺贏輝達了 HBM三大廠加起來賺不知道台積電的幾倍 整個DRAM產業營收已經贏過邏輯ic CPU/GPU算再快沒有記憶體也沒用 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 39.10.64.205 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1783766371.A.213.html
→
07/11 18:40, 1小時前 , 1F
gpu過剩 崩崩
07/11 18:40, 1F
→
07/11 18:40, 1小時前 , 2F
可惜台灣吃不到HBM這塊大餅Orz
07/11 18:40, 2F
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:40:56
推
07/11 18:42, 1小時前 , 3F
早說，怎麼不早說
07/11 18:42, 3F
推
07/11 18:42, 1小時前 , 4F
中韓你們希望誰贏？這可不是大奶的決擇
07/11 18:42, 4F
噓
07/11 18:43, 1小時前 , 5F
單純是記憶體補跟上GPU和CPU 發展而已 這咖太浮誇
07/11 18:43, 5F
※ 編輯: robertgarcia (39.10.64.205 臺灣), 07/11/2026 18:44:13
→
07/11 18:44, 1小時前 , 6F
吹起來
07/11 18:44, 6F
推
07/11 18:45, 1小時前 , 7F
我記得之前有個鄉民也說過 類似這種 還真的漲起來
07/11 18:45, 7F
→
07/11 18:46, 1小時前 , 8F
錢真的是留給該賺的人的
07/11 18:46, 8F
→
07/11 18:46, 1小時前 , 9F
現在買都太慢了
07/11 18:46, 9F
→
07/11 18:46, 1小時前 , 10F
中美一大根
07/11 18:46, 10F
→
07/11 18:47, 1小時前 , 11F
我只有一張50元買的南亞科 買個50.100張 根本發了!
07/11 18:47, 11F
推
07/11 18:48, 1小時前 , 12F
記憶體死抱 3年！
07/11 18:48, 12F
推
07/11 18:50, 1小時前 , 13F
記憶體的爆發還是來自AI Agent才有的 堆疊上下文
07/11 18:50, 13F
→
07/11 18:51, 1小時前 , 14F
模型遲早會有更快速計算的方式 降低堆疊上下文
07/11 18:51, 14F
→
07/11 18:53, 1小時前 , 15F
樓下darbylu
07/11 18:53, 15F
推
07/11 18:54, 1小時前 , 16F
遲早是指50年後嗎
07/11 18:54, 16F
噓
07/11 18:55, 1小時前 , 17F
不早說？
07/11 18:55, 17F
推
07/11 18:56, 1小時前 , 18F
資料量就是這麼大 跟什麼演算法也沒啥關係了
07/11 18:56, 18F
推
07/11 18:57, 1小時前 , 19F
人家就研究這個的，當然說他最重要
07/11 18:57, 19F
→
07/11 18:59, 59分鐘前 , 20F
AI如果要貼近人類思考方式 記憶體用量只會越來越大
07/11 18:59, 20F
→
07/11 18:59, 59分鐘前 , 21F
而已
07/11 18:59, 21F
→
07/11 19:00, 58分鐘前 , 22F
更不用說以後物理模型和自駕對記憶體需求有多高了
07/11 19:00, 22F
噓
07/11 19:00, 58分鐘前 , 23F
標題太吹 內文他明明有縮…
07/11 19:00, 23F
→
07/11 19:01, 57分鐘前 , 24F
目前的傻ai記憶的確是個問題 但現在最大的問題不是
07/11 19:01, 24F
→
07/11 19:01, 57分鐘前 , 25F
記憶 而是太貴 現在所有實用ai都在漲價限流 當下還
07/11 19:01, 25F
→
07/11 19:01, 57分鐘前 , 26F
是算力 但他說的電力倒是沒錯 但那也是要晶片耗電
07/11 19:01, 26F
→
07/11 19:01, 57分鐘前 , 27F
先下降 不然記憶體無用武之地
07/11 19:01, 27F
推
07/11 19:01, 57分鐘前 , 28F
電力：沒有我，你們通通都去踩腳踏車發電
07/11 19:01, 28F
推
07/11 19:02, 56分鐘前 , 29F
這意思是做gpu的其實是過剩了
07/11 19:02, 29F
→
07/11 19:02, 56分鐘前 , 30F
然後記憶體才是真的缺
07/11 19:02, 30F
推
07/11 19:04, 54分鐘前 , 31F
現在的算力缺不是GPU不夠 是記憶體數量跟不上
07/11 19:04, 31F
推
07/11 19:06, 52分鐘前 , 32F
ZZZZZZZZZZZZZ 先定義遲早是多早吧
07/11 19:06, 32F
→
07/11 19:07, 51分鐘前 , 33F
講不出來就是空話
07/11 19:07, 33F
→
07/11 19:07, 51分鐘前 , 34F
在那邊遲早的可以去放空 我猜你也是不敢吧
07/11 19:07, 34F
推
07/11 19:08, 50分鐘前 , 35F
買啥好？dram etf?
07/11 19:08, 35F
噓
07/11 19:10, 48分鐘前 , 36F
記憶體 is over
07/11 19:10, 36F
推
07/11 19:10, 48分鐘前 , 37F
現在記憶體毛利率90% 不合理就是不合理 沒什好說的
07/11 19:10, 37F
→
07/11 19:10, 48分鐘前 , 38F
我還以為是泡菜
07/11 19:10, 38F
推
07/11 19:12, 46分鐘前 , 39F
最怕現在存儲就如同600塊的台積電，再飆上去又是消
07/11 19:12, 39F
→
07/11 19:12, 46分鐘前 , 40F
費電子末日
07/11 19:12, 40F
推
07/11 19:14, 44分鐘前 , 41F
反正我all in 988惹
07/11 19:14, 41F
推
07/11 19:19, 39分鐘前 , 42F
我有10幾張均價成本200不到的南亞科
07/11 19:19, 42F
→
07/11 19:19, 39分鐘前 , 43F
也有十幾張均價成本400的南亞科 哭死
07/11 19:19, 43F
推
07/11 19:20, 38分鐘前 , 44F
記憶體是不是最後一個題材
07/11 19:20, 44F
推
07/11 19:22, 36分鐘前 , 45F
人家就研究這個的，當然說他最重要
07/11 19:22, 45F
→
07/11 19:23, 35分鐘前 , 46F
你訪問做算法的 就會說算法才是靈魂
07/11 19:23, 46F
推
07/11 19:24, 34分鐘前 , 47F
台積電趕快漲價喔☺ 別賺輸記憶體
07/11 19:24, 47F
→
07/11 19:25, 33分鐘前 , 48F
這就是為啥nv沒怎麼漲了，瓶頸在其他地方
07/11 19:25, 48F
推
07/11 19:27, 31分鐘前 , 49F
瓶頸在巨頭快沒錢才是真的
07/11 19:27, 49F
推
07/11 19:29, 29分鐘前 , 50F
記憶體的新聞真多
07/11 19:29, 50F
推
07/11 19:29, 29分鐘前 , 51F
NV毛利豆包記憶體卡死了，要怎麼漲
07/11 19:29, 51F
推
07/11 19:29, 29分鐘前 , 52F
瓶頸在於不是金錢無限
07/11 19:29, 52F
→
07/11 19:29, 29分鐘前 , 53F
毛利都被記憶體卡死了
07/11 19:29, 53F
推
07/11 19:33, 25分鐘前 , 54F
NV股價也停滯很久了
07/11 19:33, 54F
→
07/11 19:33, 25分鐘前 , 55F
token要變便宜=>應用要爆發 才有用
07/11 19:33, 55F
推
07/11 19:33, 25分鐘前 , 56F
記憶體再漲影響巨頭現金流 敘事會崩垮
07/11 19:33, 56F
推
07/11 19:35, 23分鐘前 , 57F
我還以為AI的未來是辛奇
07/11 19:35, 57F
→
07/11 19:36, 22分鐘前 , 58F
在貴也會有上限 巨頭不可能無條件支持的
07/11 19:36, 58F
噓
07/11 19:37, 21分鐘前 , 59F
父就是老北，老北就是負
07/11 19:37, 59F
推
07/11 19:37, 21分鐘前 , 60F
瓶頸在金錢沒錯 巨頭一直做不出大賺的應用就會泡沫
07/11 19:37, 60F
推
07/11 19:37, 21分鐘前 , 61F
卡哇 IS OVER！
07/11 19:37, 61F
→
07/11 19:38, 20分鐘前 , 62F
好到2030
07/11 19:38, 62F
噓
07/11 19:39, 19分鐘前 , 63F
老黃不也頻繁來台灣？跟這個哪有關係
07/11 19:39, 63F
推
07/11 19:40, 18分鐘前 , 64F
怎不早說
07/11 19:40, 64F
推
07/11 19:40, 18分鐘前 , 65F
記憶體要先變白菜價ai才會起飛嗎
07/11 19:40, 65F
→
07/11 19:40, 18分鐘前 , 66F
現在就是基建的比拼，再貴都必須建，不能輸別人
07/11 19:40, 66F
→
07/11 19:41, 17分鐘前 , 67F
AI只能成功，失敗連GG也跟著死
07/11 19:41, 67F
推
07/11 19:45, 13分鐘前 , 68F
巨頭們都知道AI是最終決戰 沒人會想落後 連META都在
07/11 19:45, 68F
→
07/11 19:45, 13分鐘前 , 69F
拼命追了
07/11 19:45, 69F
→
07/11 19:46, 12分鐘前 , 70F
這樣的話 蘋果或許是真的聰明 用合作方式就好 無
07/11 19:46, 70F
→
07/11 19:46, 12分鐘前 , 71F
底洞
07/11 19:46, 71F
→
07/11 19:47, 11分鐘前 , 72F
其他就是政治問題，美國不會待在原地等中國追上來
07/11 19:47, 72F
推
07/11 19:48, 10分鐘前 , 73F
不妨礙空蛙看空，但是空蛙也不敢真的空
07/11 19:48, 73F
‣ 更多 robertgarcia 的文章
文章代碼(AID): #1gKXrZ8J (Stock)
Stock 近期熱門文章
14
182
[標的] spcx 空
[ Stock ]
asin404
7小時前, 07/11
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 robertgarcia 的文章
文章代碼(AID): #1gKXrZ8J (Stock)