Re: [新聞] 三星高層揭AI瓶頸：轉向記憶體運算與先進封裝成關鍵

看板Stock (股票)作者LDPC (Channel Coding)時間23分鐘前 (2026/08/30 13:28)推噓3(3推 0噓 0→)

留言3則, 3人參與討論串3/4 (看更多)

在老黃定律沒出現前運算效能大體就是照摩爾定律走直到老黃提了個老黃定律就是AI推理晶片每兩年翻倍 (或者有人認為老黃是說過智慧（AI）晶片的效能每十年會提升 1,000 倍 ) 從早期顯卡TNT那款開始老黃的算力就是系統上軟體硬體多核去達到這效果現在的GenAI的核心就是Autoregressive 簡單說就是token資訊是一顆顆產因此算力和記憶體坪寬速度可以互換白算盤說過你資訊產量可以用很少記憶體但是每次需要資訊重新計算就好這就是透過大量算力換取記憶體小反之你也可以透過記憶體把事先資訊記憶好不用重複計算這就是用大量記憶換算力現在的趨勢很明顯你的算力在製程和架構上(比方GB200 拿兩個晶片先進封裝合體) 這是個有極限那按照老黃定律算力就是系統整合的優化表現那最簡單提高算力就是把記憶體坪寬速度再追加那就是把控制放到記憶體那邊NVHBM 這種系統層面就老黃強項啊以前單顆晶片算力快但拉到Data Center 老黃又比人家強靠者NVLink 一堆串連就能提供整體算力比別家快老黃就喜歡拉者一堆供應鏈整合去痛揍競爭對手從用台積電產能卡蘇媽當年就玩過一次現在老黃想要靠算力去揍人就是走記憶體坪寬速度這條路好處是現在供應鏈都老黃人日本韓國台灣先進製程 ABF HBM 很早就有人說過算力大戰就是當年顯示卡算力大戰老黃定律這條路只是重新再走過一次 AI晶片大戰這就是意味者算力(超級電腦) 是一個軟體硬體全面整合的結果這條路的終點就是資料中心的建成你其他算力小隊只能靠架構去打如果也要靠系統整合去提高算力就會被HBM/ABF 先進製程台積產能這些廠商供應鏈卡死我現在不買老黃是因為我已經有夠多老黃加上他市值太大沒有敷糗了所以我寧願賭蘇媽蘇媽不可能會輸的喊出我立志餘生不再為哈佛MBA工作這個公司一定能上2T 是不可能會輸的QQ 狗家就純生態圈 TPU就算是老二老三也不影響他就是那個狗家聖殿算力以後主流現在一定是朝坪寬速度這個來存<->算互換就是記憶卡哇算力卡哇未來坪寬速度你可以靠疊加HBM 老黃只是走了另一條捷徑把控制器放到HBM 加快速度這另一個好處就是你家的HBM客製化給老黃用後其他算力小隊是不能直接用 ※ 引述《psw (ICK)》之銘言： : 我看不懂這zHBM : 現意思是出現NVHBM可跟邏輯閘GPU搭讓三星嚇到要自創新規格意思？ : 畢竟記憶體離GPU太遠會拖慢運算效率？ : 強者解釋一下 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 98.37.67.135 (美國)