Re: [心得] MEM資料X6壓縮,七巨頭硬體資產過剩風險

看板Stock (股票)作者 (降息の恐怖嘎鱷)時間1小時前 (2026/03/26 20:28), 編輯推噓4(514)
留言10則, 7人參與, 37分鐘前最新討論串2/2 (看更多)
※ 引述 《teddy98》 之銘言: : 黃仁勳NVIDIA,濫用VRAM 容量來壟斷市場。手法惡質、黑心! : : 他企圖讓每一張卡的效能剛好精準地卡在某個價位。 : : 如果你想多跑一點 AI 模型或開更高解析度 : : 這張卡的顯存就會「剛好」爆掉,逼你必須加錢買更高一階, : : 甚至買貴 5 到 10 倍的專業工作站卡。 : : : 但是隨著記憶體X6壓縮技術問世 : : 使得硬體資產重估:七巨頭(微軟、Meta、亞馬遜...)過去兩年瘋狂囤積 H100。如果壓 : 縮技術普及, : 原本需要 6 台伺服器的算力,現在 1 台就能達成。 : : 效能倍增:壓縮不只省空間,還能減少資料傳輸量。這意味著目前的 PCIe 頻寬或 HBM頻 : 寬會顯得「變寬了 6 倍」,大大提升運算效率,降低能耗。 : : MEM 壓縮 X6 本質上是一種 「由軟體定義的硬體升級」。它會讓輝達透過 VRAM 容量建 : 立起來的定價權瞬間化為烏有。 看 AI 發展不能只看現狀 LLM 每4-6月就大改版, 眼光得放到兩三年後。 記憶體壓縮技術帶來的並非硬體需求縮減 而是讓上下文長度與模型能力直接翻六倍 這種技術突破只會誘發更大量的 AI 採用, 當模型變得更好用、更普及時 DRAM 的總體需求量反而會噴發得更厲害。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.213.34 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1774528130.A.B94.html

03/26 20:32, 1小時前 , 1F
台肯
03/26 20:32, 1F

03/26 20:40, 1小時前 , 2F
就跟上次的ds一樣,好用的ai只會造成更多人用而已
03/26 20:40, 2F

03/26 20:40, 1小時前 , 3F
可以讀跟讀的懂是兩回事,上下文佔用大小變1/10不
03/26 20:40, 3F

03/26 20:40, 1小時前 , 4F
代表注意力能放大10倍==
03/26 20:40, 4F

03/26 20:52, 56分鐘前 , 5F
日肯,ai爆發記憶體才開始缺貨
03/26 20:52, 5F

03/26 20:53, 55分鐘前 , 6F
一個記憶體 各自表述 大家都很會講 時間來證明啦
03/26 20:53, 6F

03/26 20:53, 55分鐘前 , 7F
03/26 20:53, 7F

03/26 20:56, 52分鐘前 , 8F
看資本支出能不能在新技術衝擊前回收
03/26 20:56, 8F

03/26 21:11, 37分鐘前 , 9F
如果這能讓AI進步,那AI需求不是飽滿而是進入更高速
03/26 21:11, 9F

03/26 21:11, 37分鐘前 , 10F
發展
03/26 21:11, 10F
文章代碼(AID): #1fnIQ2kK (Stock)
文章代碼(AID): #1fnIQ2kK (Stock)