PTT職涯區 / Stock (股票)

[心得] AI需求是供應商精心設計好的套路

看板Stock (股票)作者 (泰迪!走吧!)時間6天前 (2026/03/22 01:32), 6天前編輯推噓11(48推 37噓 151→)
留言236則, 97人參與, 6天前最新討論串1/10 (看更多)
我來說說，為甚麼說，AI需求是供應商精心設下的套路吧！ 剛踏入AI的人 可能會覺得，AI的神經網路演算法(大規模平行矩陣運算)， 好吃硬體資源啊，硬體規格的需求好大，幾乎看不到天花板。 所以，很多人會有＂AI算力需求是永無止盡的＂這種錯覺， 但用久了開始熟悉AI之後，你會發現， 其實AI龐大的硬體需求，是一種供應商精心鋪設好的套路 也是一種吹捧、誇大其辭的行銷手段。 為甚麼會這樣講？ 第一，AI模型的節點不一定有經過優化（化繁為簡） 拿軟體來比喻，一個source code寫很爛的軟體，沒有經過優化， 如遞迴運算，消耗掉比正常高2~3倍以上的硬體資源。 會佔用大量的 GPU VRAM 和運算週期。 這時，你怪的不是AI模型爛，而是AI算力不夠？ 第二，AI模型的運算流程可以分批次進行 一個步驟，可以切成4個子步驟進行，用For循環4次執行 如生成式繪圖，如果一張解析度非常大的圖像， 切割成4個區塊，用For循環做4個批次處理，再用TTP圖像拼接/重組， 將4個處理好的圖像做合併 ＂可以大幅減少AI在運算時VRAM的占用量。＂ 這部分算是AI行家才知道的機密，供應商絕對不會和消費者說。 因為要是讓你知道了，你就不會為了增大VRAM升級你的顯示卡或DRAM了。 前陣子，我在看GPU規格時，VRAM總是找不到16G以上的規格， 現在回想，果真是中了NVIDIA的市場行銷套路。 因為，輝達，配備VRAM 24G以上的唯獨最頂級90系列的GPU才有， 如: RTX 3090, RTX 4090, RTX 5090 現在回想，當時是差點中計了，浪費錢買RTX 5090是不必要的。 因為AI算法再怎麼吃資源，也是能透過優化和分批處理，來解決硬體配備不足的部分。 實測後，再高解析度的繪圖，12G的繪圖卡也能勝任。 也不需因為GPU記憶體的配置比較低而選用低精度的模型，fp16照樣可以跑得很順暢。 目前生成式AI的發展非常快，模型也漸趨成熟了， 只要巧妙地設置好AI的流程，好像也說不上，需要多高階的硬體規格來跑AI模型。 而且現在的AI模型不斷推陳出新，新的AI模型的容量也越來越小。 占用的GPU資源也明顯下降。 大部分舊模型低配要24G VRAM才能跑的，新模型只要16G甚至12G VRAM就能完美運行。 不管是文字圖片精修，影像P圖，視訊P圖，設好對的節點，低配的GPU也能完美優化。 現在那些號稱＂專家＂或＂分析師＂的傢伙 對於AI的硬體需求越開越高，到達浮濫的地步， 會有這種現象，很大程度上是供應商（輝達）精心設下的套路。 也是為了喊多股市的一種噱頭。 不過，很少用Photoshop是真的，AI模型很大程度上解決以往在影像修復上的難題。 圖片經過AI重新生成，容量也變小了 （原圖722KB，修復後268KB，減少將近63%。) 計算: (722-268)/268*100%=62.88% 試問各位的看法呢？怎麼看未來AI的硬體供貨需求？ 記憶體族群的雜音最多，有人喊AI供貨短缺上看2030年 但Samsung開始跟客戶簽長約，有人說可能離市場飽和不遠了 以目前的記憶體類股的股價來看，是看多還是看空呢？ ---- 書脊，修復前 https://ibb.co/1tzg824g 書脊，修復後 https://ibb.co/zWRrPqjr AI生成 - 虎兔狗 https://ibb.co/8n8MF5Kr https://ibb.co/5hwkq4ZB https://ibb.co/nN83j1XD -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.110.105.47 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1774114355.A.A23.html
→
03/22 01:40, 6天前 , 1F
未來 一定是跟雲拿token 速度很重要
03/22 01:40, 1F
→
03/22 01:41, 6天前 , 2F
推理速度跟顯卡位寬息息相關 君不見此次5090升級
03/22 01:41, 2F
→
03/22 01:42, 6天前 , 3F
512 位元寬度 4090 跟 5090DD 還是384位元寬度
03/22 01:42, 3F
→
03/22 01:42, 6天前 , 4F
決定位元寬度的東西 就是 顯存 所以顯存夯爆
03/22 01:42, 4F
→
03/22 01:44, 6天前 , 5F
但股市 多空 看的是誰錢多誰錢少 由大盤決定多空
03/22 01:44, 5F
現在就是記憶體一直在瘋狂漲價，一直在喊多。堪稱目前需求龐大到看不到盡頭。
推
03/22 01:48, 6天前 , 6F
文中2點都是資工系的基本議題
03/22 01:48, 6F
→
03/22 01:49, 6天前 , 7F
第一點是演算法優化 用更高效的演算法得到相同結果
03/22 01:49, 7F
→
03/22 01:50, 6天前 , 8F
第二點大數運算 資料超出常規記憶體時的演算法
03/22 01:50, 8F
→
03/22 01:51, 6天前 , 9F
隨便一個資工系的都知道 只是目前大廠是求快拼結果
03/22 01:51, 9F
→
03/22 01:52, 6天前 , 10F
確認具體任務後才是演算法優化
03/22 01:52, 10F
→
03/22 01:53, 6天前 , 11F
之前火熱的DeepSeek就是一種優化 搶新聞版面
03/22 01:53, 11F
推
03/22 01:53, 6天前 , 12F
AI算力需求、硬體限制、演算法優化都能分別進步的
03/22 01:53, 12F
→
03/22 01:54, 6天前 , 13F
不太可能說演算法很好 你就沒有硬體需求
03/22 01:54, 13F
推
03/22 01:54, 6天前 , 14F
呃 你能知道 那七巨頭工程師會不知道？
03/22 01:54, 14F
→
03/22 01:55, 6天前 , 15F
總之這兩年記憶體需求都很熱 不需要懷疑
03/22 01:55, 15F
→
03/22 01:56, 6天前 , 16F
DS再怎麼優化 也是始終落後人一步 而且優化完的模型
03/22 01:56, 16F
→
03/22 01:56, 6天前 , 17F
給擁有最頂尖算力的人拿去用 不就更飛天？
03/22 01:56, 17F
→
03/22 01:58, 6天前 , 18F
開源就是這樣啊 但就是不知道盡頭到底什麼模樣 是AG
03/22 01:58, 18F
→
03/22 01:58, 6天前 , 19F
I達成就停還是可以繼續突破
03/22 01:58, 19F
推
03/22 01:58, 6天前 , 20F
目前大廠還是拼新模型 優化現有模型是AI新創的市場
03/22 01:58, 20F
→
03/22 01:59, 6天前 , 21F
幫客戶專門客製改良的AI模型
03/22 01:59, 21F
→
03/22 02:00, 6天前 , 22F
AGI還早 說AGI的主要是行銷廣告用途
03/22 02:00, 22F
我現在最懷疑的就是，AI需求一定會到接近市場飽和，不可能會永無止盡， 製程節點是會隨著時間一直推進，但講真的價格貴，以成本來說，殺雞不須用牛刀， 如果非電動車(BSM電池管理)或配備AI自動駕駛的車用晶片不需大量使用先進製程。 到了市場需求接近飽和，價格也一定會逐漸下降。 ※ 編輯: teddy98 (123.110.105.47 臺灣), 03/22/2026 02:06:55
推
03/22 02:04, 6天前 , 23F
你如果是電機的根本不會講這種話 個人data是有多
03/22 02:04, 23F
→
03/22 02:04, 6天前 , 24F
大? 需要高階算力的不是你而是大型上市企業
03/22 02:04, 24F
推
03/22 02:05, 6天前 , 25F
結論就是AI炒過頭了 萬一有個環節斷裂這整座吹出來
03/22 02:05, 25F
→
03/22 02:05, 6天前 , 26F
的Ai大樓就會因為AI變現太慢而倒塌
03/22 02:05, 26F
噓
03/22 02:06, 6天前 , 27F
2020美聯儲瘋狂印鈔導致通膨失控,照某樓邏輯鮑爾也
03/22 02:06, 27F
→
03/22 02:06, 6天前 , 28F
知道會失控所以是故意印鈔囉?
03/22 02:06, 28F
推
03/22 02:06, 6天前 , 29F
反正需求無限多 現在ai根本應付不完
03/22 02:06, 29F
→
03/22 02:07, 6天前 , 30F
光蝦皮隨便上架十件 就要做10個短視頻
03/22 02:07, 30F
→
03/22 02:07, 6天前 , 31F
沒ai你要怎麼搞?找人幫你做嗎
03/22 02:07, 31F
推
03/22 02:08, 6天前 , 32F
當年也是覺得5G跟VR 3D列印很有前景 結果現在變成這
03/22 02:08, 32F
→
03/22 02:08, 6天前 , 33F
樣
03/22 02:08, 33F
推
03/22 02:09, 6天前 , 34F
那些炒作記憶體股的要留意 如果現在大家都在瘋狂的
03/22 02:09, 34F
→
03/22 02:09, 6天前 , 35F
採購記憶體 會不會變成因為之前買太多 而後面又發現
03/22 02:09, 35F
→
03/22 02:09, 6天前 , 36F
AI其實不那麼需要浮閘晶體管 導致之後幾年出現需求
03/22 02:09, 36F
→
03/22 02:09, 6天前 , 37F
斷崖
03/22 02:09, 37F
還有 159 則推文
噓
03/22 10:10, 6天前 , 197F
和鍵總一樣
03/22 10:10, 197F
噓
03/22 10:10, 6天前 , 198F
好啦= =
03/22 10:10, 198F
→
03/22 10:11, 6天前 , 199F
我也知道情人節跟白色情人節是商人精心設計好的套路
03/22 10:11, 199F
噓
03/22 10:12, 6天前 , 200F
笑
03/22 10:12, 200F
噓
03/22 10:13, 6天前 , 201F
你覺得那些搶用AI研發新藥的要不要搶時間?
03/22 10:13, 201F
噓
03/22 10:20, 6天前 , 202F
優化不用成本啊？優化完加上增加的算力不是更好嗎
03/22 10:20, 202F
→
03/22 10:20, 6天前 , 203F
？怎麼變成好像優化完就不用擴增一樣？
03/22 10:20, 203F
噓
03/22 10:40, 6天前 , 204F
可憐QQ
03/22 10:40, 204F
噓
03/22 10:48, 6天前 , 205F
對企業來說 只要花錢堆硬體就能用最新表現更強的大
03/22 10:48, 205F
→
03/22 10:48, 6天前 , 206F
模型，為什麼要等你過時模型慢慢優化
03/22 10:48, 206F
→
03/22 10:48, 6天前 , 207F
你講的問題隨便一個電資學生修過AI課都知道
03/22 10:48, 207F
→
03/22 11:08, 6天前 , 208F
你就只是看到觸控智慧型手機出來的時候 還想死守按
03/22 11:08, 208F
→
03/22 11:08, 6天前 , 209F
鍵型的人而已 前幾年死命堅守 什麼不好用 不耐用 又
03/22 11:08, 209F
→
03/22 11:08, 6天前 , 210F
貴 但後面加入用的最高興的那種
03/22 11:08, 210F
推
03/22 11:34, 6天前 , 211F
青鳥文組？
03/22 11:34, 211F
→
03/22 11:41, 6天前 , 212F
這些大企業幹嘛要慢慢做 他們根本不缺錢 能站到未來
03/22 11:41, 212F
→
03/22 11:42, 6天前 , 213F
依舊維持領先地位才是他們最重要的考量
03/22 11:42, 213F
→
03/22 11:59, 6天前 , 214F
還有不可能讓老黃一直獨佔啦 未來可能需求會更大
03/22 11:59, 214F
噓
03/22 11:59, 6天前 , 215F
笑死人在自以為聰明
03/22 11:59, 215F
→
03/22 12:07, 6天前 , 216F
等那斯達克跌破一萬點 這些傻B就會閉嘴
03/22 12:07, 216F
→
03/22 12:19, 6天前 , 217F
只有疊代速度減緩到一定程度後
03/22 12:19, 217F
→
03/22 12:19, 6天前 , 218F
才會轉向優化啊
03/22 12:19, 218F
→
03/22 12:19, 6天前 , 219F
不然疊代那麼快是優化心酸的喔
03/22 12:19, 219F
推
03/22 12:23, 6天前 , 220F
現在流行什麼養龍蝦 到底是不是AI大廠的套路
03/22 12:23, 220F
→
03/22 12:23, 6天前 , 221F
使用者不斷掏錢不斷消耗token營造算力不夠的假象
03/22 12:23, 221F
→
03/22 12:24, 6天前 , 222F
養龍蝦到底養出什麼東西 跟養電子雞差不多吧
03/22 12:24, 222F
→
03/22 12:24, 6天前 , 223F
不過養電子雞至少省電多了
03/22 12:24, 223F
→
03/22 12:28, 6天前 , 224F
等等我可以問android手機可以跟iphone mem不要用太
03/22 12:28, 224F
→
03/22 12:28, 6天前 , 225F
太多嘛? 砍掉重練不行嘛?XD
03/22 12:28, 225F
噓
03/22 13:22, 6天前 , 226F
你知道多少頂尖工程師在想辦法最佳化演算法？就你
03/22 13:22, 226F
→
03/22 13:22, 6天前 , 227F
知道？
03/22 13:22, 227F
→
03/22 13:47, 6天前 , 228F
看來伊隆ㄧ直買硬體是錯的
03/22 13:47, 228F
噓
03/22 15:14, 6天前 , 229F
這篇居然有人推
03/22 15:14, 229F
推
03/22 15:40, 6天前 , 230F
以管窺天
03/22 15:40, 230F
→
03/22 17:03, 6天前 , 231F
好喔，還不佈局空單
03/22 17:03, 231F
→
03/22 17:05, 6天前 , 232F
嗯,沒錯,自己群族的故事流出來要做什麼?
03/22 17:05, 232F
→
03/22 17:14, 6天前 , 233F
ai現在是各公司的軍備競賽了
03/22 17:14, 233F
噓
03/22 18:13, 6天前 , 234F
別發廢文 去讀書
03/22 18:13, 234F
噓
03/22 20:23, 6天前 , 235F
笑就好了
03/22 20:23, 235F
噓
03/22 22:21, 6天前 , 236F
嗯嗯嗯 你說對了
03/22 22:21, 236F
‣ 更多 teddy98 的文章
文章代碼(AID): #1fljOpeZ (Stock)
討論串 (同標題文章)
完整討論串 (本文為第 1 之 10 篇)：
排序： 最新先 | 最舊先 | 留言數
在新視窗開啟完整討論串 (共10篇)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 teddy98 的文章
文章代碼(AID): #1fljOpeZ (Stock)