PTT職涯區 / Stock (股票)

[新聞] GPU泡沫要破了？H100租賃價格崩跌至每小時2美元 專家：投資者宜分散投資

看板Stock (股票)作者 (阿姆羅)時間4小時前 (2024/10/17 10:09), 編輯推噓54(61推 7噓 77→)
留言145則, 79人參與, 2小時前最新討論串1/1
原文標題： GPU泡沫要破了？H100租賃價格崩跌至每小時2美元 專家：投資者宜分散投資 原文連結： https://news.cnyes.com/news/id/5743500 發布時間： 鉅亨網許家華 綜合外電 2024-10-16 11:24 記者署名： 鉅亨網許家華 原文內容： 根據紅杉資本的最新報告，AI 產業的年產值已超過 6000 億美元，足以支撐數據中心及 加速 GPU 卡等 AI 基礎設施的開支。隨著基於 A100 GPU 系列的 GPT-3.5 與 ChatGPT 的推出，AI 競賽自 2022 年 11 月 30 日以來迅速升溫，市場對高效能 GPU 的需求激增 。 然而，基礎模型訓練的資本支出被廣泛認為是 「歷史上貶值最快的資產」，而關於 GPU 基礎設施支出的評估尚未明確，市場競爭依然激烈。 以 OpenAI 為首的大型模型公司，其訓練與推理支出已超過收入。OpenAI 最近在有史以 來最大的風險投資輪中籌集了 66 億美元，並預計到 2026 年將面臨高達 140 億美元的 虧損。與此同時，輝達的新一代 Blackwell 系列晶片已交付給 OpenAI，並表示未來一年 的產品已售罄，輝達 (NVDA-US) 執行長黃仁勳稱這可能是行業歷史上最成功的產品之一 。 在 AI 基礎設施層面，數十億美元的投資究竟是促進行業繁榮還是形成泡沫，成為市場熱 議的話題。 OneFlow 市場分析師 Eugene Cheah 深入研究了 H100 SXM GPU 的投資回報率（ROI）， 指出由於預留計算資源的轉售、開放模型的微調以及基礎模型公司的減少，市場上的 H100 算力已經供過於求。H100 的租賃價格從去年的每小時 8 美元降至如今的低於 2 美 元，顯示出市場的劇烈波動。 Cheah 建議用戶在需要時租用算力，而不是進行高額購買。對於按需租賃的 ROI，當租賃 價格在 2.85 美元 / 小時以上時，投資者的內部收益率（IRR）仍可保持在合理範圍內。 然而，若價格降至 1.65 美元 / 小時以下，則作為基礎設施提供商的虧損風險將大幅上 升。 在長期租賃方面，許多基礎設施提供商曾在高峰期以每小時 4 美元的價格簽訂合同，如 今卻面臨市場價格的急劇下跌。隨著開放權重模型的興起，企業逐漸轉向微調現有模型而 非從零開始訓練，這一轉變進一步減少了對 H100 的需求。 當前 H100 的價值鏈清晰可見，從硬體供應商到數據中心基礎設施提供商，再到風險投資 基金和算力轉售商，各個環節相互交織，形成了複雜的市場生態。市場的變化引發了對未 來 AI 基礎設施投資的深思，Cheah 警告稱，當前的 H100 硬體支出可能會導致虧損，投 資者應考慮將資金分散到其他領域或股票市場，以獲取更好的回報。 當前 GPU 市場的劇烈波動預示著 AI 基礎設施投資的複雜性，投資者需謹慎評估風險與 機會，以應對未來可能出現的市場挑戰。隨著市場趨勢的變化，如何在這個充滿不確定性 的環境中做出明智的投資決策，將成為未來的重要課題。 歸納 H100 租賃價格大跌 (降至 2 美元 / 小時) 之主要因素： 1. 供需失衡： 隨著 AI 技術的快速發展，對高效能 GPU 的需求在 2022 年和 2023 年達到高峰，尤其 是在大型模型的訓練和推理上。然而，隨著市場逐漸飽和，供應商開始面臨供過於求的情 況，導致價格下滑。 2. 競爭加劇： 市場上有越來越多的公司進入 GPU 租賃市場，尤其是一些小型和中型企業，它們提供更 具競爭力的價格和服務，進一步壓低了租賃價格。 開放模型的興起： 開放權重模型的出現使得企業能夠使用現有的模型進行微調，而不必從頭開始訓練，這降 低了對新硬體的需求，進一步影響了 H100 的租賃需求。 投資回報率下降： H100 SXM GPU 的投資回報率（ROI）受到市場價格波動的影響，當租賃價格降至某一水平 以下，投資者將無法獲得合理的回報，進而選擇減少租賃或購買。 3. 技術更新與替代品： 隨著輝達推出新一代的 Blackwell 系列晶片，市場對 H100 的需求可能會受到影響，因 為新技術可能提供更好的性能和成本效益。 4. 經濟環境影響： 全球經濟環境的不確定性，包括通貨膨脹和利率上升，導致企業在資本支出上更加謹慎， 從而減少了對高價 GPU 的需求。 這些因素共同推動 H100 租賃價格從去年的每小時 8 美元驟降至如今的 2 美元，顯示出 市場的劇烈波動與不穩定性。 心得/評論： ※必需填寫滿30正體中文字，無意義者板規處分 昨天這篇新聞包含自由財經也引述報導了, 但看板上還沒出現這篇新聞 透過租賃市場的供需看待GPU算力是否過剩蠻有意思的 其中分析的第三點, 因為新一代 Blackwell 系列晶片開始投入市場 所以是導致H100的租賃價格下跌到 2 美元/小時 的主要原因嗎?! 抑或是真的市場算力過剩了??? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 125.227.145.14 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1729130967.A.762.html
推
10/17 10:10, 4小時前 , 1F
來嘍 鬼故事嗎
10/17 10:10, 1F
→
10/17 10:11, 4小時前 , 2F
大家都自己買 誰還要租
10/17 10:11, 2F
噓
10/17 10:11, 4小時前 , 3F
笑死，又要騙票
10/17 10:11, 3F
推
10/17 10:11, 4小時前 , 4F
好 各單位集中火力
10/17 10:11, 4F
→
10/17 10:11, 4小時前 , 5F
中國那邊早就殺了 也沒繃阿
10/17 10:11, 5F
推
10/17 10:11, 4小時前 , 6F
不是很正常？？現在就沒殺手級運用阿 科技巨頭都是
10/17 10:11, 6F
→
10/17 10:11, 4小時前 , 7F
怕FOMO 等未來吧
10/17 10:11, 7F
推
10/17 10:11, 4小時前 , 8F
不是早就講了 買越多省越多
10/17 10:11, 8F
→
10/17 10:12, 4小時前 , 9F
算力要貶值幾萬倍 AI才會普及
10/17 10:12, 9F
推
10/17 10:14, 4小時前 , 10F
等到可人人自產a片再來煩惱算力過剩
10/17 10:14, 10F
→
10/17 10:14, 4小時前 , 11F
好 你害怕 我先買
10/17 10:14, 11F
推
10/17 10:15, 4小時前 , 12F
鬼故事來囉 又要騙散戶廖廖的地方
10/17 10:15, 12F
推
10/17 10:15, 4小時前 , 13F
真的假的啦= = 跟高檔網咖差不多錢@@
10/17 10:15, 13F
→
10/17 10:15, 4小時前 , 14F
GB200都要出來了，誰還要用舊的
10/17 10:15, 14F
→
10/17 10:15, 4小時前 , 15F
NV回90記得歐印
10/17 10:15, 15F
→
10/17 10:16, 4小時前 , 16F
這種都是直接買來長期投資AI領域的，誰在租……
10/17 10:16, 16F
推
10/17 10:16, 4小時前 , 17F
大陸一堆
10/17 10:16, 17F
→
10/17 10:17, 4小時前 , 18F
如果租很便宜，那也是一個選擇
10/17 10:17, 18F
推
10/17 10:18, 4小時前 , 19F
「雞蛋架！」「一級棒！」
10/17 10:18, 19F
→
10/17 10:18, 4小時前 , 20F
可以租GB200 幹嘛還要租H100？
10/17 10:18, 20F
推
10/17 10:18, 4小時前 , 21F
舊的沒人想要
10/17 10:18, 21F
推
10/17 10:18, 4小時前 , 22F
完了QQ
10/17 10:18, 22F
推
10/17 10:19, 3小時前 , 23F
電子產品就是這樣，舊的很快被淘汰，新的又越賣越
10/17 10:19, 23F
→
10/17 10:19, 3小時前 , 24F
便宜
10/17 10:19, 24F
噓
10/17 10:19, 3小時前 , 25F
overbooking 2.0
10/17 10:19, 25F
推
10/17 10:19, 3小時前 , 26F
丸子
10/17 10:19, 26F
→
10/17 10:20, 3小時前 , 27F
沒人要剩下的.....
10/17 10:20, 27F
推
10/17 10:20, 3小時前 , 28F
Overbooking！AI is over！
10/17 10:20, 28F
推
10/17 10:21, 3小時前 , 29F
算力過剩XD好喔
10/17 10:21, 29F
推
10/17 10:21, 3小時前 , 30F
網咖都沒這麼便宜
10/17 10:21, 30F
→
10/17 10:22, 3小時前 , 31F
為啥不租？巨頭自用租人兩相宜啊
10/17 10:22, 31F
推
10/17 10:22, 3小時前 , 32F
軍備競賽怕的不是賠錢吧
10/17 10:22, 32F
推
10/17 10:23, 3小時前 , 33F
舊了
10/17 10:23, 33F
→
10/17 10:23, 3小時前 , 34F
幹 這真的超級鬼故事
10/17 10:23, 34F
推
10/17 10:23, 3小時前 , 35F
2022上演過一次了，顯卡庫存過剩
10/17 10:23, 35F
推
10/17 10:24, 3小時前 , 36F
跟3c一樣，舊款跌價很快
10/17 10:24, 36F
推
10/17 10:24, 3小時前 , 37F
H200都出了 H100當然降價
10/17 10:24, 37F
推
10/17 10:24, 3小時前 , 38F
說個笑話 最早的電腦ENIAC 造價數百萬美元
10/17 10:24, 38F
→
10/17 10:24, 3小時前 , 39F
現在買PC 台幣3萬 PC市場要崩了
10/17 10:24, 39F
還有 66 則推文
→
10/17 10:54, 3小時前 , 106F
=_=.....算力永遠不嫌多啊 都講了n次了
10/17 10:54, 106F
推
10/17 10:56, 3小時前 , 107F
終端需求不夠，沒商機，算力不就過剩了，難道賺不到
10/17 10:56, 107F
→
10/17 10:56, 3小時前 , 108F
錢也要為了算而算？
10/17 10:56, 108F
噓
10/17 10:56, 3小時前 , 109F
廢話 有新的誰要用舊的 87新聞
10/17 10:56, 109F
推
10/17 10:57, 3小時前 , 110F
真假 算力過剩了嗎
10/17 10:57, 110F
→
10/17 10:58, 3小時前 , 111F
終端需求也有企業需求 去看資料中心那些資料就知道
10/17 10:58, 111F
→
10/17 10:58, 3小時前 , 112F
你這論點就跟回到1990說記憶體10M就夠用 cpu也是
10/17 10:58, 112F
→
10/17 10:58, 3小時前 , 113F
每小時8美元也太貴,租車都比較便宜
10/17 10:58, 113F
→
10/17 10:59, 3小時前 , 114F
亞麻現在所有消費資料都已經用genAI+RAG去做了
10/17 10:59, 114F
推
10/17 10:59, 3小時前 , 115F
算力過剩了啊，iPhone 9沒人要了，垃圾
10/17 10:59, 115F
→
10/17 10:59, 3小時前 , 116F
你們消費者 大概也不知道後面搜尋機制已經變了
10/17 10:59, 116F
→
10/17 10:59, 3小時前 , 117F
別怕 至少我們還有夢
10/17 10:59, 117F
推
10/17 11:00, 3小時前 , 118F
完了，要泡沫了，快逃啊
10/17 11:00, 118F
→
10/17 11:00, 3小時前 , 119F
狗家現在所有下游服務客戶全部都換成gemini
10/17 11:00, 119F
→
10/17 11:00, 3小時前 , 120F
你大概也不知道你用的服務已經用更高階genAI
10/17 11:00, 120F
推
10/17 11:01, 3小時前 , 121F
就像新一代手機出來，上一代降價不是很正常？這樣
10/17 11:01, 121F
→
10/17 11:01, 3小時前 , 122F
就泡沫？
10/17 11:01, 122F
推
10/17 11:01, 3小時前 , 123F
99GOOG
10/17 11:01, 123F
推
10/17 11:03, 3小時前 , 124F
你我500
10/17 11:03, 124F
→
10/17 11:04, 3小時前 , 125F
很正常吧 不就跟網速一樣 價格越來越便宜
10/17 11:04, 125F
推
10/17 11:04, 3小時前 , 126F
AI又要over了…
10/17 11:04, 126F
推
10/17 11:05, 3小時前 , 127F
買舊產品的變成冤大頭
10/17 11:05, 127F
→
10/17 11:06, 3小時前 , 128F
可以用租的 就不會變冤大頭了
10/17 11:06, 128F
推
10/17 11:07, 3小時前 , 129F
真正的供不應求應該是跟2017年挖礦市場一樣，連二
10/17 11:07, 129F
→
10/17 11:07, 3小時前 , 130F
手顯卡都在加價賣，現在去年算力貶值成這樣，還這
10/17 11:07, 130F
→
10/17 11:07, 3小時前 , 131F
麼供不應求嗎？
10/17 11:07, 131F
推
10/17 11:08, 3小時前 , 132F
AI的問題是，當一個夠好用的AI被訓練出來，還需要
10/17 11:08, 132F
→
10/17 11:08, 3小時前 , 133F
一堆人提供服務嗎
10/17 11:08, 133F
推
10/17 11:10, 3小時前 , 134F
AI正在極速發展，搞不清楚狀況的人還很多，現在萬
10/17 11:10, 134F
→
10/17 11:10, 3小時前 , 135F
事具備只等LLM成熟，終端消費市場就會爆發
10/17 11:10, 135F
推
10/17 11:14, 3小時前 , 136F
然後七巨頭還是拼命買
10/17 11:14, 136F
推
10/17 11:16, 3小時前 , 137F
這家還真多割韭騙票新聞 推個
10/17 11:16, 137F
推
10/17 11:27, 2小時前 , 138F
現在沒有瘋搶H100 那是因為GG CoWoS先替你瘋狂增產
10/17 11:27, 138F
→
10/17 11:27, 2小時前 , 139F
了啊
10/17 11:27, 139F
推
10/17 11:31, 2小時前 , 140F
都用買的，誰要租
10/17 11:31, 140F
噓
10/17 11:34, 2小時前 , 141F
沒有終端消費需求 舊的直接變垃圾 泡泡真的要來了
10/17 11:34, 141F
→
10/17 11:35, 2小時前 , 142F
手機有人會用舊的 AI競賽有人用舊的?XD
10/17 11:35, 142F
→
10/17 11:44, 2小時前 , 143F
晶片版的蒜粒過剩...
10/17 11:44, 143F
→
10/17 11:45, 2小時前 , 144F
騙票
10/17 11:45, 144F
→
10/17 11:57, 2小時前 , 145F
AI 要泡沫化了
10/17 11:57, 145F
‣ 更多 jacknavarra 的文章
文章代碼(AID): #1d477NTY (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 jacknavarra 的文章
文章代碼(AID): #1d477NTY (Stock)