PTT職涯區 / Stock (股票)

Re: [請益] 費半成份股全線崩盤 怎麼辦？

看板Stock (股票)作者 (Channel Coding)時間21小時前 (2025/01/27 14:13), 10小時前編輯推噓61(62推 1噓 60→)
留言123則, 62人參與, 13小時前最新討論串5/6 (看更多)
DeepSeek這塊有幾個看法 Training端就等之後瓜出來再吃 在Inference這塊 因為受限於MoE 所有推論成本可以降下來 但需求變高的是用記憶空間 和各個node之間的通訊開銷 以及軟體上cpu/gpu的load balance 以deepseek v3來說 600GB+ fp8 需要許多平行運算 這意味通訊瓶頸很重要 因為在切換專家時候 延遲會因此也跟者追加 而記憶體需求開銷也很大 另外一點就是37B Activation是主因讓推論可以成本下降 (不用全部671B來跑) 以h100來算這會讓同樣算力 成本下降10倍以上 但對算力晶片load balance和通訊跟記憶體開銷需求也跟者增大 但對於同樣算力可以提高10倍以上token產出 MoE好處就是更適合特制化的低成本下游任務 不適合泛化場景 所以不能用在機器人 這種場景多變任務上 這就代表 假設Deepseek最後成為低成本主流 這意味還是只有老黃能吃下它 (因為需要昂貴load blance 通訊開銷 高需求vram) ASIC那邊不適合用在MoE架構 這些低成本就某種意義會解鎖ai產品化 原本之前最大問題就是 現有的模型在Inference產生token的電力成本太貴 如果能讓現有成本下降 這樣才會能直接適用到消費端去 並不是說 提高tokens生產數量/單位算力 就等於減少鏟子賣出 事實上 token數量/單位算力 過低 會造就無法ai模型落地化 反而產子賣不出去 最好的例子就是DeepSpeed (AI Backend 優化) 這玩意一年前 微軟就用它來提高 tokens數量/單位算力 號稱能增加1.5~3倍快同樣算力 結果微軟反而願意花更多錢買算力 這波最大意義大概就是會變動推行MoE架構 然後ASIC死去 QQ 而老黃有NVLink 和壟斷HBM產量 又有良好的cuda為主的AI Backend做load balance 感覺很難輸 說到底 最簡單的觀察就是看1/23微軟財報的資本支出 微軟在01/03說出2025 80B (Deepseek v3 12/26/2024 模型釋出) 如果01/27資本支出維持原案 那就沒啥太大擔心 -- MoE缺陷:需要把所有專家放入內存 對顯存(VRAM)壓力需求高大 高熬貴通信成本 不利模型泛化性 適合單一任務(畢竟你只用了原本模型部分activation parameter) ※ 引述《keio5566 (56不滅)》之銘言： : 是不是又是GG的勝利 : 能夠用科技大頭的5%成本就能開發AI : 意味著行業的進入門檻變低，AI元年正式啟動 : 最高端產品的銷量受影響，但接下來市場要的是便宜堪用的產品 : AMD吃到一波紅利，整體晶片代工需求繼續增加 : 苦的是NV，GG依然贏麻了= = : 大家恐懼我貪婪 : 2025年抄底GG的最佳時刻是否即將到來？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.21.72.78 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1737958391.A.808.html ※ 編輯: LDPC (76.21.72.78 美國), 01/27/2025 14:15:02
推
01/27 14:14, 21小時前 , 1F
NVDA > AVGO 嗎？
01/27 14:14, 1F
推
01/27 14:15, 21小時前 , 2F
海力士/美光利多
01/27 14:15, 2F
推
01/27 14:15, 21小時前 , 3F
弄HBM的MU還有救嗎
01/27 14:15, 3F
推
01/27 14:16, 21小時前 , 4F
微軟支本支出不太可能有什麼變，時間這麼短
01/27 14:16, 4F
推
01/27 14:16, 21小時前 , 5F
想知道萬潤和法師的看法QQ
01/27 14:16, 5F
推
01/27 14:20, 21小時前 , 6F
其實反而應該是AVGO 的利空...3661 3443...
01/27 14:20, 6F
推
01/27 14:20, 21小時前 , 7F
推 低成本的ai晶片不妙
01/27 14:20, 7F
推
01/27 14:21, 21小時前 , 8F
說到微軟 剛剛
01/27 14:21, 8F
→
01/27 14:21, 21小時前 , 9F
CEO也發推了 立場很清楚了吧
01/27 14:21, 9F
推
01/27 14:22, 21小時前 , 10F
資本支出不可能短時間修改+1
01/27 14:22, 10F
推
01/27 14:22, 21小時前 , 11F
推推，好人一生平安
01/27 14:22, 11F
推
01/27 14:22, 21小時前 , 12F
前一陣子有炒作一波ASIC 現在通通都要下去
01/27 14:22, 12F
→
01/27 14:23, 21小時前 , 13F
但股價可以短時間劇烈波動
01/27 14:23, 13F
推
01/27 14:23, 21小時前 , 14F
其實更優的成本對軟軟，狗哥，雅麻，詐騙公司都是
01/27 14:23, 14F
→
01/27 14:23, 21小時前 , 15F
長期利好
01/27 14:23, 15F
→
01/27 14:23, 21小時前 , 16F
短期跌一下前期投入根本沒差，祖大少元宇宙虧爛還
01/27 14:23, 16F
→
01/27 14:23, 21小時前 , 17F
不是好好的
01/27 14:23, 17F
→
01/27 14:24, 21小時前 , 18F
然後AIPC 或許可以提早放量
01/27 14:24, 18F
推
01/27 14:24, 21小時前 , 19F
但avgo 股價還未受到衝擊
01/27 14:24, 19F
推
01/27 14:24, 21小時前 , 20F
3661死去
01/27 14:24, 20F
→
01/27 14:24, 21小時前 , 21F
甚至不需要額外NPU去運算了<-這比較極端想法XD
01/27 14:24, 21F
→
01/27 14:24, 21小時前 , 22F
再來就是次級玩家不一定要追GB200、GB300
01/27 14:24, 22F
推
01/27 14:24, 21小時前 , 23F
那怎麼看AMD去搶推論這塊？
01/27 14:24, 23F
推
01/27 14:25, 21小時前 , 24F
99 MU
01/27 14:25, 24F
→
01/27 14:25, 21小時前 , 25F
AVGO可能要等市場開盤之後會比較清楚
01/27 14:25, 25F
→
01/27 14:25, 21小時前 , 26F
現在美國那邊還是27號凌晨
01/27 14:25, 26F
推
01/27 14:25, 21小時前 , 27F
如果是有效率的話 資料中心一定越蓋越多
01/27 14:25, 27F
推
01/27 14:25, 21小時前 , 28F
ASICㄘㄨㄚ、勒蛋
01/27 14:25, 28F
→
01/27 14:26, 21小時前 , 29F
如果DS能這麼低成本達成80%水準，那這些大頭應該是
01/27 14:26, 29F
→
01/27 14:26, 21小時前 , 30F
研究怎麼讓資本支出跟成效比例合理，而不是降低支出
01/27 14:26, 30F
→
01/27 14:26, 21小時前 , 31F
吧，不然這些大頭一堆現金要幹嘛
01/27 14:26, 31F
推
01/27 14:28, 21小時前 , 32F
請問交換器需求的看法？
01/27 14:28, 32F
→
01/27 14:29, 21小時前 , 33F
根據過往Cost down財報噴！股價噴！
01/27 14:29, 33F
推
01/27 14:30, 21小時前 , 34F
能不能COST DOWN 我覺得先看論文 可不可能重現
01/27 14:30, 34F
推
01/27 14:30, 21小時前 , 35F
利多吧 一堆人加入ai反而csp要更多算力租借出去
01/27 14:30, 35F
→
01/27 14:30, 21小時前 , 36F
DS使用類似當初GOOGLE 圍棋那套方式去自我訓練
01/27 14:30, 36F
→
01/27 14:31, 21小時前 , 37F
然後5萬張H100 傳聞也不知道真假XD
01/27 14:31, 37F
→
01/27 14:31, 21小時前 , 38F
不過MoE模型的確是可以有效降低成本 這沒錯
01/27 14:31, 38F
→
01/27 14:32, 21小時前 , 39F
最後變成是賈維斯跟事務型機器人的對決XD
01/27 14:32, 39F
還有 45 則推文
→
01/27 15:28, 20小時前 , 85F
TSM -6.57%
01/27 15:28, 85F
→
01/27 15:32, 20小時前 , 86F
HBM只是這幾年的過渡期產品，沒跟上的不需要追高。
01/27 15:32, 86F
→
01/27 15:33, 20小時前 , 87F
講白了 你人類接上網之前怎麼學習的就怎麼學習
01/27 15:33, 87F
→
01/27 15:33, 20小時前 , 88F
不聯網只是比較智障 但你很多工作本來也只需要智障
01/27 15:33, 88F
→
01/27 15:34, 19小時前 , 89F
一堆訓練真的需要聯網嗎 他這模型是在節省訓練&記憶
01/27 15:34, 89F
→
01/27 15:36, 19小時前 , 90F
開盤台積連跌停兩天我就相信
01/27 15:36, 90F
推
01/27 15:38, 19小時前 , 91F
好人推
01/27 15:38, 91F
→
01/27 15:41, 19小時前 , 92F
這種極端工作條件總感覺有免洗軍用衍生的用途
01/27 15:41, 92F
推
01/27 15:43, 19小時前 , 93F
nv出了比avgo還猛的pcie sw才會是avgo利空
01/27 15:43, 93F
推
01/27 15:46, 19小時前 , 94F
讓子彈飛一會兒
01/27 15:46, 94F
→
01/27 15:48, 19小時前 , 95F
記憶體跟SSD不就長江庫存超多，換別的地方還真沒這
01/27 15:48, 95F
→
01/27 15:48, 19小時前 , 96F
條件
01/27 15:48, 96F
推
01/27 15:58, 19小時前 , 97F
Chatgpt meta google Amazon 早晚會下去吧,中國用免
01/27 15:58, 97F
→
01/27 15:58, 19小時前 , 98F
費跟你競爭,怎麼玩下去
01/27 15:58, 98F
噓
01/27 15:58, 19小時前 , 99F
我是相信後年b通就會讓老王吃屎
01/27 15:58, 99F
→
01/27 15:59, 19小時前 , 100F
nvlink沒那麼厲害
01/27 15:59, 100F
推
01/27 16:01, 19小時前 , 101F
這重點不是大陸不再受到美國限制嗎…..如果ai可以
01/27 16:01, 101F
→
01/27 16:01, 19小時前 , 102F
自己研發到這程度話～世界就不再是美國說了算歐～
01/27 16:01, 102F
→
01/27 16:02, 19小時前 , 103F
單純討論公司間的影響的話～我覺得意義不大～
01/27 16:02, 103F
推
01/27 16:15, 19小時前 , 104F
誰可以寄信給教主發文 快瘋了
01/27 16:15, 104F
→
01/27 16:15, 19小時前 , 105F
記憶體要HBM吧 長江也有這麼多嗎
01/27 16:15, 105F
推
01/27 16:19, 19小時前 , 106F
99 B康
01/27 16:19, 106F
推
01/27 16:24, 19小時前 , 107F
跌深就是給上車的，趕快開盤
01/27 16:24, 107F
推
01/27 17:00, 18小時前 , 108F
長江有做HBM嗎？我記得沒有吧...
01/27 17:00, 108F
推
01/27 17:48, 17小時前 , 109F
AVGO的ASIC是CSP大廠自研晶片
01/27 17:48, 109F
→
01/27 17:48, 17小時前 , 110F
怎麼可能沒有量？傻傻的
01/27 17:48, 110F
推
01/27 18:15, 17小時前 , 111F
參考了LD大和其他論述、這幾天想一想，推出來了後續
01/27 18:15, 111F
→
01/27 18:15, 17小時前 , 112F
方向也差不多，LD大猛
01/27 18:15, 112F
→
01/27 18:18, 17小時前 , 113F
有我川在.美國AI絕不可能輸的
01/27 18:18, 113F
→
01/27 18:19, 17小時前 , 114F
反倒會激起我川更激烈的管制
01/27 18:19, 114F
→
01/27 18:21, 17小時前 , 115F
LD大後續會布 CRM , SAP (SAAS) / PLTR (特定API)
01/27 18:21, 115F
→
01/27 18:21, 17小時前 , 116F
領域麻，算力成本、選擇變多情況下游，我覺得應該受
01/27 18:21, 116F
→
01/27 18:21, 17小時前 , 117F
惠
01/27 18:21, 117F
推
01/27 18:25, 17小時前 , 118F
01/27 18:25, 118F
推
01/27 18:49, 16小時前 , 119F
2/3日紅盤日，世芯跟台積電開盤跳空跌停鎖死
01/27 18:49, 119F
推
01/27 18:58, 16小時前 , 120F
前面一堆廢文
01/27 18:58, 120F
→
01/27 18:58, 16小時前 , 121F
這篇才是有效討論
01/27 18:58, 121F
推
01/27 19:34, 15小時前 , 122F
ASIC出世AMD遭殃，DS出世ASIC遭殃，99蘇媽
01/27 19:34, 122F
推
01/27 22:33, 13小時前 , 123F
不過deepseek r1 一個禮拜前01/20才出
01/27 22:33, 123F
※ 編輯: LDPC (76.21.72.78 美國), 01/28/2025 00:57:17
‣ 更多 LDPC 的文章
文章代碼(AID): #1dboFtW8 (Stock)
討論串 (同標題文章)
以下文章回應了本文：
完整討論串 (本文為第 5 之 6 篇)：
排序： 最舊先 | 最新先 | 留言數
在新視窗開啟完整討論串 (共6篇)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 LDPC 的文章
文章代碼(AID): #1dboFtW8 (Stock)