PTT職涯區 / Stock (股票)

[請益] 魔改舊顯卡

看板Stock (股票)作者 (gosu mage)時間5小時前 (2025/02/02 22:38), 編輯推噓44(47推 3噓 64→)
留言114則, 57人參與, 2小時前最新討論串1/2 (看更多)
個人是不太了解, 因為也不是AI專家 現在看到中國在魔改二手顯卡跑一些千億級參數大模型推理和優化 他們拿這些二手顯卡跑 運行DeepSeek-Vision R1 72B、Llama 3.2 Vision 90B、Qwen2.5 72B和Qwen1.5 130B 就問了chatgpt這些大模型，通常需要高端什麼GPU。 回答就這張圖 https://i.imgur.com/cTD1LBh.png
但是中國現在魔改二手顯卡, 竟然也能跑 以下這台經過chatgpu比較,相當於H200 141GB × 1, 售價23000人民幣 88g顯存大模型推理機器，深度學習主機，四卡水冷2080ti22g一體機，GPU服務器，88g vRAM服務器，ai繪圖服務器 deepseek-r1 32b能到20token/s 待機46分貝，4張卡溫度31℃，超級靜音，非常適合家用。 整機所有配件保修一年，讓您省時省力省心 ，把主要精力與時間放在模型開發與應用上，不必操心硬件的穩定性。 帶觸摸屏幕 配置單如下： CPU：epyc7402 顯卡：2080ti魔改22g＋一體水×4 主板：epycd8 內存：ddr4 3200 recc 64g 硬盤：鎧俠rc20 2t 電源：長城2000w金牌電源 機箱：瓦爾基里vk02，帶10.1寸觸摸屏幕 https://i.imgur.com/iTtlDiZ.jpeg
https://i.imgur.com/toc6Oh7.jpeg
https://i.imgur.com/H9w8Adj.jpeg
這樣大量搞起來, 會是對nvda毀滅性的打擊嗎？ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.243.172.116 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738507108.A.06B.html
推
02/02 22:40, 5小時前 , 1F
99nvdl
02/02 22:40, 1F
推
02/02 22:41, 5小時前 , 2F
deepseek對輝達本來就是大利空
02/02 22:41, 2F
推
02/02 22:41, 5小時前 , 3F
0 土砲的東西不可能大規模量產 就玩票性質
02/02 22:41, 3F
推
02/02 22:41, 5小時前 , 4F
輝達山寨系列 終於生出來了!?要不要改叫CVIDIA
02/02 22:41, 4F
推
02/02 22:43, 5小時前 , 5F
這種個體跟diy可以玩玩 商家需求就算了吧
02/02 22:43, 5F
推
02/02 22:45, 5小時前 , 6F
iphone 6也能用…為何需要iphone 16
02/02 22:45, 6F
→
02/02 22:45, 5小時前 , 7F
我都還在用win xp…誰電腦升級win 11了
02/02 22:45, 7F
推
02/02 22:46, 5小時前 , 8F
Win2000再戰十年
02/02 22:46, 8F
推
02/02 22:48, 5小時前 , 9F
DS就是不用依賴cuda這個架構,只要是GPU都可
02/02 22:48, 9F
推
02/02 22:50, 5小時前 , 10F
沒有openAI的問答集 deepshit也做不出什麼鳥屁
02/02 22:50, 10F
推
02/02 22:52, 5小時前 , 11F
我覺得甚麼2TB內存部屬671B完整版模型有用一些
02/02 22:52, 11F
推
02/02 22:54, 5小時前 , 12F
還以為走錯板
02/02 22:54, 12F
推
02/02 22:54, 5小時前 , 13F
這種要求的是穩定性 你不穩定要怎麼獲利
02/02 22:54, 13F
→
02/02 22:55, 5小時前 , 14F
中國很多土炮的，但穩定度跟安全性都不佳，
02/02 22:55, 14F
→
02/02 22:55, 5小時前 , 15F
也不能量產，不能當作常態，只能當作奇蹟
02/02 22:55, 15F
推
02/02 22:55, 5小時前 , 16F
就我理解 ds還是採用nvidia的ptx
02/02 22:55, 16F
推
02/02 22:55, 5小時前 , 17F
為什麼是用2080ti?
02/02 22:55, 17F
→
02/02 22:55, 5小時前 , 18F
所以應該不是什麼gpu都可以
02/02 22:55, 18F
→
02/02 22:56, 5小時前 , 19F
有興趣可以上yt 找土炮4090電腦顯卡上筆電顯卡一樣
02/02 22:56, 19F
→
02/02 22:56, 5小時前 , 20F
可以用，效果也超好，但重量八公斤，還能叫筆電嗎
02/02 22:56, 20F
推
02/02 22:59, 5小時前 , 21F
魔改的要做大家做得到 真的這樣就夠不會有人需要特
02/02 22:59, 21F
→
02/02 22:59, 5小時前 , 22F
別花錢買伺服器/工作站
02/02 22:59, 22F
推
02/02 23:01, 5小時前 , 23F
你以為伺服器是在賣心酸的嗎
02/02 23:01, 23F
推
02/02 23:01, 5小時前 , 24F
當然都可以跑，差在算力啊，蓋房子一個人也能蓋，但
02/02 23:01, 24F
→
02/02 23:01, 5小時前 , 25F
專業的工人+數量快很多吧
02/02 23:01, 25F
推
02/02 23:03, 5小時前 , 26F
NVIDIA Project DIGITS 才3000美金，何必買土炮？
02/02 23:03, 26F
→
02/02 23:05, 4小時前 , 27F
ebay上就有h100深圳出貨的了改個鳥不會直接買
02/02 23:05, 27F
→
02/02 23:06, 4小時前 , 28F
美國管制根本就是笑話
02/02 23:06, 28F
→
02/02 23:07, 4小時前 , 29F
訓練跟運行是兩回事
02/02 23:07, 29F
推
02/02 23:07, 4小時前 , 30F
這種就算效能可行 沒辦法大量生產就不可能有啥決定
02/02 23:07, 30F
→
02/02 23:07, 4小時前 , 31F
性的影響
02/02 23:07, 31F
推
02/02 23:08, 4小時前 , 32F
這個真的不如上了 nv project digits 或是amd str
02/02 23:08, 32F
→
02/02 23:08, 4小時前 , 33F
ix halo128gb 32b模型實在不值得這樣搞 至少70b 要
02/02 23:08, 33F
→
02/02 23:08, 4小時前 , 34F
搞直接上671b的模型
02/02 23:08, 34F
推
02/02 23:09, 4小時前 , 35F
做等project digits 我記得五月 3000美金真的很甜
02/02 23:09, 35F
→
02/02 23:09, 4小時前 , 36F
只怕又被黃牛掃光了
02/02 23:09, 36F
→
02/02 23:10, 4小時前 , 37F
拿蓋房子來說 蓋房子 裝潢不能放在同一個水準 更何
02/02 23:10, 37F
→
02/02 23:10, 4小時前 , 38F
況你這個例子連裝潢都沒有 只是搬進去住而已
02/02 23:10, 38F
推
02/02 23:10, 4小時前 , 39F
因為2080ti才有NVLINK 後面還有一張3090
02/02 23:10, 39F
還有 35 則推文
推
02/02 23:34, 4小時前 , 75F
iPhone 8 也可以上網看影片拍照片，幹嘛用iPhone
02/02 23:34, 75F
→
02/02 23:34, 4小時前 , 76F
16，手機怎麼會有傻子ㄧ直買新的
02/02 23:34, 76F
推
02/02 23:34, 4小時前 , 77F
跟疫情時口罩疫苗，over booking 87分像
02/02 23:34, 77F
推
02/02 23:36, 4小時前 , 78F
這繞過的幅度已經是繞路超車了
02/02 23:36, 78F
推
02/02 23:37, 4小時前 , 79F
用這個不能賣錢 想想NVLink
02/02 23:37, 79F
推
02/02 23:42, 4小時前 , 80F
對岸 個人或是小單位應該是用4090魔改48g 品質應該
02/02 23:42, 80F
→
02/02 23:42, 4小時前 , 81F
還可以 應該是有一個黑色產業鏈在搞 inference門檻
02/02 23:42, 81F
→
02/02 23:42, 4小時前 , 82F
沒那摸高主要是那個記憶體 所以有Mac 這種有128gb
02/02 23:42, 82F
→
02/02 23:42, 4小時前 , 83F
拿來搞 project digits就nv 要給的答案 strix hal
02/02 23:42, 83F
→
02/02 23:42, 4小時前 , 84F
o128gb也有機會更便宜 這些都是量產消費產品級 改
02/02 23:42, 84F
→
02/02 23:42, 4小時前 , 85F
天amd intel直接gpu上大顯存都不意外…
02/02 23:42, 85F
→
02/02 23:48, 4小時前 , 86F
魔改的有穩定性問題 這只能個人玩玩而已
02/02 23:48, 86F
噓
02/02 23:50, 4小時前 , 87F
卷到爆炸 厲害了我的國
02/02 23:50, 87F
推
02/02 23:50, 4小時前 , 88F
能跑啊，穩定性呢？再來你說的這些辣雞不會漲價嗎
02/02 23:50, 88F
推
02/02 23:50, 4小時前 , 89F
我一張4070ti12g而已跑14B體驗都很好了加到128飛天
02/02 23:50, 89F
推
02/02 23:53, 4小時前 , 90F
所以PC利多嗎？
02/02 23:53, 90F
推
02/02 23:56, 4小時前 , 91F
這就是我之前說的只要花得起錢的中小企業都可以自己
02/02 23:56, 91F
→
02/02 23:56, 4小時前 , 92F
來在多弄一點連小微調都可以
02/02 23:56, 92F
→
02/02 23:57, 4小時前 , 93F
頂多就是老黃的刀會比較不利
02/02 23:57, 93F
→
02/02 23:58, 4小時前 , 94F
這就等於以前的黑蘋果
02/02 23:58, 94F
→
02/02 23:58, 4小時前 , 95F
地動山搖
02/02 23:58, 95F
推
02/03 00:03, 4小時前 , 96F
魔改沒專利嗎？量大鐵定被告啊！你魔改Iphone量大
02/03 00:03, 96F
→
02/03 00:03, 4小時前 , 97F
不會被告嗎？
02/03 00:03, 97F
→
02/03 00:07, 3小時前 , 98F
老黃自己都想賣大陸了告什麼？是皮到被川普拉正，你
02/03 00:07, 98F
→
02/03 00:07, 3小時前 , 99F
以為老黃討厭大陸喔？川普登基大典不去跑去大陸唱跳
02/03 00:07, 99F
→
02/03 00:07, 3小時前 , 100F
過新年的咖耶！笑死！
02/03 00:07, 100F
→
02/03 00:09, 3小時前 , 101F
這種魔改犧牲的是零件的壽命,你舊顯卡存貨也不可能
02/03 00:09, 101F
→
02/03 00:09, 3小時前 , 102F
那麼多
02/03 00:09, 102F
推
02/03 00:15, 3小時前 , 103F
中國魔改真的是蠻厲害
02/03 00:15, 103F
推
02/03 00:19, 3小時前 , 104F
我還沒看過有商家做iPhone擴容被告的
02/03 00:19, 104F
→
02/03 00:21, 3小時前 , 105F
硬體買下來改裝還能被告　太有趣惹
02/03 00:21, 105F
→
02/03 00:35, 3小時前 , 106F
土砲的東西不用多 擺個100組去機房試營運個3個月就
02/03 00:35, 106F
→
02/03 00:35, 3小時前 , 107F
好 能玩的起來的就算你有搞頭..連nv制式的都需要透
02/03 00:35, 107F
→
02/03 00:35, 3小時前 , 108F
過大量汰換才能營運 你這種土砲的玩具 放在要營運
02/03 00:35, 108F
→
02/03 00:35, 3小時前 , 109F
的機房內只會是管理災難而已 想啥呢 ==
02/03 00:35, 109F
推
02/03 00:48, 3小時前 , 110F
土砲以前礦潮時早就玩過了 但一改下去沒兩下就燒壞
02/03 00:48, 110F
推
02/03 01:13, 2小時前 , 111F
看了amd 一下7900xtx 32b q4km 31tk/s新卡售價3w5
02/03 01:13, 111F
→
02/03 01:13, 2小時前 , 112F
如果你只要deepseek比你這快 應該不用買洋垃圾
02/03 01:13, 112F
→
02/03 01:55, 2小時前 , 113F
兩種作業系統都要用
02/03 01:55, 113F
→
02/03 01:55, 2小時前 , 114F
不試怎麼知道問題在哪？
02/03 01:55, 114F
‣ 更多 LimYoHwan 的文章
文章代碼(AID): #1dduDa1h (Stock)
討論串 (同標題文章)
完整討論串 (本文為第 1 之 2 篇)：
排序： 最舊先 | 最新先 | 留言數
44
114
[請益] 魔改舊顯卡
LimYoHwan
5小時前, 02/02
在新視窗開啟完整討論串 (共2篇)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 LimYoHwan 的文章
文章代碼(AID): #1dduDa1h (Stock)