PTT職涯區 / Stock (股票)

Re: [新聞] AMD處理器壓倒性勝利 市佔率飆至92%

看板Stock (股票)作者 (Cheshire Cat)時間5小時前 (2025/02/06 10:24), 5小時前編輯推噓7(11推 4噓 24→)
留言39則, 25人參與, 2小時前最新討論串3/3 (看更多)
關於AMD呢，在老黃GPU又貴產量又少的狀態下 目前已經不少人找方法剔除不用GPU的方式去建立Local LLaMA了 在R1橫空出世後的一個多月內，大量公司/個人小型workstation已經開發出一些東西 之後系統商和模型/權重持續最佳化狀態下，應該能有更好的產出 簡單來說，這套系統最重要的就是RAM頻寬和大小 所以使用EPYC MZ73板子，可以有24個DDR5通道 全部插滿32GB ram，啟動時有足夠的SSD空間把R1丟到RAM裡面就好 這樣的設定可以在Q8狀態下去跑完整模型，而不是蒸餾過的 當然，這樣的配置不會有700GB VRAM的機器還快 但你有700GB VRAM的設備大概要12萬USD左右 以目前這套大概不到6000 USD就可以組出來的設備，產出約在6~8tok/s左右 但要是AMD和系統廠能夠合作推出更專業的產品 R1目前的開源以及社群的熱絡，可以讓老黃的GPU變成CP值超低的奢侈品 而目前EPYC這樣的配置，已經足夠多數中小型企業/軟體公司使用 甚至比你去租賃算力還便宜 AMD就算GPU在搞笑，但AI的部分絕對不會缺席 只要老黃故意把VRAM卡在那邊拿翹 拿時間換錢的企業和個人使用者不需要那麼快的生成 AMD和系統廠包裝一下大有搞頭好嗎 BTW，因為主要瓶頸是RAM頻寬和大小，所以CPU本身也不用太高階的，夠算就好了 就算用9115或是9015也不會損失太多 能耗部分也很省，上面那組系統耗電量大概就是在400W左右 想想你跟老黃買到700GB的Vram去佈署，要花多少電XDDD -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 136.226.240.114 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1738808680.A.A73.html
推
02/06 10:25, 5小時前 , 1F
99AMD
02/06 10:25, 1F
噓
02/06 10:26, 5小時前 , 2F
apple：
02/06 10:26, 2F
M4 pro也可以跑喔，效率非常好，只是水果店RAM都焊死的超貴 所以只能跑蒸餾過得比較好 ※ 編輯: zzahoward (136.226.240.114 臺灣), 02/06/2025 10:30:37
推
02/06 10:32, 5小時前 , 3F
LLM後 AI的下一步是什麼
02/06 10:32, 3F
→
02/06 10:34, 5小時前 , 4F
5090就夠了 還有之後的老黃Project DIGITS
02/06 10:34, 4F
推
02/06 10:38, 5小時前 , 5F
訓練和推理本來存在差異。目前CP值應該租賃算力<本
02/06 10:38, 5F
→
02/06 10:39, 5小時前 , 6F
這比較偏終端吧 別老是拿終端比雲端
02/06 10:39, 6F
→
02/06 10:39, 5小時前 , 7F
地部屬。 除非有資訊安全、隱私的需求不然長期還是
02/06 10:39, 7F
→
02/06 10:40, 5小時前 , 8F
偏雲端。
02/06 10:40, 8F
→
02/06 10:41, 5小時前 , 9F
租賃算力 > 本地部屬
02/06 10:41, 9F
→
02/06 10:50, 5小時前 , 10F
我也是這樣想 買入AMD套到現在 供參
02/06 10:50, 10F
推
02/06 10:54, 5小時前 , 11F
推 所以AMD可以進場囉
02/06 10:54, 11F
→
02/06 10:55, 5小時前 , 12F
99AMD
02/06 10:55, 12F
→
02/06 10:55, 5小時前 , 13F
99AMD 沒啦 這表示板子頻寬問題 要炒CPO嗎
02/06 10:55, 13F
推
02/06 10:58, 5小時前 , 14F
我等AMD二位數再進場 沒有就算了
02/06 10:58, 14F
→
02/06 11:06, 5小時前 , 15F
教主會再出山嗎
02/06 11:06, 15F
噓
02/06 11:37, 4小時前 , 16F
要做多了嗎？只分析沒錢賺
02/06 11:37, 16F
推
02/06 11:43, 4小時前 , 17F
99 AMD
02/06 11:43, 17F
→
02/06 11:47, 4小時前 , 18F
想太多，amd寄生售價還少嗎
02/06 11:47, 18F
推
02/06 11:54, 4小時前 , 19F
股版一堆人還在看gaap eps…真的傻眼
02/06 11:54, 19F
→
02/06 11:56, 4小時前 , 20F
簡單來說~ 99AMD
02/06 11:56, 20F
推
02/06 11:59, 4小時前 , 21F
想太多，AMD只要發現這樣有利可圖馬上就會漲價到cp
02/06 11:59, 21F
→
02/06 11:59, 4小時前 , 22F
值跟老黃一樣低ㄏㄏ
02/06 11:59, 22F
→
02/06 12:00, 4小時前 , 23F
黑暗騎士的小丑就說過了如果你很擅長某件事千萬別免
02/06 12:00, 23F
→
02/06 12:00, 4小時前 , 24F
費去做
02/06 12:00, 24F
推
02/06 12:04, 4小時前 , 25F
你這篇一年前彥州包圍網講過了，後來他也放棄直接
02/06 12:04, 25F
→
02/06 12:04, 4小時前 , 26F
投奔老黃，八成又什麼技術壟斷無法短期克服
02/06 12:04, 26F
→
02/06 12:09, 3小時前 , 27F
絕對不會缺席，只是不公布營收了
02/06 12:09, 27F
推
02/06 12:10, 3小時前 , 28F
水果店的RAM可以變成VRAM來用
02/06 12:10, 28F
→
02/06 12:36, 3小時前 , 29F
這篇講的跟AMD沒有直接關係
02/06 12:36, 29F
→
02/06 12:47, 3小時前 , 30F
這篇是說你可以用支援多通道記憶體的CPU架構, 把完
02/06 12:47, 30F
→
02/06 12:51, 3小時前 , 31F
整版的R3 load到記憶體跑, 只要記憶體有三百多G就可
02/06 12:51, 31F
→
02/06 12:51, 3小時前 , 32F
以
02/06 12:51, 32F
推
02/06 12:53, 3小時前 , 33F
AMD:我的股價不是這麼說的QQ
02/06 12:53, 33F
噓
02/06 13:30, 2小時前 , 34F
股價？
02/06 13:30, 34F
噓
02/06 13:37, 2小時前 , 35F
大量公司早就已經不用晶片來訓練模型了 最新發現原
02/06 13:37, 35F
→
02/06 13:37, 2小時前 , 36F
來用泡麵也可以訓練大模型 有人正在嘗試看看用麥香
02/06 13:37, 36F
→
02/06 13:37, 2小時前 , 37F
能不能 你還在用晶片 呵呵
02/06 13:37, 37F
→
02/06 13:39, 2小時前 , 38F
用300x300的阿Q桶麵訓練出來的大模型效率居然等同
02/06 13:39, 38F
→
02/06 13:39, 2小時前 , 39F
GPT 據說泡菜口味效能更甚
02/06 13:39, 39F
‣ 更多 zzahoward 的文章
文章代碼(AID): #1df1refp (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 zzahoward 的文章
文章代碼(AID): #1df1refp (Stock)