Re: [新聞] AI模型競爭激烈 OpenAI調降GPT-5.6價格
※ 引述《hayuyang (鳳山蠹)》之銘言：
: 我有點好奇
: 電動車 太陽能 小米 現在ai 都是捲到白菜價錢
: 然後背後不少是國家戰略 補貼
: 看過美國玩開源模型就知道 這是要養套殺的
: android開源 但後續更新 你就要跟上
: 開源免費的目的從來就是要打擊對手跟壟斷 祖克柏也愛搞這招
: 中國會不知道?
: 用國家資本的力量 無限補貼產業 然後跟西方資本公司對做
: 假如中國贏了全拿 會發生什麼事情
: 我很好奇
: ---
開源不代表完全免費,
開源只代表模型本身跟Android OS本身是免費,
但是Android 手機不是免費送你,
你還是要付錢買硬體的錢,
同樣道理,
開完模型不表示跑Kimi DeepSeek 就免費,
你還是要付token的錢,
支付在伺服器上跑的水電費以及硬體成本
所以中國用開源模型理論上會比美國封閉模型便宜,
因為省了模型的錢,
只需要支付水電跟硬體成本,
但是現在OpenAI殺紅眼降價賣token,
中國開源模型就沒有成本跟價格優勢,
不過除了OpenAI 這個特例,
的確美國的模型在成本上吃虧
至於說中國贏了全拿 這件事很難說,
或許在開源模型是這樣,
但是遇到硬體條件限制與ecosystem 這些因素, 就很難說,
這樣說好了,
Kimi 模型免費,
但是一般人甚至一般企業玩不起,
這是官方說的硬體規格:
官方與專業建議：至少 64 個高階 AI 加速器（如 NVIDIA H100 / GB200 / B200 叢集）
，以支援超長上下文與混合專家（MoE）架構。
記憶體與頻寬：以 2.8 兆參數的 Kimi K3 為例，原始模型權重在 FP8 精度下約需
1.4 TB 記憶體，並高度依賴高頻寬記憶體（HBM）與高速互連網路。
目前所有的開源模型,
大部分都無法在一般人跟一般公司裡頭跑,
一樣只能用API token呼叫遠端伺服器,
所以用起來跟另外一個ChatGPT Claude API 呼叫幾乎一樣,
所以這很難說中國能夠全拿,
API換個名字就好
以我自己為例,
我這三四個月自己做的AI短劇廢片,
一樣的代碼, 只是換了API呼叫名字,
換了五六種模型,
用了gemini, kling, qwen, gemma, 混元,翰宇, flux, zimage,
完全沒有忠誠度可言,
便宜CP值高, 好用, 我馬上就換
我的感想是,
模型要能夠在一般人一般企業的機器裡頭跑,
CP值高, 省電, 速度夠快,
而不是單純的追求跑分,
因為那些最高跑分的模型,
我們一般人機器跑不動
然後這是開源模型排名:
https://onyx.app/open-llm-leaderboard
那些需要1TB 記憶體, GB200機器的模型,
其實我是覺得不用考慮,
這裡頭真正有競爭力的是qwen and gemma,
31B-36B, 大致需要30-40GB記憶體,
這大小的模型才是有可能普及到所有的機器人, 自駕車,手機電腦等地方,
這個開源模型才是真正有機會贏者全拿的模型
雖然裡頭排名qwen 比gemma高,
但是我自己使用經驗是gemma 比 qwen 強,
我原本小黃書用qwen 搭配 zimage,
現在小黃書改用gemma 搭配 flux
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785486302.A.B94.html
討論串 (同標題文章)
Stock 近期熱門文章
PTT職涯區 即時熱門文章