Re: [新聞] Kimi算力告急,暫停新用戶訂閱
Dean Ball:他在美國白宮的AI決策圈有很大的影響力.但本質上他就是歷史學士,
其實沒有任何的技術底與理工背景,目前剛去歐噴醬策略部門。
因為是歷史系,我們把底下的內容換句話說
: - 這玩意兒的性能在寫程式上幾乎和Q1最好的模型不相上下
: - 不認為這樣的結果可以單純用蒸餾來解釋
: - 但這東西非常的消耗Token,他認為實際運作上成本比預期高很多
: - 很訝異中國政府會同意這種優秀的開源模型,他認為75%是無知25%是沒算力
很訝異中國不想賺錢,開源這麼好的模型,75%無知不知道該怎麼賺錢25%沒算力賺錢
: - 另一個狀況就是中國出口積極策略就是擾亂市場,因為沒人會為中國模型付錢
來打壞我們歐噴醬市場,因為大家都會用中國模型來自己賺錢(因為開源)
: - 開放權重模型從他的觀點來看會影響整個AI infra的CAPEX減緩
原本只有我們幾個巨頭要AI Infra,你現在開源大家都搞,我們就沒資源可以用了
: - 開放權重模型會給AI產業帶來更多不確定性
閉源權重會帶給AI產業很多確定性,因為只有幾個巨頭能搞,其他人不行
: - 開放權重模型非常的共產主義,讓AI走向公共財由國家提供
閉源權重非常資本主義,讓AI走向私人財團化
: - 美國應該開始主導某種監管機制去抑制這些開放權重的開源模型
美國應該要限制大家不能用中國的開源模型,因為會打壞歐噴醬的上市計畫
其實開源權重與模型這點一開始是Meta開始的,只是後來落後太多,現在都是中國在
做開源,中國大廠的決策也很清楚,不開源沒辦法激活各種需求應用人才培養等,
美國這幾個大廠為了維持自身優勢,只能持續封閉。
然後關於蒸餾,其實這也是大家通用的技術之一,但目前K3版本的很多狀況是比Fable
與sol來的更好,更別說這幾個模型也是最近才上線,因此單純用蒸餾無法解釋。
更多的是用更好的架構跟更好的算法來訓練模型優化架構,在資料層面其實在大廠上應
該差不多了,網路資源能挖的資料都挖完了。
個人是認為開源模型會增快在各領域的開發速度,已經將開源模型蒸餾成更小更快的模型
,所以在前期CAPEX上,可能就會是原本幾個巨頭再投入,改成更多的公司會投入,因為很多服務不在是自
己無法掌握核心,更長遠來看,NV的成長會更高,以及帶動更多的邊緣計算硬體
。
--
那片有座高塔哭著朝北方奔去的天空,是我此刻片尋不著的風景
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.77.23 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1784607919.A.863.html
推
07/21 12:34,
7小時前
, 1F
07/21 12:34, 1F
說來尷尬,但比喻的很正確
推
07/21 12:39,
7小時前
, 2F
07/21 12:39, 2F
→
07/21 12:39,
7小時前
, 3F
07/21 12:39, 3F
對,需求增加,但反資料中心導致現在巨頭拼命找租借
推
07/21 12:44,
7小時前
, 4F
07/21 12:44, 4F
+1
→
07/21 12:44,
7小時前
, 5F
07/21 12:44, 5F
推
07/21 12:56,
7小時前
, 6F
07/21 12:56, 6F
推
07/21 13:00,
7小時前
, 7F
07/21 13:00, 7F
推
07/21 13:02,
6小時前
, 8F
07/21 13:02, 8F
→
07/21 13:03,
6小時前
, 9F
07/21 13:03, 9F
推
07/21 13:03,
6小時前
, 10F
07/21 13:03, 10F
→
07/21 13:03,
6小時前
, 11F
07/21 13:03, 11F
因為其他原本沒辦法加入的公司,現在可以加入了,因此會有更多需求
原本考量成本無法部屬的需求,在一般公司能入場後,就會回歸傳統資料中心的方式
→
07/21 13:04,
6小時前
, 12F
07/21 13:04, 12F
→
07/21 13:06,
6小時前
, 13F
07/21 13:06, 13F
推
07/21 13:07,
6小時前
, 14F
07/21 13:07, 14F
→
07/21 13:07,
6小時前
, 15F
07/21 13:07, 15F
是的,現在做AI首選還是NV,競爭者還遠,除非像中國那樣被限制住(中美聯合限制)
推
07/21 13:08,
6小時前
, 16F
07/21 13:08, 16F
推
07/21 13:14,
6小時前
, 17F
07/21 13:14, 17F
→
07/21 13:15,
6小時前
, 18F
07/21 13:15, 18F
正確,更多的大公司本地部屬,反而是歐噴醬的需求減少
推
07/21 13:16,
6小時前
, 19F
07/21 13:16, 19F
散熱方式很多種,大海也是個方法,但未來可期資料中心產生的熱直接用於供暖等
推
07/21 13:17,
6小時前
, 20F
07/21 13:17, 20F
這也是大問題之一,歐噴醬不好賺到的錢
推
07/21 13:17,
6小時前
, 21F
07/21 13:17, 21F
→
07/21 13:20,
6小時前
, 22F
07/21 13:20, 22F
→
07/21 13:20,
6小時前
, 23F
07/21 13:20, 23F
→
07/21 13:21,
6小時前
, 24F
07/21 13:21, 24F
→
07/21 13:23,
6小時前
, 25F
07/21 13:23, 25F
其他競爭對手還要點時間,但未來確實會是大亂鬥
也會共同抬升市場
推
07/21 13:28,
6小時前
, 26F
07/21 13:28, 26F
→
07/21 13:42,
6小時前
, 27F
07/21 13:42, 27F
推
07/21 13:44,
6小時前
, 28F
07/21 13:44, 28F
→
07/21 13:44,
6小時前
, 29F
07/21 13:44, 29F
推
07/21 13:55,
6小時前
, 30F
07/21 13:55, 30F
※ 編輯: EvilSD (59.120.53.15 臺灣), 07/21/2026 15:35:32
推
07/21 15:44,
4小時前
, 31F
07/21 15:44, 31F
推
07/21 15:49,
4小時前
, 32F
07/21 15:49, 32F
→
07/21 15:50,
4小時前
, 33F
07/21 15:50, 33F
→
07/21 15:50,
4小時前
, 34F
07/21 15:50, 34F
→
07/21 15:51,
4小時前
, 35F
07/21 15:51, 35F
→
07/21 15:51,
4小時前
, 36F
07/21 15:51, 36F
→
07/21 15:52,
4小時前
, 37F
07/21 15:52, 37F
→
07/21 15:52,
4小時前
, 38F
07/21 15:52, 38F
→
07/21 15:53,
4小時前
, 39F
07/21 15:53, 39F
→
07/21 15:53,
4小時前
, 40F
07/21 15:53, 40F
→
07/21 15:55,
4小時前
, 41F
07/21 15:55, 41F
推
07/21 16:01,
4小時前
, 42F
07/21 16:01, 42F
討論串 (同標題文章)
Stock 近期熱門文章
PTT職涯區 即時熱門文章