Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便宜又專業產品搶客源
NV的市場領先地位不是單單只有CUDA這麼單純,你要知道CUDA不是只會算AI,各種高階的模
擬運算才是最可怕的護城河。
NV在技術上還有兩大護城河
NVLink/Infiniband:高效的集群計算
Omniverse:虛擬與現實的融合
目前的LLM都有越來越大的趨勢,絕對不是單一個GPU能跑得動的,所以高效的集群計算才是
關鍵,你單一個GPU做多大算力不再是重點,而是你要有辦法高效的串成一整個集群,而且N
V大概是唯一一家有辦法自己“驗證集群運算缺陷”的公司,因為他自己也有AI團隊在搞大
模型,所以NVlink跟Infiniband才會如此重要,要知道UAlink才剛起草聯盟,第一版出來可
能要2026了
Omniverse 這可能是大家比較忽略的一塊,這塊是AI從虛擬走向實體的關鍵技術,以自駕車
為例,現在tesla就是以海量數據導致FSD能有領先地位,但最終,你不可能只用實際車輛採
集數據,尤其是各種負面範例,撞車或撞到人,這絕對是非常稀缺的資料,但假設你能用Om
niverse來模擬整個車禍發生的各種情況,才有機會解決這種資料稀缺問題。更進一步則是
機器人的虛擬環境訓練,你不可能把機器人丟到家庭裡,不小小壓到小孩才開始調整行為策
略,各種人機協作互動的行為更是關鍵。
這兩大塊甚至比單純的CUDA更壟斷,因為GPU集群的實驗你自己沒下去玩過,根本就不知道
會發生什麼事,臨時硬體壞了該如何備份復原更換,電力系統要如何整合,這都不是小公司
玩的起的
補上萬卡集群的訓練說明
https://youtu.be/aey0qZzJg-Q?si=7GoOw5EDFkG9LcVx
Omniverse 更是未來實體AI的關鍵,新的機器人一定是丟到虛擬環境練到好才出來,這也是
為啥老黃一直還是延續GPU而非特化成NPU,因為它需要3D建模與物理引擎,光追系統做虛擬
環境驗證,拔掉這些core可能可以省成本,但就無法用途轉移了
※ 引述 《breathair (拆了?簡單了)》 之銘言:
: 標題: Re: [新聞] Nvidia覇主地位危矣?這些挑戰者做出便
: 時間: Wed Aug 28 12:28:18 2024
:
: 小弟請教各位大佬
:
: NV最大的優勢,應該是CUDA
: CUDA讓各AI專家可以編程NV GPU
: 讓GPU跑你想跑的東西,而不侷限在圖形運算
:
: AMD正是落後在這裡
: 當大家都用CUDA編程AI晶片
: AMD不能用CUDA等於不能相容
: 於是AI晶片就被NV佔據極大優勢
:
: 以上不知對不對
:
: 如果對
: 小弟的疑問是
: 如果NV護城河是CUDA這種編程語言
: 而AI最大優勢又是編程
:
: 難道以後不會因為隨著AI的強大
: 各路AI晶片可以把CUDA編程
: 轉譯成自家AI晶片可以接受的語言
:
: 這樣護城河還會在嗎?
: -----
: Sent from JPTT on my iPhone
:
: --
: ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.76.203.28 (臺灣)
: ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1724819300.A.882.html
: → bolovema : 以這麼幸福嗎 08/28 12:28
: → zerro7 : 前提是無痛轉譯 能達成嗎? 08/28 12:29
: → gozule : amd也有搞rocm 08/28 12:30
: → as80110680 : 你是第2147483647個發現的人,然後也早就有人在做 08/28 12:30
: → as80110680 : 了,還被nv發現被nv警告 08/28 12:30
: → bnn : CUDA本身不是護城河 是使用CUDA的人多到變成護城河 08/28 12:31
: 推 Lineage5415 : 之前NV某次聲明就是在警告這件事 08/28 12:31
: 推 josephpu : 所以AMD確實有在搞轉譯啊...但有難度 08/28 12:32
: → Djuda : amd追不上不只有cuda... 08/28 12:32
: → Djuda : 如果只是cuda 也沒辦法解釋從2007~現在amd顯卡也是 08/28 12:33
: → Djuda : 一路輸到脫褲子 沒有一次有跟上的 08/28 12:33
: 推 KALR : 可以查一下 ZLUDA 與 SCALE 08/28 12:33
: → ohya111326 : 現在早就有轉譯了阿 08/28 12:33
: 推 flipflap : 試試看 被告到破產喔 08/28 12:34
: 推 lolpklol0975: 只能用 反壟斷法 來壓制了 08/28 12:34
: 推 HiHiCano : 你可以看看顯卡的差距 就知道NV管理層的強大 08/28 12:36
: → flypenguin : 這比在文書作業領域幹掉 MS office 還困難。 08/28 12:37
: 推 xephon : AMD追不上的東西可多了... 08/28 12:38
: → xephon : NV現在要擔心有沒有人要用反壟斷搞他 08/28 12:38
: 推 yayohola : 能轉啊 中間損耗勒 08/28 12:38
:
: 問題是
: 一半的價格,只要提供一半多的算力
: 不也是變相的競爭?
: 不也是可以存活,或拉低NV毛利?
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:41:28
: 推 TurtleGods : 讓AMD努力一點,想當年CPU也是落後20年 08/28 12:40
: 推 gabriel : 除了CUDA還有NV_link壓 護城河不會只有一座 08/28 12:40
: 推 ohlong : 自己寫的很好改 問題是一堆api沒辦法改 西瓜偎大邊 08/28 12:41
: 推 pornpig32 : 你要沒問題的原廠,還是可能有問題的副廠? 08/28 12:43
: 推 kylecheng25 : 能動的東西就不要換 08/28 12:45
: 推 strlen : 這東西沒那麼簡單喇 你設備做出來了 能用嗎?會不會 08/28 12:45
: → strlen : 跑一跑有bug 當機 燒壞 各種毛 08/28 12:45
: 推 s56565566123: Nv 沒有對手 08/28 12:45
: 推 KiwiSoda01 : 一般價格一般算力 加上電費跟額外處理自己需求就虧 08/28 12:46
: → KiwiSoda01 : 了 08/28 12:46
: 推 co80040814 : 制定標準是一個最賺錢的方法 08/28 12:46
: → KiwiSoda01 : 買越多省越多 真的不是隨便說說 08/28 12:46
: 推 Samurai : 轉譯,原廠隨便改版都弄死你,傻了才擔這個風險 08/28 12:47
: 推 js850604 : CUDA有一整個完整的社區當支持,強的是使用者多 08/28 12:48
: 推 SSglamr : 那是整組的 NV驅動值5000沒聽過嗎 跑LLM不一定要NV 08/28 12:48
: → SSglamr : 華為也可以跑啊 但目前NV最有效率 08/28 12:49
: 推 RinLink : 一個基本的觀念 軟體的一切取決於硬體 08/28 12:49
: → Samurai : 先行者優勢就是這麼大,不然windows早就被取代 08/28 12:49
:
: 如果不是從cuda 轉譯
: 而是從自然語言直接轉勒?
: 天方夜譚?AI的強項不是?
: ※ 編輯: breathair (42.76.203.28 臺灣), 08/28/2024 12:54:10
: 推 havochuman : 老黃強到只怕分拆 懂嗎? 08/28 12:52
: 推 acgotaku : Cuda 是軟硬整合平台不是編程語言 他的語言是 c 08/28 12:53
: → acgotaku : 既然是軟硬整合 就要知道 你的計算機架構不是 nv 08/28 12:54
: → acgotaku : 的 08/28 12:54
: 噓 dos01 : AMD有做過類似的事情 但實際的效能算下來就很差 08/28 12:54
: → sezna : 轉譯哪有那麼簡單,光是效能就搞死你 08/28 12:54
: → acgotaku : 你抄也沒用,要自己調教出自己軟硬整合平台 08/28 12:55
: → dos01 : 對廠商來說 搞這些東西還不如多花點錢跟NV買顯卡 08/28 12:55
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.73.76.206 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1724823133.A.613.html
推
08/28 13:36,
2月前
, 1F
08/28 13:36, 1F
推
08/28 13:37,
2月前
, 2F
08/28 13:37, 2F
推
08/28 13:37,
2月前
, 3F
08/28 13:37, 3F
→
08/28 13:37,
2月前
, 4F
08/28 13:37, 4F
推
08/28 13:39,
2月前
, 5F
08/28 13:39, 5F
推
08/28 13:41,
2月前
, 6F
08/28 13:41, 6F
推
08/28 13:41,
2月前
, 7F
08/28 13:41, 7F
→
08/28 13:41,
2月前
, 8F
08/28 13:41, 8F
→
08/28 13:42,
2月前
, 9F
08/28 13:42, 9F
推
08/28 13:42,
2月前
, 10F
08/28 13:42, 10F
推
08/28 13:43,
2月前
, 11F
08/28 13:43, 11F
推
08/28 13:45,
2月前
, 12F
08/28 13:45, 12F
推
08/28 13:45,
2月前
, 13F
08/28 13:45, 13F
推
08/28 13:46,
2月前
, 14F
08/28 13:46, 14F
推
08/28 13:52,
2月前
, 15F
08/28 13:52, 15F
→
08/28 13:52,
2月前
, 16F
08/28 13:52, 16F
推
08/28 13:52,
2月前
, 17F
08/28 13:52, 17F
推
08/28 13:53,
2月前
, 18F
08/28 13:53, 18F
※ 編輯: zxwxz (42.73.76.206 臺灣), 08/28/2024 13:54:20
→
08/28 14:00,
2月前
, 19F
08/28 14:00, 19F
推
08/28 14:00,
2月前
, 20F
08/28 14:00, 20F
→
08/28 14:01,
2月前
, 21F
08/28 14:01, 21F
→
08/28 14:01,
2月前
, 22F
08/28 14:01, 22F
→
08/28 14:01,
2月前
, 23F
08/28 14:01, 23F
推
08/28 14:04,
2月前
, 24F
08/28 14:04, 24F
推
08/28 14:06,
2月前
, 25F
08/28 14:06, 25F
推
08/28 14:11,
2月前
, 26F
08/28 14:11, 26F
→
08/28 14:11,
2月前
, 27F
08/28 14:11, 27F
推
08/28 14:12,
2月前
, 28F
08/28 14:12, 28F
→
08/28 14:12,
2月前
, 29F
08/28 14:12, 29F
推
08/28 14:13,
2月前
, 30F
08/28 14:13, 30F
推
08/28 14:15,
2月前
, 31F
08/28 14:15, 31F
→
08/28 14:15,
2月前
, 32F
08/28 14:15, 32F
推
08/28 14:20,
2月前
, 33F
08/28 14:20, 33F
推
08/28 14:21,
2月前
, 34F
08/28 14:21, 34F
推
08/28 14:21,
2月前
, 35F
08/28 14:21, 35F
推
08/28 14:23,
2月前
, 36F
08/28 14:23, 36F
推
08/28 14:23,
2月前
, 37F
08/28 14:23, 37F
推
08/28 14:24,
2月前
, 38F
08/28 14:24, 38F
推
08/28 14:24,
2月前
, 39F
08/28 14:24, 39F
推
08/28 14:28,
2月前
, 40F
08/28 14:28, 40F
→
08/28 14:28,
2月前
, 41F
08/28 14:28, 41F
→
08/28 14:29,
2月前
, 42F
08/28 14:29, 42F
推
08/28 14:31,
2月前
, 43F
08/28 14:31, 43F
推
08/28 14:36,
2月前
, 44F
08/28 14:36, 44F
→
08/28 14:39,
2月前
, 45F
08/28 14:39, 45F
推
08/28 14:56,
2月前
, 46F
08/28 14:56, 46F
→
08/28 14:58,
2月前
, 47F
08/28 14:58, 47F
推
08/28 15:05,
2月前
, 48F
08/28 15:05, 48F
推
08/28 15:15,
2月前
, 49F
08/28 15:15, 49F
推
08/28 15:29,
2月前
, 50F
08/28 15:29, 50F
推
08/28 15:36,
2月前
, 51F
08/28 15:36, 51F
推
08/28 15:39,
2月前
, 52F
08/28 15:39, 52F
→
08/28 15:39,
2月前
, 53F
08/28 15:39, 53F
→
08/28 15:55,
2月前
, 54F
08/28 15:55, 54F
→
08/28 15:55,
2月前
, 55F
08/28 15:55, 55F
→
08/28 15:58,
2月前
, 56F
08/28 15:58, 56F
→
08/28 15:58,
2月前
, 57F
08/28 15:58, 57F
→
08/28 15:58,
2月前
, 58F
08/28 15:58, 58F
→
08/28 16:02,
2月前
, 59F
08/28 16:02, 59F
→
08/28 16:02,
2月前
, 60F
08/28 16:02, 60F
→
08/28 16:02,
2月前
, 61F
08/28 16:02, 61F
→
08/28 16:02,
2月前
, 62F
08/28 16:02, 62F
推
08/28 16:12,
2月前
, 63F
08/28 16:12, 63F
推
08/28 16:25,
2月前
, 64F
08/28 16:25, 64F
推
08/28 16:53,
2月前
, 65F
08/28 16:53, 65F
推
08/28 17:30,
2月前
, 66F
08/28 17:30, 66F
推
08/28 19:00,
2月前
, 67F
08/28 19:00, 67F
推
08/28 19:48,
2月前
, 68F
08/28 19:48, 68F
推
08/28 22:29,
2月前
, 69F
08/28 22:29, 69F
→
08/28 22:29,
2月前
, 70F
08/28 22:29, 70F
討論串 (同標題文章)
Stock 近期熱門文章
PTT職涯區 即時熱門文章