PTT職涯區 / Stock (股票)

[新聞] 蘋果宣布MLX框架將支援NVIDIA CUDA平台

看板Stock (股票)作者 (舞秋風 憶白雲)時間7小時前 (2025/07/23 13:11), 7小時前編輯推噓31(32推 1噓 51→)
留言84則, 41人參與, 2小時前最新討論串1/2 (看更多)
大躍進！蘋果宣布MLX框架將支援NVIDIA CUDA平台 2025-07-16 17:07:35 記者孟圓琦／編譯 https://www.technice.com.tw/issues/ai/182711/ 蘋果專為Apple Silicon設計的機器學習框架MLX，目前正積極導入NVIDIA CUDA 平台支援 ，此舉對於機器學習領域而言，無疑是一項重大進展。 MLX 是一個專為在 Apple 晶片上進行高效、靈活的機器學習研究而設計的陣列框架。如 今宣告將導入NVIDIA CUDA 平台支援。 經外媒《AppleInsider》報導指出，這項工作的推動者是 GitHub 上的開發者@zcbenz， 他早在數月前便開始著手 CUDA 支援的原型開發。隨後，他將專案拆分成多個較小部分， 並逐步將其整合至 Apple MLX 的主分支中。儘管 CUDA 後端目前仍在開發階段，但多項 核心運算操作已獲得支援並通過測試，包括矩陣乘法、Softmax、歸約、排序和索引等。 CUDA (Compute Unified Device Architecture)，本質上是 NVIDIA 硬體的「Metal」： 一個專為自家 GPU 設計的運算平台，旨在最大化其在高效率平行運算任務中的效能。對 於許多人而言，CUDA 是在 NVIDIA GPU 上執行機器學習工作負載的標準方式，並廣泛應 用於整個機器學習生態系統，從學術研究到商業部署。諸如PyTorch和TensorFlow等深度 學習框架，都依賴 CUDA 來利用 GPU 加速運算。 那麼，為何 Apple 的 MLX 框架要開始支援 CUDA 呢？MLX 最初是為 Apple Silicon 和 Metal 進行優化，但增加 CUDA 後端改變了這一局面。現在，研究人員和工程師可以在 Mac 上利用 MLX 本地開發 CUDA 模型，然後將其部署到大型 NVIDIA GPU 叢集上，這些 叢集目前在機器學習訓練工作負載方面仍佔據主導地位。 儘管如此，目前仍存在一些限制，其中大部分仍在積極開發中。例如，並非所有 MLX 運 算子都已實作完成，且對 AMD GPU 的支援仍在更遠的計畫中。 即便如此，能夠在無需重寫程式碼的情況下，將 MLX 程式碼引入 NVIDIA GPU，為更快的 測試、實驗和研究用例開啟了大門，這幾乎是所有 AI 開發人員都樂於聽到的消息。 心得/評論： 這則新聞出來有一個星期了，但我沒看到版上有人貼。 所以我貼出來，想趁機討論一下。 我剛去查証了一下，這消息似乎是小道消息，蘋果似乎沒有正式的發怖這個消息。 若蘋果打算將他們內部的AI架構port到cuda上。 這是不是暗示，蘋果以後也可能擁抱nvidia生態系。 以前就有聽說，蘋果很排斥nvidia，因為以前有過節。 難道不久的未來，我們會看到大合解? nvidia和蘋果的股價一起up up? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 211.21.176.170 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1753247498.A.510.html ※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:12:18 ※ 編輯: dnol (211.21.176.170 臺灣), 07/23/2025 13:14:19
推
07/23 13:13, 7小時前 , 1F
很難說 可能全部都支援 ASIC CUDA AMD M4 晶片一起
07/23 13:13, 1F
推
07/23 13:16, 7小時前 , 2F
最近蘋果漲這個？
07/23 13:16, 2F
推
07/23 13:16, 7小時前 , 3F
以後可能Mac Pro裝GB300下一代
07/23 13:16, 3F
推
07/23 13:18, 7小時前 , 4F
自家晶片無法跑AI？
07/23 13:18, 4F
推
07/23 13:20, 7小時前 , 5F
AAPL大戶：讓我們拉高出貨臭了嗎？
07/23 13:20, 5F
推
07/23 13:21, 7小時前 , 6F
老黃在中國才講我們歡迎任何人來兼容CUDA 哈
07/23 13:21, 6F
→
07/23 13:22, 7小時前 , 7F
人人笑阿婆，阿婆還是越來越貴
07/23 13:22, 7F
推
07/23 13:27, 7小時前 , 8F
不用cuda 還能用啥
07/23 13:27, 8F
推
07/23 13:32, 7小時前 , 9F
類似編譯成CUDA語言,然後發包給CUDA執行吧
07/23 13:32, 9F
→
07/23 13:33, 7小時前 , 10F
這樣不管底層是用啥硬體(Apple晶片,NV晶片),都可跑
07/23 13:33, 10F
→
07/23 13:33, 7小時前 , 11F
那,學MLX就不用學CUDA,一樣可以用到NV GPU來工作
07/23 13:33, 11F
→
07/23 13:34, 7小時前 , 12F
OK NV繼續噴
07/23 13:34, 12F
→
07/23 13:40, 7小時前 , 13F
類似proton轉譯吧，讓Linux可以玩win平台3A大作
07/23 13:40, 13F
→
07/23 13:49, 7小時前 , 14F
未來相容華為
07/23 13:49, 14F
推
07/23 13:53, 6小時前 , 15F
應該是軟體編譯轉譯,底層硬體Apple晶片不支援cuda
07/23 13:53, 15F
→
07/23 13:53, 6小時前 , 16F
因為Apple晶片支援cuda會有智慧財產權的問題
07/23 13:53, 16F
→
07/23 13:54, 6小時前 , 17F
07/23 13:54, 17F
推
07/23 13:55, 6小時前 , 18F
是framework 支援。不是硬體支援。要不然在Mac 上
07/23 13:55, 18F
→
07/23 13:55, 6小時前 , 19F
無法認真開發 LLM
07/23 13:55, 19F
推
07/23 13:58, 6小時前 , 20F
這就是單純framework支援CUDA backend而已
07/23 13:58, 20F
推
07/23 13:59, 6小時前 , 21F
AI coding 能力若真那麼強
07/23 13:59, 21F
→
07/23 13:59, 6小時前 , 22F
這種改寫的程式應該是沒什麼難度
07/23 13:59, 22F
→
07/23 14:00, 6小時前 , 23F
在mac 上連要推論都只有那幾個選項啦..但存粹拿llm
07/23 14:00, 23F
→
07/23 14:00, 6小時前 , 24F
來開發ai agent 好像也不需要這些啊
07/23 14:00, 24F
推
07/23 14:00, 6小時前 , 25F
應該說弄一條快速道路共享速度的資源，至於到哪個
07/23 14:00, 25F
→
07/23 14:00, 6小時前 , 26F
城市發展做什麼事情，交流道怎麼開發，就是廠商自己
07/23 14:00, 26F
→
07/23 14:00, 6小時前 , 27F
的事情了
07/23 14:00, 27F
→
07/23 14:01, 6小時前 , 28F
Apple Silicone做不出自己要的AI晶片吧，低頭轉向NV
07/23 14:01, 28F
→
07/23 14:01, 6小時前 , 29F
的硬體了
07/23 14:01, 29F
推
07/23 14:02, 6小時前 , 30F
確定不是文化大革命或土法煉鋼？
07/23 14:02, 30F
→
07/23 14:02, 6小時前 , 31F
他這篇的新聞到底要實現啥功能==
07/23 14:02, 31F
→
07/23 14:02, 6小時前 , 32F
如果是在蘋果晶片上面模擬cuda 的話，其實也沒啥不
07/23 14:02, 32F
→
07/23 14:02, 6小時前 , 33F
好
07/23 14:02, 33F
推
07/23 14:04, 6小時前 , 34F
新聞不是說用MLX框架開發的程式，未來可以丟到大型
07/23 14:04, 34F
→
07/23 14:04, 6小時前 , 35F
NV GPU叢集嗎？
07/23 14:04, 35F
推
07/23 14:06, 6小時前 , 36F
沒有用 apple晶片拿來做endpoint inference就好了
07/23 14:06, 36F
→
07/23 14:06, 6小時前 , 37F
他又不是拿來做train model的
07/23 14:06, 37F
→
07/23 14:07, 6小時前 , 38F
這篇只是講他內部有工程師把Apple晶片porting 到
07/23 14:07, 38F
→
07/23 14:07, 6小時前 , 39F
cuda layer上而已 實際沒屁用
07/23 14:07, 39F
→
07/23 14:08, 6小時前 , 40F
AMD有贊助過轉譯的專案 已經終止了 變數太大很難長
07/23 14:08, 40F
→
07/23 14:08, 6小時前 , 41F
把硬體port到CUDA上？你是不是看反了？
07/23 14:08, 41F
→
07/23 14:08, 6小時前 , 42F
期有效的使用 搞生產力的也沒閒時間一直debug
07/23 14:08, 42F
推
07/23 14:09, 6小時前 , 43F
晚了我們也不要啦
07/23 14:09, 43F
→
07/23 14:10, 6小時前 , 44F
8051也宣布支援CUDA平台
07/23 14:10, 44F
推
07/23 14:10, 6小時前 , 45F
M5+RTX50X0成為官配，蛋雕自家顯示單元？
07/23 14:10, 45F
→
07/23 14:10, 6小時前 , 46F
MacBook 和iMac 重新擁抱輝達行動顯示晶片？
07/23 14:10, 46F
→
07/23 14:12, 6小時前 , 47F
呃，可是現在這種框架跨平台的這麼多，這樣跨的意
07/23 14:12, 47F
→
07/23 14:12, 6小時前 , 48F
義是？
07/23 14:12, 48F
→
07/23 14:14, 6小時前 , 49F
意義就是Apple AI可以不用跑在Apple Silicone 晶片
07/23 14:14, 49F
→
07/23 14:14, 6小時前 , 50F
上了，以後可以拿NV GPU跑Apple AI
07/23 14:14, 50F
→
07/23 14:14, 6小時前 , 51F
沒有意義啊 就一個玩家向的開源計畫 直接去搞一台
07/23 14:14, 51F
推
07/23 14:15, 6小時前 , 52F
樓上說對了 根本毫無意義
07/23 14:15, 52F
→
07/23 14:15, 6小時前 , 53F
訓練完的模型原地轉mlx給Apple的裝置推論就好
07/23 14:15, 53F
→
07/23 14:16, 6小時前 , 54F
RTX 6000 Ada的工作站就直接上工了 Mac Pro直接蛋雕
07/23 14:16, 54F
推
07/23 14:16, 6小時前 , 55F
下一代果粉人均一張輝達顯卡，輝達更有底氣把顯卡
07/23 14:16, 55F
→
07/23 14:16, 6小時前 , 56F
售價提升，下一世代90系定價有機會突破12萬囉
07/23 14:16, 56F
→
07/23 14:17, 6小時前 , 57F
那也要Apple Silicone的運算能力跟得上呀，如果真的
07/23 14:17, 57F
→
07/23 14:17, 6小時前 , 58F
好棒棒，為什麼突然主動支援NV
07/23 14:17, 58F
推
07/23 14:19, 6小時前 , 59F
噴爆 我還以為蘋果要擺脫NV自己弄
07/23 14:19, 59F
→
07/23 14:19, 6小時前 , 60F
現在老牌框架也支援mac gpu 啊，幹嘛蛋雕==
07/23 14:19, 60F
推
07/23 14:19, 6小時前 , 61F
未來相容華為 華為取得技術後 寫中國專利 再趕走NV
07/23 14:19, 61F
→
07/23 14:20, 6小時前 , 62F
看s大說的，是想讓自家的學習框架也能跨平台而已
07/23 14:20, 62F
推
07/23 14:22, 6小時前 , 63F
你都說一個星期 看k棒不就知道了 低調就好
07/23 14:22, 63F
→
07/23 14:22, 6小時前 , 64F
如果是這樣，那沒啥反應也很正常，太小眾了
07/23 14:22, 64F
→
07/23 14:22, 6小時前 , 65F
終究還是要歸隊
07/23 14:22, 65F
噓
07/23 14:22, 6小時前 , 66F
不用蘋果 難道你要用大陸機？
07/23 14:22, 66F
→
07/23 14:25, 6小時前 , 67F
我是比較悲觀的覺得Apple因為算力因素不得不相容NV
07/23 14:25, 67F
→
07/23 14:25, 6小時前 , 68F
啦；但你說的沒錯，也可能是開發資源足夠，來試看看
07/23 14:25, 68F
→
07/23 14:25, 6小時前 , 69F
相容其他平台，增加一點相容性。
07/23 14:25, 69F
推
07/23 14:25, 6小時前 , 70F
All in NVDA
07/23 14:25, 70F
→
07/23 14:28, 6小時前 , 71F
我的看法這就像支援directx讓你打電動一樣來增加附
07/23 14:28, 71F
→
07/23 14:29, 6小時前 , 72F
加價值 但識貨的就不會在mac上折騰那些
07/23 14:29, 72F
→
07/23 14:32, 6小時前 , 73F
我是認為弄機器學習小專案，mac 是很不錯的平台啦
07/23 14:32, 73F
→
07/23 14:33, 6小時前 , 74F
你肯啟動一萬初就有16g能玩，掛小模型玩玩agent挺
07/23 14:33, 74F
→
07/23 14:33, 6小時前 , 75F
不錯的，還省電
07/23 14:33, 75F
推
07/23 14:37, 6小時前 , 76F
99AMD，還有人在意他嗎
07/23 14:37, 76F
推
07/23 15:00, 5小時前 , 77F
天下苦黃久矣
07/23 15:00, 77F
推
07/23 15:03, 5小時前 , 78F
終究還是要用nvda
07/23 15:03, 78F
推
07/23 15:19, 5小時前 , 79F
這只是讓你能在MAC上開發CUDA相關的程式吧
07/23 15:19, 79F
推
07/23 15:43, 5小時前 , 80F
消息無誤！
07/23 15:43, 80F
推
07/23 15:48, 5小時前 , 81F
NV的護城河又加深啦
07/23 15:48, 81F
推
07/23 16:16, 4小時前 , 82F
打不過就加入，蘋果時代已過
07/23 16:16, 82F
→
07/23 18:15, 2小時前 , 83F
NVDA 噴
07/23 18:15, 83F
推
07/23 18:21, 2小時前 , 84F
所以市長承認自己的做不贏？沒人要用？
07/23 18:21, 84F
‣ 更多 dnol 的文章
文章代碼(AID): #1eW6yAKG (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 dnol 的文章
文章代碼(AID): #1eW6yAKG (Stock)