Re: [新聞] 蘋果宣布MLX框架將支援NVIDIA CUDA平台已刪文

看板Stock (股票)作者LDPC (Channel Coding)時間8小時前 (2025/07/23 14:21)推噓2(2推 0噓 6→)

留言8則, 4人參與討論串2/2 (看更多)

應該是真的不過是屬於inference deploy端也就是你在MLX訓練好模型可以直接在NVDIA GPU平台上用CUDA backend跑起來這個訊號意味cuda算力平台已經可以算是主流所以蘋果逼得只好讓自己框架在deploy端可以支援cuda gpu 不然訓練好的模型主流平台都不能滿血跑inference 會挺尷尬的至於要拿NVDIA GPU外接蘋果os去訓練模型大概沒機會了最後一代還能這樣做是TitanXP 時代後來蘋果就不接受cuda driver (NVIDIA都會幫忙寫) 所以就GG 現在就是看果家到底要不要擁抱NVDA 開始好好做開源ML 這一兩年應該就會看到定論 QQ -- 最近不知買啥開始買起果家了 @@ 庫克不要讓我失望啊 ※ 引述《dnol (舞秋風憶白雲)》之銘言： : 大躍進！蘋果宣布MLX框架將支援NVIDIA CUDA平台 : 2025-07-16 17:07:35 : 記者孟圓琦／編譯 : https://www.technice.com.tw/issues/ai/182711/ : 蘋果專為Apple Silicon設計的機器學習框架MLX，目前正積極導入NVIDIA CUDA 平台支援 : ，此舉對於機器學習領域而言，無疑是一項重大進展。 : MLX 是一個專為在 Apple 晶片上進行高效、靈活的機器學習研究而設計的陣列框架。如 : 今宣告將導入NVIDIA CUDA 平台支援。 : 經外媒《AppleInsider》報導指出，這項工作的推動者是 GitHub 上的開發者@zcbenz， : 他早在數月前便開始著手 CUDA 支援的原型開發。隨後，他將專案拆分成多個較小部分， : 並逐步將其整合至 Apple MLX 的主分支中。儘管 CUDA 後端目前仍在開發階段，但多項 : 核心運算操作已獲得支援並通過測試，包括矩陣乘法、Softmax、歸約、排序和索引等。 : CUDA (Compute Unified Device Architecture)，本質上是 NVIDIA 硬體的「Metal」： : 一個專為自家 GPU 設計的運算平台，旨在最大化其在高效率平行運算任務中的效能。對 : 於許多人而言，CUDA 是在 NVIDIA GPU 上執行機器學習工作負載的標準方式，並廣泛應 : 用於整個機器學習生態系統，從學術研究到商業部署。諸如PyTorch和TensorFlow等深度 : 學習框架，都依賴 CUDA 來利用 GPU 加速運算。 : 那麼，為何 Apple 的 MLX 框架要開始支援 CUDA 呢？MLX 最初是為 Apple Silicon 和 : Metal 進行優化，但增加 CUDA 後端改變了這一局面。現在，研究人員和工程師可以在 : Mac 上利用 MLX 本地開發 CUDA 模型，然後將其部署到大型 NVIDIA GPU 叢集上，這些 : 叢集目前在機器學習訓練工作負載方面仍佔據主導地位。 : 儘管如此，目前仍存在一些限制，其中大部分仍在積極開發中。例如，並非所有 MLX 運 : 算子都已實作完成，且對 AMD GPU 的支援仍在更遠的計畫中。 : 即便如此，能夠在無需重寫程式碼的情況下，將 MLX 程式碼引入 NVIDIA GPU，為更快的 : 測試、實驗和研究用例開啟了大門，這幾乎是所有 AI 開發人員都樂於聽到的消息。 : 心得/評論： : 這則新聞出來有一個星期了，但我沒看到版上有人貼。 : 所以我貼出來，想趁機討論一下。 : 我剛去查証了一下，這消息似乎是小道消息，蘋果似乎沒有正式的發怖這個消息。 : 若蘋果打算將他們內部的AI架構port到cuda上。 : 這是不是暗示，蘋果以後也可能擁抱nvidia生態系。 : 以前就有聽說，蘋果很排斥nvidia，因為以前有過節。 : 難道不久的未來，我們會看到大合解? : nvidia和蘋果的股價一起up up? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.162.249.23 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1753251689.A.12E.html ※ 編輯: LDPC (1.162.249.23 臺灣), 07/23/2025 14:22:28