PTT職涯區 / Tech_Job (科技人)

[新聞] 蘋果轉向Google：沒有用任何輝達GPU訓練自家AI

看板Tech_Job (科技人)作者 (無法顯示人物名稱)時間3月前 (2024/07/30 07:50), 3月前編輯推噓17(19推 2噓 18→)
留言39則, 25人參與, 3月前最新討論串1/1
蘋果技術文件揭密：AI模型以Google客製晶片訓練 MoneyDJ新聞 2024-07-30 08:23:15 記者 郭妍希 報導 蘋果(Apple Inc.)透露，兩款支持「Apple Intelligence」的AI模型，都是以Google設計 的客製化「張量處理單元」(TPU)在雲端進行訓練。 CNBC報導，蘋果週一(7月29日)釋出的技術文件顯示，蘋果基礎模型(Apple Foundation Model, AFM)及AFM伺服器都是以「v4和v5p雲端TPU叢集」、運用蘋果軟體進行初步訓練。 這代表蘋果向一家雲端商租下伺服器來執行運算。蘋果在文件中表示，「該系統讓我們得 以有效擴大訓練AFM模型(當中包括AFM終端裝置、AFM伺服器)，以及規模更大的模型。」 蘋果文件中顯示，AFM終端裝置是以2048顆TPU v5p組成的單一切片(slice)進行訓練。v5p 是最先進的TPU，首度於2023年12月發布。AFM伺服器則是以8192顆TPU v4晶片組成的八個 切片訓練。 根據Google官網，旗下最先進TPU若提前三年預定，則每使用一小時的成本不到2美元。 Google是在2015年首次發布TPU、供內部作業使用，2017年才對外推出。TPU如今是最成熟 的AI客製化晶片之一。 不過，Google仍是輝達(Nvidia Corp.)首要客戶之一，不但同時運用輝達GPU及自家TPU訓 練AI系統，也在自家雲端平台販售使用輝達科技的服務。 蘋果先前曾說，AI推論任務有部分會在使用蘋果自家晶片的自有資料中心執行。 根據之前的媒體報導，參與蘋果伺服器專案「Project ACDC (即Apple Chips in Data Center、蘋果資料中心晶片)」的人士強調，自家伺服器處理器的內部元件仍可捍衛用戶 隱私。蘋果處理器的「安全隔離區」(Secure Enclave)技術，可避免資料外洩。目前蘋果 計畫以自家的資料中心執行雲端功能，但最終仍會仰賴外部設施，如同iCloud等服務。 Meta執行長祖克柏(Mark Zuckerberg)最近接受彭博社記者Emily Chang主持的podcast節 目訪問時透露，雖然業界也許對AI基礎建設投資過度，但假使進度落後，則未來10~15年 將無法在這個最重要的科技市場佔有一席之地。 https://pse.is/69xdjm -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.218.53.138 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1722297049.A.BAA.html
→
07/30 07:53, 3月前 , 1F
那就是有了
07/30 07:53, 1F
推
07/30 07:55, 3月前 , 2F
Google母公司甲骨文？
07/30 07:55, 2F
→
07/30 08:03, 3月前 , 3F
那蘋果就等死了 手機已經爛到不行技術都偷安卓 vis
07/30 08:03, 3F
→
07/30 08:03, 3月前 , 4F
ion pro沒人買 只能靠信仰假環保真斂財了
07/30 08:03, 4F
→
07/30 08:09, 3月前 , 5F
支持G哪來的客製化晶片
07/30 08:09, 5F
→
07/30 08:10, 3月前 , 6F
Colab都還是用nv的
07/30 08:10, 6F
推
07/30 08:18, 3月前 , 7F
Google有TPU，但它不是像NV那種通用計算卡
07/30 08:18, 7F
噓
07/30 08:23, 3月前 , 8F
這記者的邏輯無法理解
07/30 08:23, 8F
→
07/30 08:24, 3月前 , 9F
我說我早餐喝咖啡 代表我沒有吃任何麵包？
07/30 08:24, 9F
推
07/30 08:26, 3月前 , 10F
蘋果近幾年的策略有哪個是正確的
07/30 08:26, 10F
推
07/30 08:37, 3月前 , 11F
可憐的頻果，正在加速殞落
07/30 08:37, 11F
推
07/30 08:44, 3月前 , 12F
TPU至少供貨順暢？
07/30 08:44, 12F
推
07/30 08:48, 3月前 , 13F
選邊站？
07/30 08:48, 13F
→
07/30 08:49, 3月前 , 14F
代表時間夠的話 不用最新的晶片 也能訓練出堪用的模
07/30 08:49, 14F
→
07/30 08:49, 3月前 , 15F
型 變成cp值優先
07/30 08:49, 15F
推
07/30 08:50, 3月前 , 16F
蘋果自己可以不用CUDA 其他人不行啊 感覺不太能比較
07/30 08:50, 16F
推
07/30 08:51, 3月前 , 17F
AI終端設備能做什麼？現在頂多AI相機而已
07/30 08:51, 17F
推
07/30 08:54, 3月前 , 18F
怕爆
07/30 08:54, 18F
噓
07/30 08:56, 3月前 , 19F
你遲早要用輝達的
07/30 08:56, 19F
※ 編輯: jeff0025 (61.218.53.138 臺灣), 07/30/2024 09:07:12
推
07/30 09:39, 3月前 , 20F
colab也能用tpu啊 。。。
07/30 09:39, 20F
推
07/30 10:09, 3月前 , 21F
支持
07/30 10:09, 21F
推
07/30 10:28, 3月前 , 22F
訓練model跟run model 其實是兩回事
07/30 10:28, 22F
推
07/30 10:38, 3月前 , 23F
這篇可能代表蘋果自己的ai晶片只能run model
07/30 10:38, 23F
→
07/30 10:38, 3月前 , 24F
但是開發train model還是用tpu
07/30 10:38, 24F
→
07/30 10:50, 3月前 , 25F
做出AI肝GG股票又要漲了
07/30 10:50, 25F
→
07/30 10:53, 3月前 , 26F
沒事啦 蘋果本來也是綁架用戶的平台商 又不靠自己
07/30 10:53, 26F
推
07/30 11:36, 3月前 , 27F
果粉的信仰還是能讓apple再賺20年的啦
07/30 11:36, 27F
推
07/30 12:36, 3月前 , 28F
人家中國手機都不需要這些訓練就可以達成AI，感覺
07/30 12:36, 28F
→
07/30 12:36, 3月前 , 29F
蘋果會是下一個NOKIA。
07/30 12:36, 29F
推
07/30 13:10, 3月前 , 30F
要付錢給google 才能一邊聽音樂一邊看網頁的果迷
07/30 13:10, 30F
→
07/30 13:10, 3月前 , 31F
本來就不太需要管他們的感受
07/30 13:10, 31F
推
07/30 13:38, 3月前 , 32F
ai跟5g就是相衝突，比如說離線翻譯，只有在出國下飛
07/30 13:38, 32F
→
07/30 13:38, 3月前 , 33F
機當地sim卡買到前有用
07/30 13:38, 33F
→
07/30 13:40, 3月前 , 34F
之前mtk推這個功能，我就問你到底要賣5g還是ai?
07/30 13:40, 34F
→
07/30 15:16, 3月前 , 35F
還租Google的？ 那算力被別人掌握
07/30 15:16, 35F
推
07/31 09:43, 3月前 , 36F
Apple出一隻爛錶，一堆功能都要收費，果粉還不是爽
07/31 09:43, 36F
→
07/31 09:43, 3月前 , 37F
爽買單
07/31 09:43, 37F
推
08/02 13:04, 3月前 , 38F
蘋果的AI只在蘋果的設備上運行，因此訓練範圍可以
08/02 13:04, 38F
→
08/02 13:04, 3月前 , 39F
限縮，封閉式系統又再次贏
08/02 13:04, 39F
‣ 更多 jeff0025 的文章
文章代碼(AID): #1cg2hPkg (Tech_Job)
Tech_Job 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 jeff0025 的文章
文章代碼(AID): #1cg2hPkg (Tech_Job)