[新聞] 微軟、谷歌、Meta和其他大廠創建AI晶片標準組織UALink，期望對抗輝達

看板Tech_Job (科技人)作者stpiknow (H)時間5月前 (2024/06/03 12:25)推噓3(4推 1噓 2→)

留言7則, 7人參與討論串1/1

微軟、谷歌、Meta和其他大廠創建AI晶片標準組織UALink，期望對抗輝達原文網址: https://bit.ly/45a0jhN 原文: 超微、博通、思科、谷歌、惠普企業、英特爾、Meta和微軟正在結合他們的專業知識，創建一個針對AI晶片技術的開放式產業標準，名為UALink (Ultra Accelerator Link) 推廣群組。該標準的設立將改善數據中心AI加速器晶片之間的高速和低延遲通訊。開放式標準將提高整個產業的AI/ML效能，這意味著沒有一家公司能夠不成比例地利用最新、最好的AI/ML、高效能運算和雲端應用程式的需求。值得注意的是，現今領導者輝達以及投資Anthropic的亞馬遜並未出現在所謂的UALink 推廣群組中。 UALink推廣組織預計將在2024年第三季建立一個由公司組成的聯盟，負責管理 UALink 標準的持續開發，並在大約同一時間獲得UALink 1.0的存取權限。更高頻寬的版本預計於 2024年第四季發布。所謂的UALink是一種連接伺服器中AI加速器晶片的定義方式，以實現它們之間更快、更有效率的通訊。 AI加速器晶片與GPU、TPU和其他專用AI處理器一樣，是所有AI技術的核心。每一個都可以同時執行大量複雜的操作；然而，為了實現訓練、運行和優化AI模型所需的高工作負載，它們需要連接起來。加速器晶片之間的資料傳輸速度愈快，它們存取和處理必要數據的速度就愈快，並且共享工作負載的效率也愈高。 UALink推廣組織即將發布的第一個標準UALink 1.0將包含多達1,024個GPU AI加速器，分佈在伺服器中的一個或多個機架上，連接到單一超加速交換器。在這UALink推廣群組中，谷歌擁有客製化的TPU和Axion處理器；英特爾有Gaudi；微軟擁有Maia和Cobalt GPU；Meta有MTIA。這些都可以使用博通所提供的UALink進行連接。這並不是AI領域的第一次此類對抗輝達的動作。2023年12月，超過50家其他組織合作組成了全球人工智慧聯盟，以促進負責任的開源AI，並幫助防止封閉模型開發人員獲得過多權力。這些廠商都希望透過知識共享，幫助且加速全產業範圍內AI效能的進步。AI運算的需求不斷成長，科技公司要跟上，就需要最好的擴展能力。該組織表示，UALink標準將提供了一個強大、低延遲和高效的擴展網絡，可以輕鬆地將運算資源添加到單一實例。總之，這些大廠創建基於開放標準、高效和強大生態系統支援的大規模AI和高效能運算解決方案的豐富經驗。並期待推進AI技術的各個方面並鞏固開放的AI生態系統。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1717388749.A.37A.html