[新聞] 別小看Gaudi 3，其採取低成本和慢慢蠶食戰略，伺機奪下AI晶片市場

看板Tech_Job (科技人)作者stpiknow (H)時間1周前 (2024/04/17 07:52)推噓6(6推 0噓 3→)

留言9則, 8人參與討論串1/1

別小看Gaudi 3，其採取低成本和慢慢蠶食戰略，伺機奪下AI晶片市場原文網址: https://bit.ly/3xOU5as 原文: 為了加強與輝達在AI訓練和推理應用晶片市場的競爭，英特爾推出了人工智慧加速器晶片 Gaudi 3。該公司聲稱它比Nvidia的H100 GPU更快、更有效率，並且與Nvidia最近推出的 Blackwell級GPU相比「極具競爭力」。英特爾聲稱，Gaudi 3在訓練大語言模型方面比H100快1.7倍。在推理方面，Gaudi 3的推理應用速度比H100快1.5倍，也比H200快1.3倍。英特爾還表示，Gaudi 3在運行LLM時的能效比H100高出2.3倍。最重要的是，Gaudi 3的成本預算僅僅是輝達H100的一小部分。由於這些因素，使得Naver（韓國網路公司）、博世、IBM、Ola等成為英特爾Gaudi 3的客戶和合作夥伴。而2024年第二季度，英特爾將向戴爾、惠普以及超微型電腦（Super Micro Computer）、和聯想等OEM廠商首批供貨。正式上市時程卻是在第三季。基本上，Gaudi 3 AI加速器可描述為具有「異質電腦架構」。它擁有64顆Tensor處理器核心（第五代）、8個矩陣數學引擎、128 GB HBM容量（3.7 TB/s）、96 MB SRAM（12.8 TB/s）、24個200 GbE RoCE乙太網路連接埠和PCIe 5。雖然Gaudi 3比起H100更好，但是卻不足以對抗輝達Blackwell平台。英特爾構思的策略是，隨著企業面臨AI成本不斷上升的問題，任何能夠保持效能但價格更實惠的產品都將是非常具吸引力的解決方案。從平台特性和功能來說，輝達Blackwell平台絕對沒有一家公司能夠與之抗衡，但是價格標籤是Blackwell的一個嚴重阻礙，更何況輝達宣稱，B100晶片初期將供不應求。這就給英特爾一個戰略的切入點，畢竟，想要省錢但卻在可接受替代方案上，Gaudi 3產品的確是最佳選擇。如果當初英特爾直接研發出超越B100的AI晶片，可能會面臨在硬體技術領先，但整體生態追不上，且成本過高的窘境。反而沒有其他公司願意嘗試Gaudi 3。如今在成本優勢下， Gaudi 3在性能上超越H100，就足以讓其他公司願意嘗試採用，畢竟，英特爾並未擁有 CUDA的軟體。換句話說，想要其他企業採用Gaudi 3，英特爾必須在軟體上齊頭並進。有了低成本的硬體，企業才有嘗試UXL開源軟體平台的勇氣。英特爾知道輝達成功的關鍵之一是CUDA，甚至說是軟硬體結合的生態體系，所以初期策略絕對不要硬碰硬，而且慢慢蠶食輝達的市場佔有率。先讓一小部分企業願意嘗試Gaudi 3 和其開源軟體平台，再透過口耳相傳以及企業反饋，來搶奪市場大餅。如今仍難以知道英特爾這些戰略會不會奏效，還是要等產品上市才能揭曉。但從戰略角度上，的確是具有威脅力的嘗試啊！ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1713311560.A.60B.html