[新聞] 英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3

看板Stock (股票)作者ttucse ((((>(￣▽￣)<))))時間2小時前 (2024/09/28 02:52)推噓3(3推 0噓 3→)

留言6則, 4人參與討論串1/1

英特爾推出搭載P-core效能核心的Xeon 6處理器，更新AI加速器Gaudi 3 https://www.ithome.com.tw/news/165180 搭載P-core效能核心的Xeon 6處理器，最高擁有128個核心，504MB快取記憶體，鎖定邊緣、資料中心到雲端的AI，以及HPC高效能運算需求。英特爾在今年Computex電腦展發表Xeon 6處理器，由搭載效率核心(E-core)版本的Xeon 6處理器先打頭陣，本周英特爾再補齊Xeon 6處理器產品線，推出搭載效能核心(P-core)版本，提高核心數及記憶體頻寬，最高至128個核心。 Xeon 6為伺服器專用處理器，是英特爾首款採用Intel 3節點設計的產品，其中分為搭載E-core效率核心版本（代號Sierra Forest），以及搭載P-core效能核心版本（代號Granite Rapids）。今年6月，英特爾先推出E-core版Xeon 6處理器，鎖定超多核心需求，最高擁有144個E-Core核心，主要鎖定高密度、高能源效率資料中心使用需求，適用於雲原生、CDN、微服務架構等應用。至於新推出的P-core版本Xeon 6處理器，鎖定密集型工作負載需求，AI及高效能運算市場，不僅增加核心數，並且將AI加速功能嵌入到每個核心，記憶體頻寬也加倍。英特爾稱該處理器適用於邊緣、資料中心到雲端的AI運算需求，強調能在不需獨立加速器之下，執行數十億參數的AI模型。根據官網的訊息，Xeon 6900P系列搭載的P-core為超執行緒核心，針對AI、HPC、資料等工作負載需求，採用矩陣引擎，最高擁有128個核心，最多504MB的快取記憶體；而E-core版本的Xeon 6700E系列，使用單執行緒提高核心密度，並且省略矩陣引擎，單處理器最高擁有144個核心，英特爾計畫今年底再推出更高核心數，將單插槽核心數推升至288個核心。除了P-core版Xeon 6的推出，英特爾也更新旗下的AI加速器Gaudi 3，強調為大規模生成式AI需求設計的Gaudi 3，擁有64個張量處理器核心、8個矩陣乘法引擎，內建128GB HBM2e記憶體，支援24個200Gb的網路埠，使新的Gaudi 3 提升20%的吞吐量，英特爾強調和Nvidia的H100相比，在Llama 2 70B推論時，同樣成本下提供2倍的效能。英特爾指出，Gaudi 3支援PyTorch框架、Hugging Face Transformer、Diffuser模型。目前英特爾已和合作夥伴聯手，針對生成式AI最佳化的方案，例如戴爾合作規畫設計RAG方案。各位觀眾 128個性能核心的XEON 我好興奮我好興奮啊是不是G叔要帶領英特爾大反攻了終於有可以跟AMD EPYC抗衡的產品了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.226.67.203 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1727463120.A.812.html