[新聞] 英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄
原文標題:英偉達宣布創造滿血 DeepSeek-R1 模型 AI 推理性能的世界紀錄
原文連結:https://finance.eastmoney.com/a/202503193349461511.html
發布時間:2025年03月19日 08:36
記者署名:
原文內容:
3 月 19 日消息,英偉達在今日舉行的 NVIDIA GTC 2025 上宣布其 NVIDIA Blackwell DGX 系統創下 DeepSeek-R1 大模型推理性能的世界紀錄。
據介紹,在搭載了八塊 Blackwell GPU 的單個 DGX 系統上運行 6710 億參數的滿血 DeepSeek-R1 模型可實現每用戶每秒超 250 token 的響應速度,系統最高吞吐量突破每秒 3 萬 token。
英偉達表示,隨著 NVIDIA 平臺繼續在最新的 Blackwell Ultra GPU 和 Blackwell GPU 上突破推理極限,其性能將會繼續不斷提高。
英偉達表示,通過硬件和軟件的結合,他們自 2025 年 1 月以來成功將 DeepSeek-R1 671B 模型的吞吐量提高了約 36 倍。
與 Hopper 架構相比,Blackwell 架構與 TensorRT 軟件相結合可實現顯著的推理性能提升。
英偉達表示,包括 DeepSeek-R1、Llama 3.1 405B 和 Llama 3.3 70B,運行 TensorRT 軟件並使用 FP4 精度的 DGX B200 平臺與 DGX H200 平臺相比已經提供了 3 倍以上的推理吞吐量提升。
精度 MMLU GSM8K AIME 2024 GPQA Diamond MATH-500
DeepSeek R1-FP8 90.8% 96.3% 80.0% 69.7% 95.4%
DeepSeek R1-FP4 90.7% 96.1% 80.0% 69.2% 94.2%
英偉達表示,在對模型進行量化以利用低精度計算優勢時,確保精度損失最小化是生產部署的關鍵。IT之家註意到,在 DeepSeek-R1 模型上,相較於 FP8 基準精度,TensorRT Model Optimizer 的 FP4 訓練後量化(PTQ)技術在不同數據集上僅產生微乎其微的精度損失。
心得/評論:
NVDIA的GTC開兩天,暴跌兩天。真慘啊
昨天是china ai日,deepseek今天又成爲了舞臺中央的角色
世界AI人才半數是華人,嗯哼。
輝達會在GTC第幾天終止跌幅呢
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.52.231.181 (中國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1742345108.A.615.html
※ 編輯: icrose (123.52.231.181 中國), 03/19/2025 08:47:20
→
03/19 08:46,
7小時前
, 1F
03/19 08:46, 1F
→
03/19 08:46,
7小時前
, 2F
03/19 08:46, 2F
推
03/19 08:47,
7小時前
, 3F
03/19 08:47, 3F
推
03/19 08:48,
7小時前
, 4F
03/19 08:48, 4F
推
03/19 08:49,
7小時前
, 5F
03/19 08:49, 5F
推
03/19 08:52,
7小時前
, 6F
03/19 08:52, 6F
噓
03/19 08:53,
7小時前
, 7F
03/19 08:53, 7F
推
03/19 08:54,
7小時前
, 8F
03/19 08:54, 8F
→
03/19 08:55,
7小時前
, 9F
03/19 08:55, 9F
噓
03/19 08:58,
7小時前
, 10F
03/19 08:58, 10F
→
03/19 08:58,
7小時前
, 11F
03/19 08:58, 11F
→
03/19 08:58,
7小時前
, 12F
03/19 08:58, 12F
→
03/19 08:58,
7小時前
, 13F
03/19 08:58, 13F
→
03/19 08:59,
7小時前
, 14F
03/19 08:59, 14F
噓
03/19 09:00,
7小時前
, 15F
03/19 09:00, 15F
推
03/19 09:05,
6小時前
, 16F
03/19 09:05, 16F
→
03/19 09:05,
6小時前
, 17F
03/19 09:05, 17F
推
03/19 09:05,
6小時前
, 18F
03/19 09:05, 18F
推
03/19 09:05,
6小時前
, 19F
03/19 09:05, 19F
推
03/19 09:06,
6小時前
, 20F
03/19 09:06, 20F
推
03/19 09:07,
6小時前
, 21F
03/19 09:07, 21F
推
03/19 09:08,
6小時前
, 22F
03/19 09:08, 22F
推
03/19 09:08,
6小時前
, 23F
03/19 09:08, 23F
推
03/19 09:08,
6小時前
, 24F
03/19 09:08, 24F
推
03/19 09:08,
6小時前
, 25F
03/19 09:08, 25F
噓
03/19 09:10,
6小時前
, 26F
03/19 09:10, 26F
推
03/19 09:10,
6小時前
, 27F
03/19 09:10, 27F
→
03/19 09:11,
6小時前
, 28F
03/19 09:11, 28F
→
03/19 09:11,
6小時前
, 29F
03/19 09:11, 29F
→
03/19 09:12,
6小時前
, 30F
03/19 09:12, 30F
推
03/19 09:12,
6小時前
, 31F
03/19 09:12, 31F
推
03/19 09:12,
6小時前
, 32F
03/19 09:12, 32F
→
03/19 09:13,
6小時前
, 33F
03/19 09:13, 33F
→
03/19 09:13,
6小時前
, 34F
03/19 09:13, 34F
推
03/19 09:13,
6小時前
, 35F
03/19 09:13, 35F
→
03/19 09:14,
6小時前
, 36F
03/19 09:14, 36F
推
03/19 09:14,
6小時前
, 37F
03/19 09:14, 37F
推
03/19 09:15,
6小時前
, 38F
03/19 09:15, 38F
推
03/19 09:15,
6小時前
, 39F
03/19 09:15, 39F
還有 42 則推文
推
03/19 10:08,
5小時前
, 82F
03/19 10:08, 82F
推
03/19 10:10,
5小時前
, 83F
03/19 10:10, 83F
→
03/19 10:10,
5小時前
, 84F
03/19 10:10, 84F
→
03/19 10:10,
5小時前
, 85F
03/19 10:10, 85F
→
03/19 10:12,
5小時前
, 86F
03/19 10:12, 86F
推
03/19 10:13,
5小時前
, 87F
03/19 10:13, 87F
噓
03/19 10:13,
5小時前
, 88F
03/19 10:13, 88F
推
03/19 10:14,
5小時前
, 89F
03/19 10:14, 89F
→
03/19 10:14,
5小時前
, 90F
03/19 10:14, 90F
推
03/19 10:15,
5小時前
, 91F
03/19 10:15, 91F
→
03/19 10:15,
5小時前
, 92F
03/19 10:15, 92F
推
03/19 10:15,
5小時前
, 93F
03/19 10:15, 93F
推
03/19 10:16,
5小時前
, 94F
03/19 10:16, 94F
推
03/19 10:16,
5小時前
, 95F
03/19 10:16, 95F
→
03/19 10:16,
5小時前
, 96F
03/19 10:16, 96F
推
03/19 10:17,
5小時前
, 97F
03/19 10:17, 97F
推
03/19 10:22,
5小時前
, 98F
03/19 10:22, 98F
噓
03/19 10:28,
5小時前
, 99F
03/19 10:28, 99F
→
03/19 10:43,
5小時前
, 100F
03/19 10:43, 100F
推
03/19 10:50,
5小時前
, 101F
03/19 10:50, 101F
噓
03/19 11:05,
4小時前
, 102F
03/19 11:05, 102F

推
03/19 11:06,
4小時前
, 103F
03/19 11:06, 103F
推
03/19 11:07,
4小時前
, 104F
03/19 11:07, 104F
推
03/19 11:10,
4小時前
, 105F
03/19 11:10, 105F
→
03/19 11:15,
4小時前
, 106F
03/19 11:15, 106F
噓
03/19 11:20,
4小時前
, 107F
03/19 11:20, 107F
→
03/19 11:20,
4小時前
, 108F
03/19 11:20, 108F
推
03/19 11:22,
4小時前
, 109F
03/19 11:22, 109F
→
03/19 11:22,
4小時前
, 110F
03/19 11:22, 110F
噓
03/19 11:23,
4小時前
, 111F
03/19 11:23, 111F
→
03/19 11:24,
4小時前
, 112F
03/19 11:24, 112F
推
03/19 11:29,
4小時前
, 113F
03/19 11:29, 113F
推
03/19 11:30,
4小時前
, 114F
03/19 11:30, 114F
→
03/19 11:36,
4小時前
, 115F
03/19 11:36, 115F
推
03/19 12:08,
3小時前
, 116F
03/19 12:08, 116F
推
03/19 12:22,
3小時前
, 117F
03/19 12:22, 117F
推
03/19 12:47,
3小時前
, 118F
03/19 12:47, 118F
推
03/19 12:53,
3小時前
, 119F
03/19 12:53, 119F
→
03/19 12:54,
3小時前
, 120F
03/19 12:54, 120F
→
03/19 12:56,
3小時前
, 121F
03/19 12:56, 121F
Stock 近期熱門文章
PTT職涯區 即時熱門文章