Re: [新聞] AI PC 的定義該改一改了吧?
※ 引述《AnimalSpirit (動物本能)》之銘言:
: AI PC 的定義該改一改了吧?
: https://technews.tw/2026/08/31/redefine-ai-pc-definition/
: 作者 朱熹 | 發布日期 2026 年 08 月 31 日 7:50
: 三年過去了,還有人記得 AI PC 嗎?想當初英特爾推出 Meteor Lake 時 AI PC 喊得震
: 天嘎響,微軟和高通推出 Copilot PC 後更將氣勢推至高峰。但三年過去,當初定義 AI
: PC 的 NPU 相關應用雖然不缺,但要說已經完全扭轉個人電腦使用體驗還差得遠,也因
: 此 NPU 一詞已慢慢在最近幾個新平台如 Panther Lake 淡出。
: 但地端AI應用興起,AI PC功能似乎又有了新定義:足以驅動地端模型及代理的PC。確實
: 雲端AI和其搭配的代理(如ChatGPT+Codex)已證明能大幅提升人類生產力,但Token費
: 用之後只會越來越貴,畢竟這些雲端AI巨獸得將之前鉅額AI基建投資回收。
: 所以地端AI不只成本有優勢,模型反應時間、AI問世以來始終被放大鏡檢視的隱私議題,
: 地端也有不可取代的重要性。再加上各供應商紛紛推出運行地端AI的解決方案(如NVIDIA
: 的DGX Spark或AMD的Strix Halo),所以筆者之前文章就提到已看到地端AI硬體上開始長
: 出商業服務。
: 所以就像文章標題所說:AI PC定義應該要改了。以往是用平台是否具NPU來判斷,但NPU
: 很顯然已不是地端AI的重點,也並未如當初預期能協助雲端AI做本地端推論,所以NPU不
: 再適合當成AI PC的定義。
: 如果還是要用硬體規格判斷是否為AI PC,那筆者認為「記憶體頻寬」和支援「整合式記
: 憶體」會是關鍵。記憶體頻寬基本上就是決定地端AI TTFT(Time to First Token)和
: Throughput的關鍵,頻寬越大整體使用體驗越流暢,這也是為什麼蘋果M系列晶片廣泛認
: 為是優異的地端AI硬體,因具超大記憶體頻寬,NVIDIA RTX 50 GPU也是一樣的概念。
: 而為了讓地端AI的智慧更高且更多工,支援整合式記憶體(UMA)也相當關鍵。因得以突
: 破傳統GPU VRAM容量的限制,讓終端系統得以用較低廉的價格取得更大的VRAM,塞入更大
: 地端語言模型,讓地端AI更強大。更大整合式記憶體也代表能讓使用者使喚更多代理,徹
: 底發揮大型地端模型的優勢。
: 如果用上述兩個硬體標準看,除了前面提到的DGX Spark和Strix Halo,蘋果M系列晶片和
: NVIDIA即將上市的RTX Spark都是真正意義的AI PC。獨立GPU如RTX 50雖然相比之下VRAM
: 容量這塊處於劣勢,但還是有超高記憶體頻寬,所以還是能稱作是新世代的AI PC。接下
: 來就看英特爾和NVIDIA是否會如之前所說推出具RTX GPU的x86 SoC,如此一來新世代AI
: PC陣容就會更完整。
: 心得/評論:
: 關於AI PC
: 已經沒人談NPU
: 現在都在談Edge AI
: 有多少DRAM 及 Bandwidth
: 最近站上也在大談阿婆的M5 Pro/M6
: NV Spark 因為價格的問題
: 從一開始的唱衰
: 現在也愈來愈被看好
: Edge AI的時代要來了嗎?
:
這東西沒辦法der
原因有一咪咪複雜
兩三年前的ai pc
就拿npu跑跑小東西
例如線上開會 尼度孤的時候幫視訊裡的尼畫眼睛在臉上
所以老闆看不出來尼在度孤
現在的ai pc
要在電腦上跑開源模型
能在電腦上跑開源模型的關鍵因素
一方面記憶體變大惹
主因還是各種堪用的模型從啥16bit 8bit格式降到4bit
還有一堆挖溝洨的技術降低記憶體用量
比較好玩的捏
現在常常拿來比的就阿婆M5/M6 ulra啥的
老黃dgx spark
蘇媽strix halo
阿婆今天會受歡迎
其實算是誤打誤撞
這些東西開發兩三年前就開始惹
當年ai市況邏輯跟現在完全不同
阿婆這東西當時本身目的是去跟獨顯對幹
問題是阿婆沒有gddr這種獨顯在用的高速記憶體
解決方案94塞一堆memory channel
所以頻寬可以跟獨顯嗆
副作用94記憶體上限hen大
副作用反而變成關鍵優勢之一
老黃dgx spark
原先目的是要去搶arm pc市場
因為老黃優勢在內顯
所以就把內顯做大
本體還是pc邏輯
不過當時老黃自己也不知道能打到誰
反正tegra的徒子徒孫幾十年來都是先做再想怎摸賣
蘇媽strix halo/OOXX halo
這東西目標就只是高階筆電
記憶體大小 速度 跟老黃一樣都是pc邏輯
問題是又不太想打到低階獨顯市場
所以gpu運算部分效能不夠
變成最爛也最便宜的那種
也不要期待這塊會有啥大規模改款
這種幾千鎂的價格區間對大家而言都不是主力價格帶
一般消費者沒興趣
企業級的規模大一點那就直衝老黃rtx 6000 pro這種惹
這東西來來去去就古早DIY玩家的味道
網路聲量hen大實質尷尬的市場
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 71.198.170.65 (美國)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1788142869.A.982.html
推
08/31 10:22,
23分鐘前
, 1F
08/31 10:22, 1F
推
08/31 10:22,
23分鐘前
, 2F
08/31 10:22, 2F
推
08/31 10:23,
22分鐘前
, 3F
08/31 10:23, 3F
推
08/31 10:24,
21分鐘前
, 4F
08/31 10:24, 4F

推
08/31 10:24,
21分鐘前
, 5F
08/31 10:24, 5F
推
08/31 10:26,
19分鐘前
, 6F
08/31 10:26, 6F
推
08/31 10:29,
16分鐘前
, 7F
08/31 10:29, 7F
推
08/31 10:29,
16分鐘前
, 8F
08/31 10:29, 8F
推
08/31 10:30,
15分鐘前
, 9F
08/31 10:30, 9F
→
08/31 10:31,
14分鐘前
, 10F
08/31 10:31, 10F
討論串 (同標題文章)
完整討論串 (本文為第 2 之 2 篇):
30
47
Stock 近期熱門文章
PTT職涯區 即時熱門文章
9
13