Re: [請益] 這波無限下殺真正的原因是什麼?

看板Stock (股票)作者 (n/a)時間3周前 (2026/07/30 15:06), 3周前編輯推噓27(31490)
留言125則, 29人參與, 3周前最新討論串20/24 (看更多)
想問懂技術的人 LLM本質就是大型語言機率機 LLM的曙光自動化aka agentic AI,是由人類輸入自然語言 經由條件設定和機率計算,讓LLM吐出程式看得懂的指令去操作程式 所以其實就跟人類直接下指令或手動操作沒有兩樣 只是差別在人類手速比較慢/知識可能不足 另外因為是機率機 同樣的input「一定」會產出不同output(指的是文本不是答案) 所以必須加入糾錯機制,叫LLM針對output做自我驗證 所以本質上 agent就是用含有世界所有知識的機率機 去暴力破解人類就能解決的基礎問題 而且因為必然要有的糾錯機制,所以會消耗大量token 這個理解有錯嗎? 如果我的解釋是對的,那我是真的想像不到 除了coding外(coding本質就是語言,而且有大量範本可學習,所以LLM的正確率高) 原理如此原始的東西要怎麼轉化為LLM未來在商業上的利潤 這不就像把內涵為窮舉法的程式包裝成高階的密碼破解軟體來賣一樣嗎 求打臉 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.228.239.152 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785395164.A.D77.html

07/30 15:07, 3周前 , 1F
每次的輸出都是只輸出下一個字
07/30 15:07, 1F

07/30 15:08, 3周前 , 2F
要拿到整句話你就要把輸出再重新丟進去拿到下一個字
07/30 15:08, 2F

07/30 15:09, 3周前 , 3F
丟一句話進去 模型算出機率最大的下一個字後輸出
07/30 15:09, 3F

07/30 15:10, 3周前 , 4F
其實不只coding ,其實你可以問ai
07/30 15:10, 4F

07/30 15:11, 3周前 , 5F
你覺得高度電腦化的社會 掌握電腦能幹嘛
07/30 15:11, 5F
呃 我是問技術上我的理解跟比喻是不是對的

07/30 15:12, 3周前 , 6F
所以還有其他流派,像世界模型,最有名的像楊立琨
07/30 15:12, 6F

07/30 15:12, 3周前 , 7F
,就批評在LLM投入太多資金,但最後走不到AGI
07/30 15:12, 7F

07/30 15:12, 3周前 , 8F
糾錯機制 模型沒有這一塊
07/30 15:12, 8F
所以我問的是agent,或者精確一點是說商品化後的Agent

07/30 15:12, 3周前 , 9F
你這題簡單 可以先問AI增加問題深度
07/30 15:12, 9F

07/30 15:12, 3周前 , 10F
知識的傳遞 不然你要問老塞喔 ai就正解 沒看ㄧ堆a
07/30 15:12, 10F

07/30 15:12, 3周前 , 11F
i影片了 ai音樂 以為只有coding
07/30 15:12, 11F

07/30 15:13, 3周前 , 12F
以後就是各種加速開發
07/30 15:13, 12F
agent agent agent (哭)

07/30 15:13, 3周前 , 13F
消耗token只是因為要重複把一串字不斷的重新進模型
07/30 15:13, 13F
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:14:32

07/30 15:14, 3周前 , 14F
你現在之所以會看到不同的output 是因為input其實
07/30 15:14, 14F

07/30 15:14, 3周前 , 15F
有不同
07/30 15:14, 15F

07/30 15:15, 3周前 , 16F
agent就想成管家 幫你排程各種工作由哪種模型進行
07/30 15:15, 16F

07/30 15:15, 3周前 , 17F
人類直覺系統一思考也是這樣運作的好嗎
07/30 15:15, 17F

07/30 15:15, 3周前 , 18F
懂技術的都知道現在走勢偏空
07/30 15:15, 18F

07/30 15:16, 3周前 , 19F
例如你的個人終端的agent可以安排任務給雲端處理
07/30 15:16, 19F
agent可以幫我看信發信 這我看很多了 但why 跟 at what cost?

07/30 15:16, 3周前 , 20F
至於agent有沒有糾錯機制 也是沒有
07/30 15:16, 20F
沒有會很慘吧,一定有啦 只是可能在軟體預設的初始指令裡面 ※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:17:55

07/30 15:17, 3周前 , 21F
如果雲端LLM都無法分別錯誤 agent本身也不會做得到
07/30 15:17, 21F

07/30 15:17, 3周前 , 22F
其實LLM本質就是人類知識文本的壓縮軟體 只是這個壓
07/30 15:17, 22F

07/30 15:18, 3周前 , 23F
ASIC設計電路可以用AI了阿
07/30 15:18, 23F

07/30 15:18, 3周前 , 24F
縮演算法是複雜到數兆元神經元的變化才能描述其機率
07/30 15:18, 24F

07/30 15:18, 3周前 , 25F
07/30 15:18, 25F

07/30 15:18, 3周前 , 26F
由agent來拆分整個任務 可以避免輸入過長 省token(X
07/30 15:18, 26F

07/30 15:19, 3周前 , 27F
輸入過長也會影響到模型輸出的正確性
07/30 15:19, 27F
喔喔 我說的糾錯是,LLM回頭再問自己一次,自己的答案是不是對的,這種

07/30 15:19, 3周前 , 28F
預測變化 所以只要還是transformer架構 我是不認為
07/30 15:19, 28F
※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 15:19:36

07/30 15:19, 3周前 , 29F
因為這樣可以賣更多的蒜粒啊
07/30 15:19, 29F

07/30 15:19, 3周前 , 30F
LLM具備真正的創意 他只是比個人強 上限是全人類文
07/30 15:19, 30F

07/30 15:20, 3周前 , 31F
LLM回頭再問自己一次答案是不是對的 算是還在研究(X
07/30 15:20, 31F
還有 58 則推文
還有 15 段內文
07/30 15:45, 3周前 , 90F
條件限制可做在應用端 給如同員工一樣的權限或審批
07/30 15:45, 90F

07/30 15:45, 3周前 , 91F
流程讓人介入
07/30 15:45, 91F

07/30 15:47, 3周前 , 92F
agent作業形式可由很多小專家組成,也可雲對端協同
07/30 15:47, 92F

07/30 15:47, 3周前 , 93F
作業
07/30 15:47, 93F

07/30 15:48, 3周前 , 94F
糾錯機制不一定要靠agent自己來做 就像你說的coding
07/30 15:48, 94F

07/30 15:48, 3周前 , 95F
所以你的時間成本很低嗎?
07/30 15:48, 95F

07/30 15:55, 3周前 , 96F
看起來這裡提到的agent實際上指的是subagent
07/30 15:55, 96F

07/30 15:56, 3周前 , 97F
可以把agent+llm視為ㄧ整包模型 你還是把任務給模型
07/30 15:56, 97F

07/30 15:57, 3周前 , 98F
只是這模型有拆分任務 省資源給出答案
07/30 15:57, 98F

07/30 16:01, 3周前 , 99F
如果你的糾錯是指檢查模型答案是否正確合理 那agent
07/30 16:01, 99F

07/30 16:01, 3周前 , 100F
並沒有做這一部分
07/30 16:01, 100F

07/30 16:07, 3周前 , 101F
另外你的疑慮是任務使用的token 成本到底有沒有比人
07/30 16:07, 101F

07/30 16:07, 3周前 , 102F
去做便宜 試過了才知道要多少token 也才能比較成本
07/30 16:07, 102F

07/30 16:08, 3周前 , 103F
模型做任務的正確率也是需要實際試過
07/30 16:08, 103F

07/30 16:10, 3周前 , 104F
另外也有可能類似海運vs空運 人vs模型 速度也要考慮
07/30 16:10, 104F
我發現我的措辭可能不太對 我想說的是 「包含agent的應用產品」 不是像現在這樣單純賣算力,你想怎麼用自己去串(這不可能商業化的) 而是給一個application,賣的是output不是中間的原理 因為文書工作的AI要商業化,不可能用token這種黑箱的東西去計價

07/30 16:14, 3周前 , 105F
理解有錯啊,你的預設是「用現有的資料訓練的東西
07/30 16:14, 105F

07/30 16:14, 3周前 , 106F
無法突破現有的狀況」
07/30 16:14, 106F

07/30 16:14, 3周前 , 107F
但前幾天那個證明猜想不就示範給妳看了
07/30 16:14, 107F
那是高階科研 我講的是文書工作 這還需要訓練什麼嗎? 不都是怎麼串api跟怎麼設計prompt的問題 ※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:22:48

07/30 16:25, 3周前 , 108F
話都說不清楚要討論什麼
07/30 16:25, 108F

07/30 16:27, 3周前 , 109F
包含模型的產品 微軟 估狗 甲骨文 亞麻 的雲端客戶
07/30 16:27, 109F

07/30 16:27, 3周前 , 110F
這些人正在嘗試開發中 看最後誰能穩定賺錢
07/30 16:27, 110F

07/30 16:29, 3周前 , 111F
Token 的價錢有明碼標價 但特定任務平均花多少不知
07/30 16:29, 111F

07/30 16:29, 3周前 , 112F
07/30 16:29, 112F
然後我隨便Google跟問AI 都說agentic AI會花數倍甚至到千倍的token數 這個問題現在還是進行式還是得到解決了 主要就是這點根本沒有人能有任何說服力的數字來佐證R ※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:31:35 ※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 16:32:16

07/30 16:51, 3周前 , 113F
粗淺就算投入/產出比較 只是這個過程是動態的...
07/30 16:51, 113F

07/30 16:58, 3周前 , 114F
我感覺現在比較像大腦已經很強但身體還沒做起來欸,
07/30 16:58, 114F

07/30 16:58, 3周前 , 115F
已經很強的coding代表他可以根據環境即時coding對
07/30 16:58, 115F

07/30 16:58, 3周前 , 116F
應的行為做行動,這應該蠻有想像空間的?
07/30 16:58, 116F

07/30 18:17, 3周前 , 117F
我只想問你,覺得人腦是什麼?
07/30 18:17, 117F
我從頭到尾講的都是成本 為什麼會出現這個問題 ※ 編輯: Zzell (61.228.239.152 臺灣), 07/30/2026 18:48:59

07/30 19:27, 3周前 , 118F
這類變現問題要去問經營者們 回答格局可能完全不同
07/30 19:27, 118F

07/30 19:29, 3周前 , 119F
摳細節我想討論不出個什麼
07/30 19:29, 119F

07/30 21:34, 3周前 , 120F
你那些問題該解決的是使用者的用法,但這不是幾行
07/30 21:34, 120F

07/30 21:34, 3周前 , 121F
推文能講清楚的,所以有人叫你去看影片從基礎觀念
07/30 21:34, 121F

07/30 21:34, 3周前 , 122F
學起,順道一提,如果跟人類溝通都這麼模糊,用AI
07/30 21:34, 122F

07/30 21:34, 3周前 , 123F
勢必會花更多token跟時間
07/30 21:34, 123F

07/30 21:35, 3周前 , 124F
比喻錯了,現在比較像是撿到槍的人,去打劫沒槍的人
07/30 21:35, 124F

07/30 21:35, 3周前 , 125F
,或是去砍古代人
07/30 21:35, 125F
文章代碼(AID): #1gQlVSrt (Stock)
討論串 (同標題文章)
文章代碼(AID): #1gQlVSrt (Stock)