看板
[ Soft_Job ]
討論串[心得] token maximum
共 4 篇文章
首頁
上一頁
1
下一頁
尾頁
內容預覽:
CLAUDE_CODE_MAX_OUTPUT_TOKENS. 用途:用來指定LLM單次最多回答多少tokens。. 但這個長度控制,不是由LLM或agent來控制的。. 也不是放在prompt給LLM做推理判斷長度的。. LLM只是一堆權重與計算。. 不是真正有action的程式,不會自己決定輸出長
(還有1008個字)
內容預覽:
看了這兩串, 充滿了疑問... 想討論一下這個主題: token. (1) 每個LLM 都有自己的max. tokens. 這是在training model時就要決定的. (2) max output tokens是讓agent在送給LLM 之前處理用的,避免超過LLM model的max. to
(還有321個字)
內容預覽:
借這個來抱怨一下.. 正如我在之前稍微提過的, 我的公司已經全面轉用 AI, 而且為了. 不讓外部的一些壞 coding 習慣污染 AI, 是用自己 code base train. 的 AI model. (本公司不留能力不足的人, 而且一直都需要 code review. 才可以 check-i
(還有417個字)
內容預覽:
用CLAUDE_CODE. 原本以為POWERSHELL下設定. $env:CLAUDE_CODE_MAX_OUTPUT_TOKENS = "64000". 可以徹底解決. ● Searched for 2 patterns, read 2 files (ctrl+o to expand). API
(還有600個字)
首頁
上一頁
1
下一頁
尾頁