Re: [心得] token maximum
※ 引述《erspicu (.)》之銘言：
: 所以到底max應該設定多少比較適合?
借這個來抱怨一下.
正如我在之前稍微提過的, 我的公司已經全面轉用 AI, 而且為了
不讓外部的一些壞 coding 習慣污染 AI, 是用自己 code base train
的 AI model. (本公司不留能力不足的人, 而且一直都需要 code review
才可以 check-in 因此 code 的本身質素是沒問題的)
隨著超過2000位 dev同時使用 AI 來做 coding, 公司本身配置的資源
很快就開始不夠用了. 寫好了 prompt 提交時發現在排隊 350位以外
是常事. 公司很快 (也花了一個月左右) 便批准了買更多的 VM, 但同時
也要求我們用 prompt improvement coach wizard 「改進」我們的 prompt.
結果他都要求我直接告訴 AI 需要修改那個檔案. 這產生了兩個問題:
首先, 如果我看錯是那個檔案出問題的話, 不管怎麼改還是沒有效果.
然後, 如果我寫 prompt 還是先 trace code 去找那個檔案出問題的話, 比起
花時間寫 prompt, 自己改比較快 (還不用排隊)
最近我們也發現了 AI 寫的 code 在需要和第三方對接的部份常出現
忽略明明已經寫進了 rules.md 的限制, 因此需要回爐人手重做的事件.
說實在的, 用了 AI 後也沒發現省了多少時間.
--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 109.152.20.160 (英國)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1772359557.A.F40.html
推
03/01 19:34,
25分鐘前
, 1F
03/01 19:34, 1F
→
03/01 19:34,
25分鐘前
, 2F
03/01 19:34, 2F
→
03/01 19:34,
25分鐘前
, 3F
03/01 19:34, 3F
→
03/01 19:34,
25分鐘前
, 4F
03/01 19:34, 4F
→
03/01 19:36,
23分鐘前
, 5F
03/01 19:36, 5F
推
03/01 19:43,
16分鐘前
, 6F
03/01 19:43, 6F
→
03/01 19:44,
15分鐘前
, 7F
03/01 19:44, 7F
討論串 (同標題文章)
完整討論串 (本文為第 2 之 2 篇)：
7
13
Soft_Job 近期熱門文章
27
61
PTT職涯區 即時熱門文章
111
243