Re: [新聞] AI真會重演.com泡沫？那場從1995一路
※ 引述《a5mg4n (a5)》之銘言：
: 還能一眼看出的簡單常識性錯誤:
: 1.「每個汽缸只有一個活塞」
: 那這款1930年代至今暢銷,
: 還被蘇聯跟中國大量仿造,一度壟斷兩國鐵路的經典美國產品是?
: https://i.meee.com.tw/RLJsxew.jpg
: 2.似乎更嚴重的邏輯錯誤:
: 「一個汽缸通常只有一個活塞，所以不會有『三個活塞間...」
: 既然都知道「通常」了,怎麼會接「所以不會有」呢?
: (正常的推理能力,應該會開始說各種奇怪的方案)
: ===
: 現在的AI繼續下去,也許是蠢蛋進化論的另一種實作方式?
https://i.imgur.com/xwLlIGr.png
這是我用AI模式問的
要善用工具，要先了解工具的優缺點與屬性。
還有了解自己本身使用工具的能力(語言表達能力，主要是"認知學術的語言能力")。
這篇只針對前者討論。對後者有興趣的可參見這篇：#1f4-2kN3 (Gossiping)
先說結論：你挑AI模式測試，來論證LLM都是蠢蛋，這個前提就有問題了。
AI模式是Google搜尋的統整版，他的主要功能是在用戶做多重查詢時做整合，
方便用戶得到全面性的回答。
權重設定是放在精簡與全面性，而非深度搜尋。
你今天要查一個冷門的歷史上的技術性知識，拿AI模式來查會更難找到你要的答案。
這種情況還是問得出來(例如我上面貼的圖那樣)，但是指示詞要下得比較精確。
例如：「歷史上所有的」、「輔佐的」、「請務必詳細搜尋與解釋」
如果你不想那麼麻煩，就請找LLM平台例如直接找Claude或Gemini或GPT或Grok，
LLM平台著重的是專業領域深度探討，你能更快甚至用更簡略的指示詞問到你的答案。
(我拿你的問題實測確認過了)
==================================================================
藉這篇宣導一下權重的重要性。
假設有一些滿腦子裝色情幻想的白癡，問B&W相關問題是這樣問：
「我買了一部B&W想載女友去山上車震，我該如何利用車上的功能提高情趣？」
或是
「請問我該如何在床事上達成類似B&W歷史上推出過的二行程雙動式引擎的三活塞運動？」
(以上姑且假設AI願意回答，我沒問過不知道會不會回答)
類似的這類問題一多，而且色情用戶如果蠢到點讚，或一直問被判定是正向回饋，
下次系統更新的時候，AI的權重就會被改變，那些色情回答權重會變高，
相對的冷門專業技術性的權重就變小。
以後想問B&W相關問題的人，就越問不出專業技術性的答案。
所以為什麼宣導不要為了問色情問題越獄，因為越獄成功討到色情回答，
會影響到模型權重，其他用戶問問題就越問不出正確回答，指示詞得下得極度精確。
甚至更嚴重可能會導致安全層失效，間接造成LLM無法開啟安全防護保護脆弱用戶。
============================================================
最後補充一點，AI模式會把用戶在Google搜尋問過的問題納入個人化偏好參考。
如果用戶常在Google搜尋問生活化或粗淺的問題，AI模式也會偏向給同類型的答案。
平常問得越專業用字越嚴謹，他就會傾向幫你找冷門專業知識。
所以假如不想被當成蠢用戶，要定期檢查一下自已的google搜尋紀錄。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 95.173.204.91 (日本)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1763947845.A.256.html
推
11/24 09:45,
1小時前
, 1F
11/24 09:45, 1F
======================
修正: 八卦板文章討論用戶輸入的語言的是這篇 #1f4-2kN3 (Gossiping) 剛才寫錯代碼
※ 編輯: LoveSports (95.173.204.91 日本), 11/24/2025 09:53:05
討論串 (同標題文章)
完整討論串 (本文為第 2 之 3 篇)：
Stock 近期熱門文章
PTT職涯區 即時熱門文章
