Re: [心得] 蘋果揭露人工智能並不思考

看板Stock (股票)作者DarkerDuck (達克鴨)時間8小時前 (2025/06/16 13:16)推噓11(11推 0噓 18→)

留言29則, 15人參與討論串13/14 (看更多)

首先啦，在公眾對於AI發展的看法，有個很有趣的現象。就是只要AI會做了某件任務，就會直接說，這不需要"思考"。譬如AI在二十幾年前打敗西洋棋棋王，後來華生也打敗益智節目的人類冠軍。人們直覺反應就是這不是思考啦，西洋棋就是暴力算棋譜，益智節目背題庫就好啦。到了十年前還有人認為AI永遠不可能擊敗人類棋王，因為圍棋不是硬靠算力可以暴力解的。還需要人的模式辨認與推理能力，而AI不會。結果嘛，現在變成幾乎每個棋手都要靠AI訓練，還要尊稱AI為老師。到現在LLM文字接龍因為量變產生質變，開始湧現出各種當初想不到的能力。譬如翻譯、寫故事、甚至是更高階看起來需要推理的寫程式、在各種限制下規劃行程。那現在的AI真可以直接說他不會思考thinking嗎？心理學家把人類的thinking歸類為兩大系統(快思慢想) 系統一(快思): 不需要意識控制，常靠經驗與啟發法（heuristics），例如九九乘法表的乘法計算、開車時的習慣反應。通常都是直覺、快速、自動化的"快思"任務。系統二(慢想): 需要意識控制，用來做邏輯推理、計算、分析與抉擇，例如解數學方程式或做財務規劃。通常是需要邏輯、緩慢、且偏代理型的"慢想"任務。目前LLM這系列的AI湧現出來的能力大都是系統一的快思任務，所以AI當然會thinking。配合了一些CoT等後訓練技術甚至可以湧現出一些些系統二慢想的任務。但我猜還是有極限啦，像是要有意識的知道自己搞錯了就需要系統二的能力。因此LLM常常被人認為是一本正經的胡說八道。又或者一些代理agent任務，就極需要系統二的規劃能力，現在的LLM就算使用推理模式，也會因為token預算不足而無法長時間執行。像是蘋果這篇論文反而展示了LLM會思考的一面，他有許多問題都過於困難。思考token預算不足，當然就直接放棄，但這不代表AI不會thinking。只是AI目前的確很難處理非常大的問題，需要新的思考預算控制模式。這也就是現在AI領域積極想要突破的agent領域。 Apple Intelligence之前Siri就已經很多agent類型任務的展示，也難怪一直生不出來。連最近推出的通用型agent Manus都做不好了，慢人百步以上的Apple怎麼弄得好？像是Meta的YanneCun就一直認為現在的LLM是弄不出AGI的，而是需要導入新的世界模型。假如真的要能讓AI長期執行agent類型等系統二慢想任務，以及機器人能夠長期自主運作。那這些AI的內心必須錨定一個世界模型，知道自己在這個世界中的狀態與定位。才能夠調和自己的任務需求與外部的總總限制，而不是卡在死胡同裡。而且能夠整合自己的工具與感官不斷地調整權重去做學習。這些都是目前AI都還很欠缺的。若無法突破就很難達成人類等級的AGI。而這方面能突破，那真的就可以期待AI能直接"取代"人力，達到新的工業革命。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.121.186.56 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1750051006.A.5BB.html ※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:18:07 ※ 編輯: DarkerDuck (122.121.186.56 臺灣), 06/16/2025 13:19:50

推

sdbb

06/16 13:18, 8小時前 , 1^F

06/16 13:18, 1^F

推

webster1112

06/16 13:21, 8小時前 , 2^F

06/16 13:21, 2^F

→

haha98

06/16 13:22, 8小時前 , 3^F

06/16 13:22, 3^F