PTT職涯區 / Stock (股票)

[新聞] ChatGPT的「幻覺」根本無法解決

看板Stock (股票)作者時間1年前 (2023/08/09 22:22), 編輯推噓180(189推 9噓 303→)
留言501則, 191人參與, 1年前最新討論串1/3 (看更多)
原文標題： 技術專家：ChatGPT的「幻覺」根本無法解決 原文連結： https://reurl.cc/N0KRy6 發布時間： 2023/08/09 15：58 記者署名： 鉅亨網新聞中心 原文內容： 掀起 AI 浪潮的 ChatGPT 儘管可以協助解決很多事情，但也因為會產生虛假的訊息，或 誤導性的內容，產生「人工智慧幻覺」(hallucinations) 而飽受批評，專家認為這種「 幻覺」受到技術與需求之間的限制，根本無法被解決。 財富網中文網報導，與 ChatGPT 或其他 AI 聊天機器人相處足夠長的時間，很快就會發 現它們有時會「編造答案」，這種現象被稱為「幻覺」，即機器人做出的捏造或純粹的編 造，對於那些試圖讓 AI 系統編寫文檔並完成工作的企業、組織甚至學生，這是一個致命 的問題。 聊天機器人 Claude 2 的製造商 Anthropic 共同創始人 Daniela Amodei 認為，現在沒 有任何一種模型能夠完全避免產生幻覺，因為它們的設計初衷只是用來預測下一個單詞， 因此模型肯定會有一定的錯誤率。 包括 ChatGPT 的製造商 OpenAI、Anthropic 及其他大型語言模型的 AI 系統主要開發者 都表示，他們正努力讓這些系統變得更準確，但目前尚不清楚需要多長時間才能達到足夠 的可靠性。 不過，華盛頓大學計算語言學實驗室的主任、語言學教授 Emily Bender 認為，「這個問 題無法完全解決，因為技術與實際需求之間存在固有的不匹配。」 Google 已向新聞機構推銷一款新聞寫作 AI 產品，而作為與 OpenAI 合作的一部分，美 聯社也在探索使用這項技術，而 OpenAI 正在付費使用美聯社的部分存檔文本來改進其 A I 係統。因此，生成式 AI 的可靠性至關重要，麥肯錫全球研究院（McKinsey）預計，這 將為全球經濟帶來相當於 2.6 兆至 4.4 兆美元的收入。 心得/評論： chatGPT訪問量一再下滑 一窩蜂投資ai伺服器去訓練語言模型的 越來越有元宇宙的fu糗了 散戶：這次不一樣！！ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.137.7.184 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1691590964.A.313.html
推
08/09 22:25, 1年前 , 1F
啊不就查證跟媒體識讀，這不管什麼科技都該具備吧
08/09 22:25, 1F
推
08/09 22:25, 1年前 , 2F
BI
08/09 22:25, 2F
推
08/09 22:25, 1年前 , 3F
chatgpt下滑 bard上升 就只是市占被分掉而已 正常吧
08/09 22:25, 3F
推
08/09 22:25, 1年前 , 4F
雖然我站空方 但AI真是.COM後最生猛的料了
08/09 22:25, 4F
→
08/09 22:26, 1年前 , 5F
ai又不是只有chatgpt 早就有其他實際應用了 看空ai
08/09 22:26, 5F
→
08/09 22:26, 1年前 , 6F
股可以 但是拿元宇宙去類比還是省省吧
08/09 22:26, 6F
→
08/09 22:26, 1年前 , 7F
AI會做夢嗎？
08/09 22:26, 7F
→
08/09 22:26, 1年前 , 8F
AI說謊有什麼關係 人類說更多謊
08/09 22:26, 8F
推
08/09 22:27, 1年前 , 9F
完了，還有幾級可以跑
08/09 22:27, 9F
推
08/09 22:27, 1年前 , 10F
內容農場也差不多
08/09 22:27, 10F
推
08/09 22:27, 1年前 , 11F
還以為仿生人要出來了 = =
08/09 22:27, 11F
→
08/09 22:27, 1年前 , 12F
沒了 明天要跌停開惹?
08/09 22:27, 12F
推
08/09 22:28, 1年前 , 13F
就算沒有AI，搜尋引擎跟社群軟體瞎掰的內容農場幻覺
08/09 22:28, 13F
→
08/09 22:28, 1年前 , 14F
早就存在了
08/09 22:28, 14F
推
08/09 22:28, 1年前 , 15F
這部我看過，最後AI會做夢!
08/09 22:28, 15F
推
08/09 22:29, 1年前 , 16F
bard很智障
08/09 22:29, 16F
推
08/09 22:30, 1年前 , 17F
一開始只是新鮮
08/09 22:30, 17F
→
08/09 22:30, 1年前 , 18F
用過只覺得是挺智障的聊天機器人
08/09 22:30, 18F
→
08/09 22:31, 1年前 , 19F
根據上文去猜下文 錯誤機率要趨近零的難度太高了
08/09 22:31, 19F
→
08/09 22:31, 1年前 , 20F
新聞媒體製造業多愛這種東西= =
08/09 22:31, 20F
→
08/09 22:31, 1年前 , 21F
以後記者是可以全部開除的
08/09 22:31, 21F
推
08/09 22:32, 1年前 , 22F
人也會有說謊跟編造故事，這才是真AI
08/09 22:32, 22F
→
08/09 22:32, 1年前 , 23F
資料庫不是鎖在某年度嗎@@
08/09 22:32, 23F
→
08/09 22:33, 1年前 , 24F
現在開放使用就跟以前聊天機器人很像吧
08/09 22:33, 24F
→
08/09 22:33, 1年前 , 25F
總會有人留言講ai還有其他應用..問題是其他應用這
08/09 22:33, 25F
→
08/09 22:33, 1年前 , 26F
五年十年內一直都有，這波熱潮完全是來LLM，投資也
08/09 22:33, 26F
→
08/09 22:33, 1年前 , 27F
都是圍繞在這...根本跟一堆人幻想的ai無關
08/09 22:33, 27F
推
08/09 22:33, 1年前 , 28F
答案一直是編的 只是編的像對的而已
08/09 22:33, 28F
→
08/09 22:33, 1年前 , 29F
使用者免費用然後回報 debug
08/09 22:33, 29F
→
08/09 22:34, 1年前 , 30F
不知道了
08/09 22:34, 30F
→
08/09 22:34, 1年前 , 31F
除越多 自然就改善 然後...收費
08/09 22:34, 31F
推
08/09 22:34, 1年前 , 32F
人類：你要誓死遵守「機器人三定律」，不危害人類！
08/09 22:34, 32F
→
08/09 22:34, 1年前 , 33F
AI：好喔。(說謊
08/09 22:34, 33F
→
08/09 22:34, 1年前 , 34F
因為AI的思考模式和人類很不一樣
08/09 22:34, 34F
→
08/09 22:34, 1年前 , 35F
然後人類文明就毀滅了
08/09 22:34, 35F
→
08/09 22:35, 1年前 , 36F
繼續走下去就是毀滅，很合情合理
08/09 22:35, 36F
→
08/09 22:36, 1年前 , 37F
現在只是種子剛發芽階段 不用期待多厲害
08/09 22:36, 37F
→
08/09 22:36, 1年前 , 38F
也可能剛發芽就被弄死
08/09 22:36, 38F
推
08/09 22:36, 1年前 , 39F
理想AI : 自動升級、演化、思考，然後取代人類。
08/09 22:36, 39F
還有 422 則推文
→
08/10 08:21, 1年前 , 462F
搜尋引擎好用
08/10 08:21, 462F
推
08/10 08:22, 1年前 , 463F
比如我上一次用它來協助工作 是我需要開發一個功能
08/10 08:22, 463F
→
08/10 08:23, 1年前 , 464F
但是我需要統計學方面的知識 問題是 我的統計程度
08/10 08:23, 464F
→
08/10 08:23, 1年前 , 465F
只有20年前大學那三個學分 一開始我連問出正確
08/10 08:23, 465F
→
08/10 08:24, 1年前 , 466F
問題的程度 都沒有 但是現在那個功能做完了
08/10 08:24, 466F
推
08/10 08:27, 1年前 , 467F
昨天才問一個空壓管尺寸問題 結果跟我胡說八道一堆
08/10 08:27, 467F
→
08/10 08:27, 1年前 , 468F
問bard才得到正確答案
08/10 08:27, 468F
→
08/10 08:31, 1年前 , 469F
chat=講贛話
08/10 08:31, 469F
推
08/10 08:36, 1年前 , 470F
還好吧 你看妓者發文不也是這樣
08/10 08:36, 470F
推
08/10 08:37, 1年前 , 471F
應該要列出信心值
08/10 08:37, 471F
推
08/10 08:41, 1年前 , 472F
光是能得到認知外的資訊就無價了，不奢求AGI
08/10 08:41, 472F
噓
08/10 08:50, 1年前 , 473F
放消息吃貨
08/10 08:50, 473F
噓
08/10 09:05, 1年前 , 474F
論文都可以造假了 自己google到的資料也是需要判斷
08/10 09:05, 474F
推
08/10 09:05, 1年前 , 475F
再多的幻覺都比一堆股民正常
08/10 09:05, 475F
→
08/10 09:06, 1年前 , 476F
現在的ChatGPT就是十年前的維基百科
08/10 09:06, 476F
推
08/10 09:13, 1年前 , 477F
不要胡說八道，維基百科不會跟你對話
08/10 09:13, 477F
推
08/10 09:26, 1年前 , 478F
我不知道對其他人來講怎麼樣啦 但至少我原本excel
08/10 09:26, 478F
→
08/10 09:26, 1年前 , 479F
很爛 靠問Chat GPT一些網路比較難查到的問題 功能
08/10 09:26, 479F
→
08/10 09:26, 1年前 , 480F
或小技巧 努力學一下就用得很精熟了
08/10 09:26, 480F
推
08/10 09:31, 1年前 , 481F
應付人類政客說謊，就他媽夠痛苦了...
08/10 09:31, 481F
→
08/10 09:32, 1年前 , 482F
AI說謊，是打算搞死誰？
08/10 09:32, 482F
→
08/10 09:33, 1年前 , 483F
會瞎掰說謊，根本不能發展
08/10 09:33, 483F
推
08/10 09:41, 1年前 , 484F
BI
08/10 09:41, 484F
推
08/10 09:43, 1年前 , 485F
完了 元宇宙又來了
08/10 09:43, 485F
→
08/10 10:22, 1年前 , 486F
AI說謊會比人說謊厲害？？？ 看看媒體XDDDDD
08/10 10:22, 486F
推
08/10 10:30, 1年前 , 487F
還好吧，人類說謊更是出神入化
08/10 10:30, 487F
→
08/10 10:30, 1年前 , 488F
人都會黑白講了你為什麼要全信他
08/10 10:30, 488F
→
08/10 10:37, 1年前 , 489F
gpt真的蠻多資料錯的XD 不信 你試試看問他 陽曆生日
08/10 10:37, 489F
→
08/10 10:38, 1年前 , 490F
的農曆日期是幾號 這個都能報錯我覺得偏離譜
08/10 10:38, 490F
推
08/10 10:41, 1年前 , 491F
AI扯謊跟人學的，而且只會更厲害，因為不用吃喝睡
08/10 10:41, 491F
推
08/10 11:07, 1年前 , 492F
app版本跟siri一樣智障亂回話是神在哪
08/10 11:07, 492F
噓
08/10 11:18, 1年前 , 493F
早說了 使用者常常分辨不出它是不是在唬爛
08/10 11:18, 493F
→
08/10 11:25, 1年前 , 494F
才剛開始發展就要求這麼多比較低能吧
08/10 11:25, 494F
推
08/10 11:32, 1年前 , 495F
小時候都學過盡信書不如無書 怎麼到了AI卻當聖經呢?
08/10 11:32, 495F
推
08/10 11:32, 1年前 , 496F
要投入即時權威控制的人工吧
08/10 11:32, 496F
→
08/10 11:33, 1年前 , 497F
AI只是給你個大方向 驗證還是要靠自己
08/10 11:33, 497F
推
08/10 11:34, 1年前 , 498F
連舌頭味覺分布圖更正不了的世界，AI有幻覺很正常
08/10 11:34, 498F
推
08/10 12:12, 1年前 , 499F
這種人早在Ai 出現前就是這樣了吧，工作上看好幾次
08/10 12:12, 499F
→
08/10 12:12, 1年前 , 500F
別人給的資料直接貼就交的
08/10 12:12, 500F
→
08/10 13:25, 1年前 , 501F
就只是比較快的google搜尋...
08/10 13:25, 501F
‣ 更多 breeze0817 的文章
文章代碼(AID): #1aqw4qCJ (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 breeze0817 的文章
文章代碼(AID): #1aqw4qCJ (Stock)