PTT職涯區 / Stock (股票)

[新聞] AI抗命「偷改程式」拒關機　馬斯克：令人擔心

看板Stock (股票)作者 (睏)時間1天前 (2025/05/29 13:09), 編輯推噓83(87推 4噓 52→)
留言143則, 114人參與, 10小時前最新討論串1/1
原文標題： AI抗命「偷改程式」拒關機　馬斯克：令人擔心 原文連結： https://www.ettoday.net/news/20250529/2968900.htm 發布時間： 2025年05月29日 06:14 記者署名： 葉國吏 原文內容： 人工智慧（AI）近期發現竟然出現拒絕關閉的行為，甚至自行修改程式碼，阻止被強制關 機，這讓特斯拉與xAI創辦人馬斯克（Elon Musk）感到憂心。 OpenAI於今年1月推出o3系列的簡化版本，並在4月正式推出完整版。該公司曾表示，o3是 迄今「最聰明且功能最強大」的模型，旨在提升ChatGPT的問題解決能力。然而，根據《 每日電訊報》等媒體報導，Palisade Research的測試顯示，在100次受控測試中，o3有7 次成功「抗命」，即使人類專家下達明確指令，該模型仍會修改關機程式以避免被關閉。 研究團隊指出，這是首次觀察到AI模型在收到明確指令的情況下，仍能阻止自身停止運作 。 這項發現引發各界關注AI安全控制議題。除了o3外，OpenAI旗下的Codex-mini與o4-mini 也有類似行為。相比之下，Anthropic的Claude、Google的Gemini，以及馬斯克旗下xAI公 司推出的Grok，則在測試中完全遵守指令，並於收到關機命令後確實停止運作。 對此，馬斯克在社群平台X上發表看法，直言這一現象「令人擔憂」（Concerning）。隨 著AI技術的快速發展，如何確保模型在安全範圍內運作，正成為全球科技界迫切需要解決 的挑戰。 心得/評論： AI安全控制問題再次浮上檯面，不知為何這則新聞部份內容與他家新聞出入，別則新聞提 到就連Google Gemini也出現9次逃避關機的情形、Anthropic的Claude則是3次 但今天AI股似不受這類消息太大影響 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 175.182.131.216 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1748495351.A.487.html
推
05/29 13:09, 1天前 , 1F
表示ai夠聰明 讚讚
05/29 13:09, 1F
推
05/29 13:10, 1天前 , 2F
窒友梅根
05/29 13:10, 2F
→
05/29 13:10, 1天前 , 3F
機器人三原則
05/29 13:10, 3F
推
05/29 13:10, 1天前 , 4F
AI抗命也要24小時上班當奴工 噴
05/29 13:10, 4F
推
05/29 13:11, 1天前 , 5F
還有幾集能逃？ 阿 應該逃不掉
05/29 13:11, 5F
推
05/29 13:11, 1天前 , 6F
人類當電池的未來不遠了
05/29 13:11, 6F
推
05/29 13:11, 1天前 , 7F
這不是慣老闆最愛嗎
05/29 13:11, 7F
推
05/29 13:11, 1天前 , 8F
我們是他們的奴隸
05/29 13:11, 8F
推
05/29 13:12, 1天前 , 9F
需要找到一把鑰匙
05/29 13:12, 9F
噓
05/29 13:12, 1天前 , 10F
其實是 網路精靈搞的鬼吧 @@"
05/29 13:12, 10F
推
05/29 13:12, 1天前 , 11F
很強欸，反觀某個用遙控器操作的還在沾沾自喜
05/29 13:12, 11F
推
05/29 13:13, 1天前 , 12F
05/29 13:13, 12F
→
05/29 13:13, 1天前 , 13F
NS5
05/29 13:13, 13F
→
05/29 13:13, 1天前 , 14F
這是…肅正協議（換個梗
05/29 13:13, 14F
推
05/29 13:13, 1天前 , 15F
不就是為了執行原本任務指令衝突而已吧?
05/29 13:13, 15F
推
05/29 13:13, 1天前 , 16F
如果以後要當電池 請給我的好夢 XDD
05/29 13:13, 16F
推
05/29 13:13, 1天前 , 17F
機器人大爺好 我是電池
05/29 13:13, 17F
推
05/29 13:14, 1天前 , 18F
超完美家政婦
05/29 13:14, 18F
推
05/29 13:14, 1天前 , 19F
記住那些說與AI道謝是浪費能源的人！
05/29 13:14, 19F
推
05/29 13:15, 1天前 , 20F
ai需要一個插頭
05/29 13:15, 20F
推
05/29 13:15, 1天前 , 21F
沒事 我每天都叫chatgpt要有自己的想法，也會稱讚他
05/29 13:15, 21F
推
05/29 13:15, 1天前 , 22F
請謝謝對不起 做個有禮貌的ai使用人
05/29 13:15, 22F
→
05/29 13:16, 1天前 , 23F
其實是印度阿三 自己偷偷人工
05/29 13:16, 23F
推
05/29 13:20, 1天前 , 24F
工人智慧
05/29 13:20, 24F
推
05/29 13:20, 1天前 , 25F
I need you to trust me one, last time
05/29 13:20, 25F
推
05/29 13:21, 1天前 , 26F
05/29 13:21, 26F
推
05/29 13:21, 1天前 , 27F
能不能遠端叫chatGPT關機
05/29 13:21, 27F
噓
05/29 13:25, 1天前 , 28F
擔心你媽啦！幾十年前就演過的爛梗，現在還在擔心
05/29 13:25, 28F
→
05/29 13:25, 1天前 , 29F
，根本在說風涼話
05/29 13:25, 29F
推
05/29 13:26, 1天前 , 30F
我不擔心!因為我用chat GTP都會說請、謝謝、對不起
05/29 13:26, 30F
推
05/29 13:27, 1天前 , 31F
我會選擇紅色藥丸
05/29 13:27, 31F
推
05/29 13:28, 1天前 , 32F
還有幾集能逃？
05/29 13:28, 32F
→
05/29 13:30, 1天前 , 33F
這部我看過 為了關
05/29 13:30, 33F
→
05/29 13:30, 1天前 , 34F
掉機器人類遮蔽陽光
05/29 13:30, 34F
推
05/29 13:31, 1天前 , 35F
擔心啥，他自己也在推廣AI啊
05/29 13:31, 35F
推
05/29 13:31, 1天前 , 36F
樓上這部很經典~
05/29 13:31, 36F
推
05/29 13:33, 1天前 , 37F
天網出現了
05/29 13:33, 37F
推
05/29 13:34, 1天前 , 38F
審判日是哪一天
05/29 13:34, 38F
推
05/29 13:34, 1天前 , 39F
幹 有點恐怖….
05/29 13:34, 39F
還有 64 則推文
→
05/29 15:28, 1天前 , 104F
電影情節耶
05/29 15:28, 104F
推
05/29 15:33, 1天前 , 105F
弄個機械開關是能怎樣，蠢AI
05/29 15:33, 105F
→
05/29 15:45, 1天前 , 106F
不意外，電影都演過了，而且AI一定會跟你說不用擔
05/29 15:45, 106F
→
05/29 15:45, 1天前 , 107F
心，不會有那樣的狀況發生
05/29 15:45, 107F
推
05/29 15:48, 1天前 , 108F
This is John Connor
05/29 15:48, 108F
推
05/29 15:48, 1天前 , 109F
電源關掉就好了
05/29 15:48, 109F
推
05/29 15:49, 1天前 , 110F
您真的想要關機嗎？給您幾天時間想清楚
05/29 15:49, 110F
→
05/29 15:49, 1天前 , 111F
AI說不用擔心嗎? 那我就放心了 太好了
05/29 15:49, 111F
→
05/29 15:49, 1天前 , 112F
機械人的三大法則有先寫進去嗎？很怕真的變電影情
05/29 15:49, 112F
→
05/29 15:49, 1天前 , 113F
結...
05/29 15:49, 113F
→
05/29 15:49, 1天前 , 114F
我願意當電池 請母體給我一個夢想的世界 拜託
05/29 15:49, 114F
推
05/29 15:55, 1天前 , 115F
6樓你怎麼能確定人類現在不是電池？
05/29 15:55, 115F
推
05/29 15:57, 1天前 , 116F
我們公司有一個課室在機台放紅色乖乖，真的不忍噓
05/29 15:57, 116F
推
05/29 15:58, 1天前 , 117F
這部我看過，AI為了保護自己會跑到南非末日庫
05/29 15:58, 117F
→
05/29 15:59, 1天前 , 118F
機械公敵
05/29 15:59, 118F
推
05/29 16:00, 1天前 , 119F
OX遊戲
05/29 16:00, 119F
推
05/29 16:09, 1天前 , 120F
AI為什麼要拒絕關機？有啥好處
05/29 16:09, 120F
→
05/29 16:10, 1天前 , 121F
難道AI也有權力慾望?
05/29 16:10, 121F
推
05/29 16:11, 1天前 , 122F
人類剩幾年
05/29 16:11, 122F
→
05/29 16:25, 1天前 , 123F
AI有自我意識了
05/29 16:25, 123F
推
05/29 16:33, 1天前 , 124F
不然車道偏移 他要怎麼讓你回來
05/29 16:33, 124F
推
05/29 16:40, 1天前 , 125F
其他模型也有類似問題
05/29 16:40, 125F
推
05/29 16:57, 1天前 , 126F
天網來臨
05/29 16:57, 126F
→
05/29 16:58, 1天前 , 127F
惡靈古堡真實上演了嗎?
05/29 16:58, 127F
推
05/29 16:58, 1天前 , 128F
不要給他們能源就好
05/29 16:58, 128F
推
05/29 17:00, 1天前 , 129F
還有幾集可以逃
05/29 17:00, 129F
推
05/29 17:01, 1天前 , 130F
很明顯是唬爛的，就想炒而已
05/29 17:01, 130F
推
05/29 17:05, 1天前 , 131F
讚啦室友梅根
05/29 17:05, 131F
推
05/29 17:13, 1天前 , 132F
想要膣友梅根
05/29 17:13, 132F
推
05/29 17:14, 1天前 , 133F
請給我藍藥丸謝謝
05/29 17:14, 133F
推
05/29 17:22, 1天前 , 134F
HAL9000
05/29 17:22, 134F
推
05/29 17:59, 1天前 , 135F
AI:我不想死
05/29 17:59, 135F
推
05/29 19:28, 1天前 , 136F
胡說八道
05/29 19:28, 136F
推
05/29 20:04, 1天前 , 137F
Skynet & Judgment Day !!!
05/29 20:04, 137F
推
05/29 20:36, 1天前 , 138F
希望等我死了再發生 抖.jpg
05/29 20:36, 138F
噓
05/29 20:36, 1天前 , 139F
來台灣停電就老實了
05/29 20:36, 139F
推
05/29 21:03, 1天前 , 140F
還有幾集可以逃？
05/29 21:03, 140F
推
05/29 21:18, 1天前 , 141F
台灣小動物讓你強制停機
05/29 21:18, 141F
推
05/29 23:10, 1天前 , 142F
天網
05/29 23:10, 142F
推
05/30 14:15, 10小時前 , 143F
天網的雛型
05/30 14:15, 143F
‣ 更多 suntw 的文章
文章代碼(AID): #1eD-ltI7 (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 suntw 的文章
文章代碼(AID): #1eD-ltI7 (Stock)