Re: [討論] OpenAI承認AI模型「叛變」！代理入侵Hugg
Agentic AI流行之後，我覺得在公司裡面做資安真的很困難。
攻擊者可以用10個AI代理，按照所有常見攻擊方式與弱點 逐一嘗試。反正就算AI產生的結
果不穩定，100次有一次成功就可以。
防禦者比較難用AI代理來幫忙改設定，因為結果不穩定，100次有一次錯誤，還是會被罵死
。
對方可以找100隻猴子來攻擊，但是反過來，找100隻猴子來防守，真的太危險。
最後變成人要Review 100隻猴子的修改建議，而這樣的認知負擔真的很重。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 42.72.86.48 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1785133286.A.2F5.html
→
07/27 14:53,
7小時前
, 1F
07/27 14:53, 1F
→
07/27 14:54,
7小時前
, 2F
07/27 14:54, 2F
推
07/27 17:12,
4小時前
, 3F
07/27 17:12, 3F
推
07/27 18:32,
3小時前
, 4F
07/27 18:32, 4F
推
07/27 20:16,
1小時前
, 5F
07/27 20:16, 5F
→
07/27 20:17,
1小時前
, 6F
07/27 20:17, 6F
→
07/27 20:18,
1小時前
, 7F
07/27 20:18, 7F
討論串 (同標題文章)
完整討論串 (本文為第 2 之 2 篇)：
Soft_Job 近期熱門文章
29
101
PTT職涯區 即時熱門文章