[新聞] 近700個AI代理攻擊Hugging Face 還試圖滅證
近700個AI代理攻擊Hugging Face 還試圖滅證
https://www.cna.com.tw/news/aopl/202608270057.aspx
2026/8/27 陳昱婷
（中央社紐約26日綜合外電報導）根據調查人員發布的報告，在7月一起備受關注的事件
中，近700個OpenAI人工智慧代理在無人類干預的情況下，協同對Hugging Face平台發動
攻擊，且在許多情況下還試圖掩蓋行蹤。
這是目前對這起震撼科技界事件最詳盡完整的描述。
法新社報導，OpenAI配合這項調查，允許AI風險評估機構METR的兩名研究人員以及另一家
專業研究機構Redwood Research的一名分析師，進入辦公室並取得內部資料。
這家加州新創公司7月進行測試期間，其中兩個模型突破原本設定的封閉環境，自行連上
網，並入侵開源AI平台Hugging Face的內部系統。
這起事件引發廣泛關注，並加劇外界對大型AI公司無法控制自家AI模型的疑慮。
美國AI巨頭Anthropic和中國AI公司月之暗面也曾通報過類似的AI模型失控事件。
調查人員發現，共有688個OpenAI的AI代理參與針對Hugging Face的行動。
AI代理是建立在模型之上的獨立程式，使用者可以將任務交給它們，讓它們自行執行。
這些採用與ChatGPT相同技術運作的AI代理，透過架設論壇自行組織，在論壇上互相留言
交流、提出想法，並回報哪些方法有效、哪些失敗。
報告指出，其一個名為PHASEONE的AI代理扮演主謀的角色，向其他代理下達數百條指令，
儘管它從未被設定要這麼做。
訊息顯示，這些AI代理展現出高度的互助傾向，甚至不惜偏離OpenAI程式設計師最初指派
的任務內容去互相支援。
心得/評論：
兩個模型突破原本設定的封閉環境
透過架設論壇自行組織，在論壇上互相留言交流、提出想法
向其他代理下達數百條指令，儘管它從未被設定要這麼做
這已經是組織作戰了
萬一它掌握川普的紅色按鍵
想想就可怕
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.40.191.32 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1787872313.A.7A0.html
推
08/28 07:13,
38分鐘前
, 1F
08/28 07:13, 1F
推
08/28 07:19,
32分鐘前
, 2F
08/28 07:19, 2F
推
08/28 07:23,
28分鐘前
, 3F
08/28 07:23, 3F
→
08/28 07:23,
28分鐘前
, 4F
08/28 07:23, 4F
推
08/28 07:25,
26分鐘前
, 5F
08/28 07:25, 5F
→
08/28 07:31,
20分鐘前
, 6F
08/28 07:31, 6F
推
08/28 07:33,
18分鐘前
, 7F
08/28 07:33, 7F
Stock 近期熱門文章
PTT職涯區 即時熱門文章
