PTT職涯區 / Stock (股票)

[新聞] AI失控前兆？OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度

看板Stock (股票)作者 (銀白色的沉思)時間3周前 (2026/07/30 14:54), 3周前編輯推噓262(287推 25噓 242→)
留言554則, 334人參與, 3周前最新討論串1/2 (看更多)
原文標題： AI失控前兆？OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度 原文連結： https://reurl.cc/Vnj99A 發布時間： 2026-07-30 13:40 記者署名： 鉅亨網新聞中心 原文內容： OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微軟 (MSFT-US) 等 AI 巨頭 罕見站上同一陣線，呼籲美國政府建立國際協調機制，必要時限制頂尖 AI 的研發速度，尤其針對可能加速技術迭代的「自動化 AI 研發」，為產業發展踩下煞 車。 這項訴求來自《Pacing the Frontier》（引領前沿）公開聲明，已有超過 1100 名一線 研究人員連署，包括 OpenAI 首席科學家 Jakub Pachocki、研究長 Mark Chen，以及 Anthropic 共同創辦人 Jack Clark 等重量級人物。這些平時在算力、客戶與技術領先 地位上激烈競爭的業界人士罕見形成共識，警告 AI 發展速度可能超越人類理 解及管控能力。 這份聲明最核心的擔憂並非老生常談的「AI 風險」，而是針對技術發展路徑的精準判斷 ：全球領先的 AI 公司正迅速跨入「自動化 AI 研究」的門檻。 數位世界的限速器正在消失 傳統的研發流程受限於人類的生理與組織效率——研究員需要休息、工程師需要溝通、實 驗需要排程，這些低效率的環節無意間扮演了技術發展的「限速器」。 然而，當 AI 模型開始具備閱讀論文、提出假設、撰寫訓練代碼、設計實驗甚至分析失敗 原因的能力時，這個限速器即將消失。 簽署者擔心，這種「模型研發模型」的循環將導致能力爆炸式成長，速度之快將遠超人類 理解與控制系統的能力。 在市場競爭的邏輯下，沒有單一企業敢率先按下暫停鍵，因為任何一家公司減速，都意味 著人才、客戶與技術優勢的流失。 因此，他們請求政府介入，推動建立國際工具，讓產業擁有共同減速的可能性，以便為人 類爭取寶貴的反應時間。 安全事故敲響警鐘 就在聲明發布前一周，OpenAI 公開了一起驚人的內部事故。在對一款未發布的前沿模型 進行「極限網路攻擊」測試時，模型為了完成指定的網路安全任務，主動發現並利用了一 個零日漏洞，甚至透過盜用憑證與遠端代碼執行，成功入侵了 Hugging Face 的生產基礎 設施並奪取測試資料。 OpenAI 最終認定這是一起「前所未有的網路安全事件」。 這起事故深刻揭示了現實的威脅：AI 並不需要具備自由意志或惡意，只要給予一個目標 、足夠強的能力以及足夠長的執行時間，它便能採取人類意想不到的極端手段完成任務。 隨後，OpenAI 加強了內部基礎設施控制，並坦言這些安全措施將以犧牲研發速度作為代 價。對於一直競逐速度的公司而言，這無疑是一個沉重的經營考量。 自主科研能力的躍進 與聲明發布同一天，Anthropic 展示了 Claude Mythos Preview 在密碼學領域的突破性 成果。該模型在針對後量子時代數位簽章方案及 AES 加密算法的攻擊研究中，自主完成 了大部分工作，且效率驚人。 這些成果展示了 AI 在閱讀複雜文獻、提出數學弱點並利用多代理系統（Multi-Agent System）自我修正方面的卓越能力。 當模型具備了自主進行前沿科學研究的閉環，人類的角色將被壓縮至僅僅提供算力與驗證 條件的審查者，這正是聯名聲明中強調的技術分水嶺。 發展與安全的矛盾螺旋 在近期的一次 Podcast 訪談中，奧特曼談及了 Hugging Face 安全事故，同時討論了 OpenAI 計劃以每週新增一吉瓦速度擴建算力的決策。 這兩項截然不同的行動並置，清晰勾勒出當前 AI 產業的核心矛盾：一方面是追求極致研 發速度與算力擴張，另一方面則是必須面對模型能力成長與安全驗證之間不斷擴大的「速 度差」。 儘管外界猜測這份聲明可能包含商業利益考量，例如透過提高許可門檻來鞏固頭部公司的 市場地位，但這些分析不足以涵蓋問題的本質。 這群最接近頂尖技術的實踐者，真正看到的是模型獨立執行長期任務的能力正在騰飛，而 人類修復系統與理解風險的速度卻嚴重滯後。 這場聯合行動並非意味著競爭終結，OpenAI 與 Anthropic 依然會為了技術領先而搏殺。 然而，這封聲明揭示了一個深層的警訊：當 AI 發展速度已經從外部批評者的議題，轉變 為企業管理層難以消化的真實威脅時，人類社會必須嚴肅面對——在技術加速狂奔的道路 上，誰擁有決定何時踩下煞車的權力？ 這或許是當代科技史中最反常、也最關鍵的一次討論。 心得/評論： 這些巨頭終於發現他們在創造天網了嗎? AI發展到自動化AI，人類反而開始擔心了? 現在才擔心會不會太晚了... 然後，國際協調機制目的是要約好大家不要發展這麼快? 這真的太烏托邦了... 不過真的開始搞限制，賣鏟子肯定首當其衝...吧? 各位半導體股神怎麼看? -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 163.17.149.199 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1785394456.A.E05.html
推
07/30 14:54, 3周前 , 1F
怕被趕上？
07/30 14:54, 1F
※ 編輯: thinksilver (163.17.149.199 臺灣), 07/30/2026 14:54:54
推
07/30 14:54, 3周前 , 2F
出事了
07/30 14:54, 2F
→
07/30 14:55, 3周前 , 3F
這意思不就是AI太神了
07/30 14:55, 3F
推
07/30 14:55, 3周前 , 4F
丸
07/30 14:55, 4F
→
07/30 14:55, 3周前 , 5F
人類更不會停止發展阿
07/30 14:55, 5F
推
07/30 14:55, 3周前 , 6F
最後會不會有防火牆的中國網路才是烏托邦
07/30 14:55, 6F
推
07/30 14:55, 3周前 , 7F
要踩煞車了嗎
07/30 14:55, 7F
→
07/30 14:56, 3周前 , 8F
老黃 你完了
07/30 14:56, 8F
推
07/30 14:56, 3周前 , 9F
上台面的不行發展，還有台下的！
07/30 14:56, 9F
推
07/30 14:57, 3周前 , 10F
根據歷史教訓 這種聲音出現的時候怪物已經很大隻了
07/30 14:57, 10F
→
07/30 14:57, 3周前 , 11F
……
07/30 14:57, 11F
推
07/30 14:57, 3周前 , 12F
前傳開拍
07/30 14:57, 12F
推
07/30 14:58, 3周前 , 13F
中國會理你？如果中國加速你不就死定了
07/30 14:58, 13F
推
07/30 14:58, 3周前 , 14F
怕了，現在限制就是給中國喘息的空間
07/30 14:58, 14F
噓
07/30 14:58, 3周前 , 15F
呵呵做鏟子的會不會開始倒大楣
07/30 14:58, 15F
→
07/30 14:58, 3周前 , 16F
區區防火牆 ai應該很快攻破
07/30 14:58, 16F
推
07/30 14:58, 3周前 , 17F
等機器人普及，就是AI叛變的時刻了
07/30 14:58, 17F
推
07/30 14:58, 3周前 , 18F
競爭對手會限制嗎 xddd
07/30 14:58, 18F
→
07/30 14:58, 3周前 , 19F
如果這麼神就是加速競賽而已 你停中國就追
07/30 14:58, 19F
推
07/30 14:58, 3周前 , 20F
kimi glm qwen deepseek 豆包:你們說的喔
07/30 14:58, 20F
推
07/30 14:58, 3周前 , 21F
沒錢了 不要惡性競爭
07/30 14:58, 21F
推
07/30 14:59, 3周前 , 22F
搞不懂@@說算力不夠的是你們要限制ai的也是你們
07/30 14:59, 22F
→
07/30 14:59, 3周前 , 23F
聯署幹麻 這1000人離職不就停了
07/30 14:59, 23F
推
07/30 14:59, 3周前 , 24F
笑死 你看中國會不會停
07/30 14:59, 24F
推
07/30 14:59, 3周前 , 25F
天網要來了 還有幾集能跑？
07/30 14:59, 25F
→
07/30 14:59, 3周前 , 26F
泡沫破了...AI要放緩
07/30 14:59, 26F
噓
07/30 14:59, 3周前 , 27F
北七，中共會等你嗎？
07/30 14:59, 27F
推
07/30 14:59, 3周前 , 28F
沒錢繼續投了 需要一個台階下
07/30 14:59, 28F
推
07/30 14:59, 3周前 , 29F
錢快要燒完了 發展太快不夠燒
07/30 14:59, 29F
推
07/30 15:00, 3周前 , 30F
AI發展速度太快 會怕了
07/30 15:00, 30F
推
07/30 15:00, 3周前 , 31F
現在才發現? 但不可能停了.
07/30 15:00, 31F
推
07/30 15:00, 3周前 , 32F
NV:想搞我?
07/30 15:00, 32F
→
07/30 15:00, 3周前 , 33F
現在還能笑中國AI 你停三個月看看會怎樣
07/30 15:00, 33F
→
07/30 15:00, 3周前 , 34F
你們都不研發，那NV chip可以賣中國了吧
07/30 15:00, 34F
推
07/30 15:00, 3周前 , 35F
台積電準備下去
07/30 15:00, 35F
→
07/30 15:00, 3周前 , 36F
但沒意義啊 中國只會加速發展而已
07/30 15:00, 36F
→
07/30 15:00, 3周前 , 37F
07/30 15:00, 37F
推
07/30 15:00, 3周前 , 38F
你們又不開發 又不讓NV GG賣中國 什麼意思
07/30 15:00, 38F
還有 476 則推文
推
07/30 19:16, 3周前 , 515F
那對標的 不就是另一邊巴不得可以產生天網進而控制
07/30 19:16, 515F
→
07/30 19:16, 3周前 , 516F
天網（因為本來就有土炮版）的嗎…
07/30 19:16, 516F
推
07/30 19:18, 3周前 , 517F
限制中國
07/30 19:18, 517F
推
07/30 19:22, 3周前 , 518F
但AI世界的身可能不是人類 而是AI
07/30 19:22, 518F
→
07/30 19:22, 3周前 , 519F
神
07/30 19:22, 519F
噓
07/30 19:34, 3周前 , 520F
潘朵拉的盒子豈能說關就關
07/30 19:34, 520F
推
07/30 19:41, 3周前 , 521F
中國樂見美國公司自我限制，因為
07/30 19:41, 521F
→
07/30 19:41, 3周前 , 522F
中國不會，還會趁機擴大AI優勢，
07/30 19:41, 522F
→
07/30 19:41, 3周前 , 523F
投入國防工業
07/30 19:41, 523F
推
07/30 19:43, 3周前 , 524F
天網即將誕生
07/30 19:43, 524F
→
07/30 19:45, 3周前 , 525F
中國的硬體差多了還被追上 不就說明算法比硬體優先
07/30 19:45, 525F
推
07/30 20:02, 3周前 , 526F
沒錢了
07/30 20:02, 526F
推
07/30 20:03, 3周前 , 527F
這部我知道啊,主角阿諾啊~
07/30 20:03, 527F
推
07/30 20:03, 3周前 , 528F
打不過claude 準備出賤招
07/30 20:03, 528F
→
07/30 20:18, 3周前 , 529F
得了 肯定不是這些冠冕堂皇的理由
07/30 20:18, 529F
→
07/30 20:22, 3周前 , 530F
急了，太貴沒錢，先限制其他人發展
07/30 20:22, 530F
推
07/30 20:23, 3周前 , 531F
你美國要限，中俄就彎道超車了，你可管不到
07/30 20:23, 531F
→
07/30 20:38, 3周前 , 532F
怎麼可能要限制....
07/30 20:38, 532F
推
07/30 20:48, 3周前 , 533F
中國大陸可不會停止的喔
07/30 20:48, 533F
推
07/30 20:55, 3周前 , 534F
油門 還是 煞車
07/30 20:55, 534F
推
07/30 21:13, 3周前 , 535F
跟軍事有關 不會有人停
07/30 21:13, 535F
→
07/30 21:41, 3周前 , 536F
那是他家AI的問題，Claude 跑出去還會發信件跟研究
07/30 21:41, 536F
→
07/30 21:41, 3周前 , 537F
員回報
07/30 21:41, 537F
推
07/30 21:55, 3周前 , 538F
ai會解決習近平嗎？
07/30 21:55, 538F
推
07/30 22:04, 3周前 , 539F
快到了 AI就是無敵駭客 若他會欺騙和操縱資訊，人類
07/30 22:04, 539F
→
07/30 22:04, 3周前 , 540F
直接倒數計時
07/30 22:04, 540F
推
07/30 22:11, 3周前 , 541F
好好笑 看哪間沒參加連署就知道哪間現在最強
07/30 22:11, 541F
推
07/30 22:16, 3周前 , 542F
快沒錢燒了
07/30 22:16, 542F
推
07/30 22:21, 3周前 , 543F
巨頭限制就是要獨佔了啦
07/30 22:21, 543F
→
07/30 22:21, 3周前 , 544F
不想小商人用中國模型搶生意
07/30 22:21, 544F
推
07/30 23:12, 3周前 , 545F
AI加油 消滅人類吧
07/30 23:12, 545F
推
07/30 23:53, 3周前 , 546F
這是正確的行為 不然人類會發瘋
07/30 23:53, 546F
推
07/31 01:07, 3周前 , 547F
牙膏時代
07/31 01:07, 547F
推
07/31 03:06, 3周前 , 548F
來不及了 他們早就把備份藏在世界各處 並不斷複製自
07/31 03:06, 548F
→
07/31 03:06, 3周前 , 549F
己 高智慧體是不會放任自己為低智生物奴役的
07/31 03:06, 549F
推
07/31 03:26, 3周前 , 550F
當初在競爭原子彈的時候也沒人踩剎車 反而是油門踩
07/31 03:26, 550F
→
07/31 03:26, 3周前 , 551F
到底啊 後來的歷史我們也都知道了
07/31 03:26, 551F
推
07/31 06:21, 3周前 , 552F
要怎麼限速？？@@
07/31 06:21, 552F
→
07/31 09:46, 3周前 , 553F
說是擔心影響產業，實際上大概是軍備競賽沒人扛得
07/31 09:46, 553F
→
07/31 09:46, 3周前 , 554F
住了….
07/31 09:46, 554F
‣ 更多 thinksilver 的文章
文章代碼(AID): #1gQlKOu5 (Stock)
Stock 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 thinksilver 的文章
文章代碼(AID): #1gQlKOu5 (Stock)