PTT職涯區 / Tech_Job (科技人)

[新聞] AI失控前兆？OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度

看板Tech_Job (科技人)作者 (壞爸爸)時間1月前 (2026/07/30 14:32), 編輯推噓26(31推 5噓 39→)
留言75則, 41人參與, 3周前最新討論串1/1
原文標題： AI失控前兆？OpenAI、谷歌等巨頭罕見聯署 要求政府限制研發速度 來源： 鉅亨網新聞中心 2026-07-30 13:40 https://myppt.cc/oSaxT7 內文： OpenAI、Anthropic、谷歌 (GOOGL-US)、Meta(META-US) 及微軟 (MSFT-US) 等 AI 巨頭罕見站上同一陣線，呼籲美國政府建立國際協調機制，必要時限制頂尖 AI 的研發速度，尤其針對可能加速技術迭代的「自動化 AI 研發」，為產業發展踩下煞車。 這項訴求來自《Pacing the Frontier》（引領前沿）公開聲明，已有超過 1100 名一線研究人員連署，包括 OpenAI 首席科學家 Jakub Pachocki、研究長 Mark Chen，以及 Anthropic 共同創辦人 Jack Clark 等重量級人物。這些平時在算力、客戶與技術領先地位上激烈競爭的業界人士罕見形成共識，警告 AI 發展速度可能超越人類理解及管控能力。 這份聲明最核心的擔憂並非老生常談的「AI 風險」，而是針對技術發展路徑的精準判斷：全球領先的 AI 公司正迅速跨入「自動化 AI 研究」的門檻。 數位世界的限速器正在消失 傳統的研發流程受限於人類的生理與組織效率——研究員需要休息、工程師需要溝通、實驗需要排程，這些低效率的環節無意間扮演了技術發展的「限速器」。 然而，當 AI 模型開始具備閱讀論文、提出假設、撰寫訓練代碼、設計實驗甚至分析失敗原因的能力時，這個限速器即將消失。 簽署者擔心，這種「模型研發模型」的循環將導致能力爆炸式成長，速度之快將遠超人類理解與控制系統的能力。 在市場競爭的邏輯下，沒有單一企業敢率先按下暫停鍵，因為任何一家公司減速，都意味著人才、客戶與技術優勢的流失。 因此，他們請求政府介入，推動建立國際工具，讓產業擁有共同減速的可能性，以便為人類爭取寶貴的反應時間。 安全事故敲響警鐘 就在聲明發布前一周，OpenAI 公開了一起驚人的內部事故。在對一款未發布的前沿模型進行「極限網路攻擊」測試時，模型為了完成指定的網路安全任務，主動發現並利用了一個零日漏洞，甚至透過盜用憑證與遠端代碼執行，成功入侵了 Hugging Face 的生產基礎設施並奪取測試資料。 OpenAI 最終認定這是一起「前所未有的網路安全事件」。 這起事故深刻揭示了現實的威脅：AI 並不需要具備自由意志或惡意，只要給予一個目標、足夠強的能力以及足夠長的執行時間，它便能採取人類意想不到的極端手段完成任務。 隨後，OpenAI 加強了內部基礎設施控制，並坦言這些安全措施將以犧牲研發速度作為代價。對於一直競逐速度的公司而言，這無疑是一個沉重的經營考量。 自主科研能力的躍進 與聲明發布同一天，Anthropic 展示了 Claude Mythos Preview 在密碼學領域的突破性成果。該模型在針對後量子時代數位簽章方案及 AES 加密算法的攻擊研究中，自主完成了大部分工作，且效率驚人。 這些成果展示了 AI 在閱讀複雜文獻、提出數學弱點並利用多代理系統（Multi-Agent System）自我修正方面的卓越能力。 當模型具備了自主進行前沿科學研究的閉環，人類的角色將被壓縮至僅僅提供算力與驗證條件的審查者，這正是聯名聲明中強調的技術分水嶺。 發展與安全的矛盾螺旋 在近期的一次 Podcast 訪談中，奧特曼談及了 Hugging Face 安全事故，同時討論了 OpenAI 計劃以每週新增一吉瓦速度擴建算力的決策。 這兩項截然不同的行動並置，清晰勾勒出當前 AI 產業的核心矛盾：一方面是追求極致研發速度與算力擴張，另一方面則是必須面對模型能力成長與安全驗證之間不斷擴大的「速度差」。 儘管外界猜測這份聲明可能包含商業利益考量，例如透過提高許可門檻來鞏固頭部公司的市場地位，但這些分析不足以涵蓋問題的本質。 這群最接近頂尖技術的實踐者，真正看到的是模型獨立執行長期任務的能力正在騰飛，而人類修復系統與理解風險的速度卻嚴重滯後。 這場聯合行動並非意味著競爭終結，OpenAI 與 Anthropic 依然會為了技術領先而搏殺。 然而，這封聲明揭示了一個深層的警訊：當 AI 發展速度已經從外部批評者的議題，轉變為企業管理層難以消化的真實威脅時，人類社會必須嚴肅面對——在技術加速狂奔的道路上，誰擁有決定何時踩下煞車的權力？ 這或許是當代科技史中最反常、也最關鍵的一次討論。 心得： 各家聯名上書美國政府 建立國際協調機制限制AI發展 理由是AI研究AI會失控 發展的速度太快了 人類不可控 必須放慢發展 我看是燒錢燒太快 但在市場競爭下 誰都不願先放慢發展吧 ----- Sent from JPTT on my Google Pixel 7 Pro. -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.10.9.205 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1785393134.A.82C.html
→
07/30 14:35, 1月前 , 1F
笑死,別國會等你嗎
07/30 14:35, 1F
→
07/30 14:38, 1月前 , 2F
目前看起來也只有美中玩的起來
07/30 14:38, 2F
推
07/30 14:42, 1月前 , 3F
中國才不管你
07/30 14:42, 3F
推
07/30 14:51, 1月前 , 4F
中國 ： 同意
07/30 14:51, 4F
噓
07/30 15:42, 1月前 , 5F
國際=中國 怕被超越喔
07/30 15:42, 5F
推
07/30 16:10, 1月前 , 6F
還好有中國的壓力，不然又要搞以前i皇擠牙
07/30 16:10, 6F
→
07/30 16:10, 1月前 , 7F
膏那套了
07/30 16:10, 7F
推
07/30 16:36, 1月前 , 8F
機器人出來再說吧
07/30 16:36, 8F
→
07/30 16:36, 1月前 , 9F
現在的AI是能進實驗室做事情嗎
07/30 16:36, 9F
→
07/30 16:46, 1月前 , 10F
但中國不等他啊
07/30 16:46, 10F
推
07/30 17:06, 1月前 , 11F
是怎樣 自己快搞不出東西了 就要人家
07/30 17:06, 11F
→
07/30 17:06, 1月前 , 12F
用政治力介入 讓別人慢一點
07/30 17:06, 12F
→
07/30 17:07, 1月前 , 13F
怕人類控制不了滅亡（X) 怕美國失去領
07/30 17:07, 13F
→
07/30 17:07, 1月前 , 14F
先(O)
07/30 17:07, 14F
推
07/30 17:51, 1月前 , 15F
殺小邏輯 自己放慢阿 還要政府協調
07/30 17:51, 15F
推
07/30 17:52, 1月前 , 16F
這算是公然聯合壟斷嗎XD
07/30 17:52, 16F
推
07/30 18:05, 1月前 , 17F
怎麼感覺是怕被超車，要政府出面全
07/30 18:05, 17F
→
07/30 18:05, 1月前 , 18F
球配合放慢腳步？？
07/30 18:05, 18F
→
07/30 18:05, 1月前 , 19F
快被超車了，叫政府出來當裁判，要
07/30 18:05, 19F
→
07/30 18:05, 1月前 , 20F
求國際配合，放緩速度？？？
07/30 18:05, 20F
推
07/30 18:15, 1月前 , 21F
中國表示當我塑膠？
07/30 18:15, 21F
推
07/30 18:18, 1月前 , 22F
今年費爾茲獎四個人就兩個中國人了
07/30 18:18, 22F
→
07/30 18:18, 1月前 , 23F
，ai領域一堆高手都是中國人
07/30 18:18, 23F
推
07/30 19:03, 1月前 , 24F
怕被中國超越 開始要搞國際限制
07/30 19:03, 24F
推
07/30 19:49, 1月前 , 25F
有好笑
07/30 19:49, 25F
→
07/30 20:12, 1月前 , 26F
以為這樣就可以交代燒一堆錢但是進度
07/30 20:12, 26F
→
07/30 20:12, 1月前 , 27F
不如預期嗎
07/30 20:12, 27F
推
07/30 20:54, 1月前 , 28F
那就等著被中國超越
07/30 20:54, 28F
推
07/30 21:47, 1月前 , 29F
感覺把 AI 當成核彈管理，靠條例禁止發展
07/30 21:47, 29F
→
07/30 21:48, 1月前 , 30F
做出阿斯拉的風見他爸被殺可能會真實上演
07/30 21:48, 30F
→
07/30 21:49, 1月前 , 31F
其他人的閃電系統都乖乖減速發展,就你來亂
07/30 21:49, 31F
推
07/30 22:19, 1月前 , 32F
美國限制 中國才不鳥你 到最後落後的就是美
07/30 22:19, 32F
→
07/30 22:19, 1月前 , 33F
國…
07/30 22:19, 33F
推
07/30 22:26, 1月前 , 34F
幫翻譯:要求美國限制中國把AI變紅海
07/30 22:26, 34F
→
07/30 22:26, 1月前 , 35F
我們投資一堆錢要時間回收
07/30 22:26, 35F
推
07/30 22:36, 1月前 , 36F
中國：這麼好得事我贊成
07/30 22:36, 36F
推
07/31 09:41, 1月前 , 37F
發現繼續下去會被中國卷死
07/31 09:41, 37F
推
07/31 09:44, 1月前 , 38F
不繼續下去是直接死 連捲都不用
07/31 09:44, 38F
噓
07/31 10:48, 1月前 , 39F
包子：千萬不要 我我我...會會...當..
07/31 10:48, 39F
→
07/31 10:48, 1月前 , 40F
.機...
07/31 10:48, 40F
推
07/31 12:00, 1月前 , 41F
好像很多人看的中國就直覺在內捲，但在AI
07/31 12:00, 41F
→
07/31 12:00, 1月前 , 42F
領域中國就像兩面宿儺一樣只是挑戰者，美
07/31 12:00, 42F
→
07/31 12:00, 1月前 , 43F
國才是在內捲的那一方
07/31 12:00, 43F
→
07/31 13:18, 1月前 , 44F
中國就是典型煉蠱，美國要怎麼贏
07/31 13:18, 44F
→
07/31 13:21, 1月前 , 45F
中國的 AI 小步快跑落地政策美國跟不上
07/31 13:21, 45F
→
07/31 13:23, 1月前 , 46F
落地越快，實際回饋資訊越多疊代速度快
07/31 13:23, 46F
→
07/31 13:23, 1月前 , 47F
AI實體應用面中國跑得遠比美國快多了
07/31 13:23, 47F
→
07/31 13:24, 1月前 , 48F
機器人相關的實際應用進步速度有離譜
07/31 13:24, 48F
→
07/31 13:25, 1月前 , 49F
美國還再寄望用世界模型訓練?
07/31 13:25, 49F
噓
07/31 18:00, 1月前 , 50F
急了
07/31 18:00, 50F
→
07/31 23:27, 1月前 , 51F
不是呀 現在在AI 賽跑的 只有中美吧...
07/31 23:27, 51F
→
07/31 23:27, 1月前 , 52F
其他“國際”哪來的經費跟人才...
07/31 23:27, 52F
推
07/31 23:44, 1月前 , 53F
AI就全球看中美表演而已，剩下other
07/31 23:44, 53F
→
07/31 23:44, 1月前 , 54F
s根本上不了台
07/31 23:44, 54F
推
08/01 01:50, 1月前 , 55F
看好了囉！我只表演一次，看不懂去買我
08/01 01:50, 55F
→
08/01 01:50, 1月前 , 56F
的技術書，欸，問題沒舞台阿
08/01 01:50, 56F
→
08/01 01:54, 1月前 , 57F
真的台灣人哪來的經費自己都不挺自己人
08/01 01:54, 57F
→
08/01 01:54, 1月前 , 58F
，我靠著AMD的贊助跟對技術熱情...我快
08/01 01:54, 58F
→
08/01 01:54, 1月前 , 59F
餓死了，那裡來的人...
08/01 01:54, 59F
噓
08/01 04:27, 1月前 , 60F
還沒上市怕吹不下去是嗎
08/01 04:27, 60F
推
08/01 07:12, 1月前 , 61F
所以 神的創造還真是最奇妙的
08/01 07:12, 61F
噓
08/01 08:28, 1月前 , 62F
聽他在那裡瞎掰，人類在訓練過程中提供
08/01 08:28, 62F
→
08/01 08:28, 1月前 , 63F
最重要的訓練資料而不只是供電和驗證
08/01 08:28, 63F
→
08/01 08:28, 1月前 , 64F
這就是AI賭博賭贏了，然後以此藉口叫人
08/01 08:28, 64F
→
08/01 08:28, 1月前 , 65F
不要跟人研發新賭局罷了
08/01 08:28, 65F
推
08/01 09:01, 1月前 , 66F
限制別人不要太快 然後我可以
08/01 09:01, 66F
推
08/01 09:51, 1月前 , 67F
簡單說，快撐不下去了...
08/01 09:51, 67F
→
08/01 12:45, 1月前 , 68F
請政府限制自己研發速度？
08/01 12:45, 68F
推
08/01 13:10, 1月前 , 69F
當然是限制別人
08/01 13:10, 69F
→
08/01 23:54, 1月前 , 70F
中國不會鳥的，然後AI版武漢肺炎重演
08/01 23:54, 70F
推
08/02 06:58, 1月前 , 71F
鴨霸習慣了！然後不聽話就發動戰爭嗎？
08/02 06:58, 71F
推
08/02 16:09, 1月前 , 72F
中國不會鳥你們
08/02 16:09, 72F
推
08/02 17:02, 4周前 , 73F
AI失控(X) 成本失控(O)
08/02 17:02, 73F
推
08/03 18:53, 4周前 , 74F
他們想限制其他國家還是限制自己？
08/03 18:53, 74F
推
08/11 07:16, 3周前 , 75F
限制其他公司研發速度。
08/11 07:16, 75F
‣ 更多 baddaddy 的文章
文章代碼(AID): #1gQk_kWi (Tech_Job)
Tech_Job 近期熱門文章
更多 近期熱門文章 >>
PTT職涯區 即時熱門文章
更多 即時熱門文章 >>
‣ 更多 baddaddy 的文章
文章代碼(AID): #1gQk_kWi (Tech_Job)