[新聞] Ilya Sutskever成立新公司SSI，安全超級智慧是唯一目標與產品已刪文

看板Tech_Job (科技人)作者jackliao1990 (j)時間4月前 (2024/06/22 20:19)推噓4(4推 0噓 0→)

留言4則, 4人參與討論串1/1

突發！ Ilya Sutskever成立新公司SSI，安全超級智慧是唯一目標與產品 https://www.jiqizhixin.com/articles/2024-06-20-2 機器之心自 5 月15 日從OpenAI 離職後，OpenAI 前首席科學家Ilya Sutskever 官宣了自己的新動向。今天凌晨，Ilya 在社媒X 上表示自己創立了一家新公司－「安全超級智慧」（Safe SuperIntelligence，SSI）。該公司的目標和產品非常明確、單一：追求安全的超級智能，希望透過一支精幹頂尖的小團隊取得革命性的成果，進而實現這一目標。以下是SSI 公司的公告：超級智能已經觸手可及。建構安全超級智慧（SSI）是我們這個時代最重要的技術難題。我們已經啟動了世界上第一個專注於SSI的實驗室，目標和產品都只有一個：安全超級智慧。這間實驗室名為「Safe Superintelligence Inc」。 SSI是我們的使命、我們的名稱和我們的整個產品路線圖，它是我們唯一的關注點。我們的團隊、投資人和商業模式都致力於實現SSI。我們將安全性和能力視為透過革命性工程和科學突破來解決的技術難題。我們計劃盡快提高能力，同時確保安全性始終保持領先地位。這樣，我們就可以安心地擴展規模。我們專注於一個目標（SSI），這意味著不會受到管理開銷或產品週期的干擾。我們的商業模式可以確保安全、進步等都不受短期商業壓力的影響。我們是一家美國公司，在帕洛阿爾托和特拉維夫均設有辦事處。在那裡，我們有著深厚的根基，並有能力招募頂尖的技術人才。我們正在組建一支精幹、頂尖的團隊，由世界上最優秀的工程師和研究人員組成。他們將專注於SSI，不做其他任何事情。如果你是這樣的人，我們將提供一個機會，讓你從事一生的事業，幫助解決我們這個時代最重要的技術挑戰。現在是時候了，加入我們吧。公告網址：https://ssi.inc/ 公告中出現的另外兩位共同創辦人分別為前蘋果AI高層、Y-Combinator 的合夥人Daniel Gross和前OpenAI技術團隊成員Daniel Levy。 Daniel Gross表示自己很高興和榮幸與Ilya和Daniel Levy開啟這項新事業。 Daniel Levy則表示，很難想像在人類歷史的這一刻從事其他工作。 Ilya 與OpenAI 的故事 Ilya Sutskever 是以色列裔加拿大人，出生於前蘇聯，五歲隨家人移民耶路撒冷（因此他精通俄語、希伯來語和英語），2002 年搬到加拿大生活。在多倫多大學就讀大學期間，Ilya Sutskever 從一個叫做「改進隨機鄰域嵌入演算法」的計畫開始，開始了與Geoffrey Hinton 的合作，後來在攻讀博士學位時正式加入了 Hinton 的團隊。後來的事我們都熟悉：2012 年，Hinton 帶著Ilya Sutskever 和另一位研究生Alex Krizhevsky 建立了一個名為AlexNet 的神經網路，其識別照片中物體的能力遠遠超過了當時的其他系統。 AlexNet 是深度學習的爆發時刻。經歷了多年的失敗之後，他的團隊最早證明了模式識別問題可以被解決──秘決就是一個經過大量資料和算力訓練的深度神經網路。這種思路從電腦視覺延伸到了自然語言處理領域，同樣是ChatGPT取得如今成就的重要因素，包括Sora在影片生成領域的成功也離不開這兩點。 2012 年畢業後，Ilya Sutskever 在史丹佛大學跟隨吳恩達做了兩個月的博士後，隨後返回多倫多大學並加入了Hinton 研究小組的衍生公司DNNResearch 。 2013 年3 月，Google 收購了DNNResearch，聘請了Ilya Sutskever 擔任Google Brain 的研究科學家。在谷歌，Ilya Sutskever展示瞭如何深度學習的模式識別能力應用於資料序列，包括單字、句子。他與Oriol Vinyals和Quoc Le合作創建了序列到序列（Seq2seq）學習演算法，深度參與了 TensorFlow 的研究，也是AlphaGo論文的眾多作者之一。對語言的濃厚興趣，或許推動了Ilya Sutskever加入OpenAI的腳步。 2015 年7 月，Ilya Sutskeve 參加了Y Combinator 總裁Sam Altman 在Sand Hill Road 一家餐廳舉辦的晚宴，在那裡他遇到了馬斯克和格雷格·布羅克曼。那場晚宴上誕生了OpenAI。在場的人們就一件事達成了一致：它需要是一個非營利組織，沒有任何競爭性的激勵措施來淡化其使命，還需要世界上最好的人工智慧研究人員。 2015 年底，Ilya Sutskever 以「研究總監」的頭銜開始領導OpenAI 的研究和運營，這個組織也吸引了幾位世界知名的人工智慧研究者，包括「GAN 之父」伊恩·古德費洛、UC柏克萊的Pieter Abbeel 以及Andrej Karpathy。 2016 年，OpenAI 的第一個GPT 大型語言模型問世。從 GPT-2 到GPT-3，模型的能力越來越強大，證明了這條路線的實際正確性。每一次發布，OpenAI 都在不斷提高人們的想像力上限。但Ilya Sutskever透露，當真正讓OpenAI出圈的ChatGPT發佈時，公司內部對此的期望值很低：「當你問它一個事實性的問題時，它會給你一個錯誤的答案。我以為它會很平淡無奇，人們會說：你為什麼要做這個？將GPT模型封裝在一個易於使用的介面中並免費開放，讓數十億人第一次了解到OpenAI 正在構建的東西。在此之前， ChatGPT 背後的大型語言模型已經存在了幾個月。 ChatGPT的成功，讓創始團隊受到了前所未有的關注。 2023年，OpenAI 的執行長Sam Altman花了大半個夏天的時間，進行了長達數週的外聯之旅——與政客們交談，在世界各地座無虛席的禮堂發表演講。身為首席科學家，Ilya Sutskever保持著低調的風格，也不經常接受採訪，不像公司的其他創始成員那般是個公眾人物，而是把更多的精力放在了GPT-4上。今年早些時候，Hinton曾公開表示對自己幫助發明的技術感到恐懼：「我從沒見過更高智能水平的東西被遠遠更低智能水平的東西控制的案例。」作為Hinton的學生，Ilya Sutskever沒有對這一言論發表評論，但他對超級智慧負面影響的關注表明他們是同道中人。隨著GPT-4 以及後續一系列更強大的大語言模型的更新，以Ilya Sutskever為代表的一部分OpenAI 成員越來越擔憂AI 的可控性問題。於是就有了後面Ilya Sutskever 突然與Sam Altman 所代表的派系決裂、離職收場的故事。如今，Ilya成立了新的公司，也重新開啟了對AI的理想與堅持。期待SSI能為人工智慧的發展帶來新的驚喜。參考連結： https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.253.143.136 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1719058755.A.08A.html