[新聞] Chat GPT公益私利之定位：科技教父的世

看板Patent (專利)作者stpiknow (H)時間2月前 (2024/03/13 13:26)推噓0(0推 0噓 0→)

留言0則, 0人參與討論串1/1

Chat GPT公益私利之定位：科技教父的世紀官司 --Musk強勢回歸告Altman與OpenAI (系列一 AI開發科技巨頭間的恩怨情仇) 原文連結: https://bit.ly/3TdoPcl 原文: ChatGPT自從2022年底發布以來，到2023年3月ChatGPT 4出台席捲全球，所有的人都競相使用這個破壞式創新的革命性工具，一時間夯到不行，連帶的也掀起了「生成式AI」的新紀元，舉凡文字、圖形、影像、聲音、程式碼、影片等，透過可以自動生成。而在這個大突破之下，開發ChatGPT的新創公司OpenAI，在短短幾年間，蛻變成估值高達 800億美元的科技新貴，但在將AI推到頂峰的風光背後，也產生很多爭議，其中一直以智財權糾紛為最，OpenAI被許多人控告著作權侵害。但最引人注目的，還是在2024年閏二月的最後一天，電動車教父Elon Musk，向北加州舊金山地院，控告ChatGPT之父Samuel Altman（另外還有共同創辦人Gregory Brockman、OpenAI及其8家關係企業，以下或統稱被告）違法，兩強相爭終需一戰，這個教父級別的世紀法律大戰，這無疑是所有AI相關訴訟中，最有看頭的一個案例！本案緣起眾所周知，Musk在多年以前就參與ChatGPT的早期開發，不但出錢出力，用盡資源來催生這個世紀科技產物！但沒隔幾年，大家從新聞上看到Musk悄然退出團隊，這期間雖然有些報導，對其退出的緣由並不清楚！直到2023年11月，OpenAI爆出人事改組的震撼彈，也就是Altman被掃地出門，這一消息可說是震驚全球！然而，沒幾天又戲劇性地上演鳳還巢，在微軟的力挺之下，Altman又班師回朝繼續擔任執行長！而再不到百日，Musk就控告Altman和OpenAI違約，以上這一事件串連起來讓人驚覺，當年Musk被迫離開，原來是隱藏了關於生成式AI，在科技人文和經濟發展上，在公益和私利間的角力，其究竟應如何定位的大課題！本案由於在前二週才提告，被告法律上如何反擊尚不可知，但鑒於Musk要求將OpenAI開發的AI技術開放給公眾，這對AI的發展來說無疑是一個重大的事件，因此筆者擬先從Musk起訴狀中所主張的觀點出發，介紹本案具體的內涵及其可能的影響，讓讀者先睹為快！至於 Musk所陳述的事實，將來被告可透過證據開示加以攻防，屆時將繼續在本刊追蹤報導。人工通用智慧 (AGI) 的風險 20世紀的美國經濟，已逐漸從勞動力轉向以知識為基礎，經濟價值越來越由人類智力創造。隨著世紀的發展，另一個典範轉移已經開始：透過AI人工智慧創造價值。由於早期的AI 程式，只能在某些各別單獨工作中超越人類，這些程式雖然有用，但本質上都僅是單一技能(如下棋) -- 其智能並非所謂通用的。回顧從2000年末和2010年初，被稱為「AI教父」Geoffrey Hinton開發的「深度學習」演算法，使幾乎在所有AI項目的性能大幅提升，一夕間引發一場革命。這種新的演算法，可用於將語音轉換為文字、在不同語言間進行翻譯以及識別各類圖形影像。深度學習的標誌之一是，演算法的設計，不需要對所需工作掌握相關的大量知識，它們可從訓練例示中學習每項任務，其本質上是自我編程，這意味著它們比IBM Deep Blue等早期系統更具通用性。隨著深度學習越來越複雜，世界頂尖的AI研究人員，逐漸將目光投向所謂的「通用人工智慧」（Artificial General Intelligence，以下稱AGI），其基本概念是共通用途的AI系統 -- 即具有像人類一樣智慧可廣泛執行各種任務。但Musk卻意識到AGI對人類構成嚴重威脅，他的擔憂與之前英國著名物理學家Stephen Hawking 曾警告AI可能終結人類一樣，而Sun Microsystems創始人Bill Joy也警告「擁有強大的AGI，未來不需要人類」。因此Musk公開呼籲應採取措施，來因應AGI帶來的危險，從停止使用AGI到對實施監管等，但他的呼籲被忽視。Musk認為AGI存在生存威脅之同時，其他人卻將AGI視為利益和權力的來源，競相逐鹿不遺餘力。 Musk對AGI落入錯誤機構手中的行動 2012年Musk認識AI公司DeepMind的聯合創辦人Demis Hassabis，二人討論當今面臨的最大威脅，Hassabis強調AI發展對社會帶來的潛在危險，Musk越來越擔心：AI變得超級聰明、超越人類智慧而對人類構成巨大威脅的潛力。 Musk開始討論AI和DeepMind，例如：Google母公司Alphabet, Inc.的執行長Larry Page， Musk提到AI的危險，但令Musk驚訝的是，Page對此不關心。2013年，Musk與Page就AI的危險進行激烈交談，Musk警告說，除非制定到位的保障措施，否則「AI可能取代人類，使人類物種變得不重要甚至滅絕」，Page則回答那只是「進化的下一階段」，並認為Musk是個「物種歧視者」(specist) -- 偏向人類而非智能機器，Musk回應：「是的，我支持人類 (prohuman)」。 2013年底Musk得知Google計劃收購一個深度學習團隊DeepMind，當時DeepMind是業界最先進的AI公司之一，其最初開發的AlphaZero是一種下棋的演算法，使用「強化學習」 (Reinforcement Learning)，其程式透過不同版本的軟體與自己對弈來學習下棋 [1]。 AlphaZero能24小時內，在西洋棋和日本將棋以及圍棋這三種遊戲中達到超人水準，並都擊敗了世界冠軍程式。因此Musk擔憂DeepMind的AI技術，落入那些輕率看待AI的人手中，並可能將其設計和功能隱藏於幕後。為了防止這項強大的技術落入Google手中，Musk和PayPal的聯合創始人 Luke Nosek試圖籌集資金購買DeepMind，但二人的努力失敗，2014年1月Google收購 DeepMind，然而，這並未阻止Musk繼續對AI安全發展和實踐的努力。對AI霸主Google的反制 Google收購DeepMind後無異如虎添翼，在DeepMind團隊的運作下，Google立即躍居AI國際競爭的頂尖地位，引領風潮不可一世，但Musk對其往後的發展深感不安，他認為像Google 這樣封閉的營利性 (for-profit) 公司，如任由其開發AGI，將對人類構成嚴重且有害的危險。而自2014年起，Google在AI核心業務中已遙遙領先群雄，要與其競爭實屬困難，況且Google另已從搜索、電郵和幾乎所有圖書館中的每本書中，收集獨特巨量的數據（得數據者得AI天下），將來要和Google的AGI競爭幾乎不可能，Musk遂決定採取行動。就探討如何對抗Google以促進AI安全，2015年Musk似乎找到一個人：Sam Altman，可理解其對AI之擔憂、且不希望將第一個AGI落入Google這種公司的手中。當時Altman是一家矽谷新創公司加速器Y Combinator的總裁，在此之前Altman參與過各種新創企業風險投資。為確保AI安全草擬致總統信函 Altman似乎與Musk一樣，對AI構成的威脅抱持同樣擔憂，Altman早在2014年的部落格文章中就表示，如果創造出AGI，將成為有史以來科技的最大發展。2015年2月，Altman表示：超人類機器智慧 (Superhuman Machine Intelligence) 的發展，可能對人類持續存在最大的威脅，並強調「作為人類為了生存和繁衍，我們應對抗它」。事實上，2015年3月初，作為確保AI安全，Altman曾讚揚政府監管手段的重要性。之後Altman聯繫Musk，問他是否有興趣，起草一封致美國政府有關AI的公開信，兩人開始起草。 2015年4月Musk表示：「如果做得好，從長遠來看這可能會加速AI的發展。如果沒有監管機構提供公眾安全，AI很可能造成巨大傷害，之後AI研究會因此被視為對公共安全構成危險而遭禁止」。以上這封公開信後來於2015年10月底發表，有超過1萬人的簽署，除了 Musk二人，還包括著名的Hawking和與Steve Jobs共同創立蘋果電腦的Steve Wozniak。從「曼哈頓計劃」到OpenAI的成立 Altman接著在2015年5月底發給Musk一封電郵，表示他一直在思考是否可能阻止人類發展 AI，但認為答案幾乎是否定的；而這事如果要發生，似應由Google以外的人來做更好。因此Altman有一個想法：由Y Combinator來啟動一個AI的「曼哈頓計劃」（Manhattan Project，即二戰設計奧本海默製造原子彈計劃名稱），他提議可透過建構某種非營利組織，讓開發之技術歸屬於全人類，Musk則回應：值得一談。經過進一步溝通後，Altman於2015年6月底，向Musk提出關於新的「AI實驗室」之詳細提案，聯手共同組建一個非營利性的組織，試圖在AGI競賽中迎頭趕上Google，但將與 Google完全營利之性質背道而馳。並主張：「我們的使命是創建第一個通用AI，並將其用於個人賦能 -- 即未來發布的版本是最安全的，而安全性應是首要需求」；技術將由該基金會擁有，並用於「造福世界」，他還提出一個治理結構，Musk則回應：「全部同意」。不久後，Altman開始招募人來協助開發，包括找來Gregory Brockman參與。 2015年11月，Brockman透過電郵與Musk聯繫，他告訴Musk：「我們以一個中立的AI研究團體進入該領域，致力尋求廣泛合作，並將以人類為重的方向，而不是為任何特定個人、團體或公司來謀利」，Musk對此感到樂觀，並告訴Brockman他將承諾提供資金。Musk為這個新實驗室取一個名字：「開放AI研究所」(OpenAI Institute)或稱“OpenAI”，三人聯手啟動這個計畫，Musk就員工的薪酬方案提供建議，並分享其留住人才的策略。 Musk在推動OpenAI起步中的角色 Musk在一封電子郵件中寫道，「我們最重要的考量是招募最優秀的人才」，幫助招聘工作是他「全天候的首要任務」，而最優先要聘用的就是首席科學家的職位，Musk等三人都希望時任Google的研究科學家Ilya Sutskever博士擔任這一職務，但Sutskever當時在是否要離開Google並加入團隊猶豫不決，最終還是Musk臨門一腳說服其加入，成為OpenAI的首席科學家。接下來Musk積極為OpenAI招募人才，Musk發送Brockman和Altman一封電郵，重申「我們需要盡一切努力來吸引頂尖人才……，並需重新審視現有人員的薪酬，那沒問題。我們要麼引進世界上最優秀的人才，要麼被DeepMind擊敗。無論採取什麼措施來引進人才，我都接受，……如果Deepmind贏了，那對他們一心想要統治世界來說，是個壞消息。」當Musk告訴Altman和Brockman，要「提更高的報價盡一切努力獲得頂尖人才」時，他是想為這些高報酬提供資金。僅在2016年，Musk就向OpenAI捐贈超過1500萬美元，超過任何其他捐贈者；他提供的資金使OpenAI得以組建一支頂尖人才的團隊；同樣，2017年Musk向 OpenAI捐贈近2000萬美元，再次超過任何其他捐贈者。總計從2016年到2020年9月期間， Musk為OpenAI共捐贈超過4400萬美元。 OpenAI《創始協議》的宗旨 Musk與Altman再加上Brockman，三人合意成立新的實驗室：(a) 將是一個為了造福人類而開發AGI的非營利性組織，不是追求股東利益最大化的營利性公司；(b) 將是開源的 (open-source)，除了安全考量因素平衡抵制 (balancing only countervailing) 外，不會為了商業原因而對其技術進行封閉和保密。三人乃達成一項《創始協議》(Founding Agreement)，OpenAI將在與 Google/DeepMind 的AGI競爭中，成為一個重要的制衡作用，目的是造福人類而非為私人公司的股東來營利。該《創始協議》的宗旨，確認「公司所產生的技術將普惠大眾，尋求開源技術以造福全民，該公司並非為任何人的私人獲利而組織」，其再進而確認，公司的所有財產，都「不可撤銷地致力」(irrevocably dedicated)用於以開源技術造福公眾之目的。基於對《創始協議》的信賴，Musk成為OpenAI創建背後的推動力量，在前幾年提供大部分的資金，並就研究方向提供建議。《創始協議》註冊之記載內容 2015年12月，Open AI向德拉瓦州提交公司註冊證書，記載《創始協議》的內容：第三條：本公司是一家非營利性法人，符合美國1986年修訂的《國內稅收法》(Internal Revenue Code of 1986)第501(c)(3)條（或未來任何美國國內稅收法律的規定）為慈善或教育目的而組織。本公司之具體目的，是為與AI相關的技術研究、開發和散佈提供資金，由此產生的技術將使公眾受益，本公司將尋求為公眾福祉之開源碼技術，不是為任何個人的私益而組織…… 第五條：本公司的財產，將不可撤銷地專用於第三條中所載之目的，本公司的淨收入或資產的任何部分，永遠不得用於本公司任何董事、高級職員或成員的利益，也不得有利於任何私人。在本公司解散或清算時，於支付或清償所有債務後，公司剩餘的資產，應分配給已根據《國內稅收法》第501(c)(3)條確立其免稅地位專門為慈善、教育和/或宗教目的組織及營運的非營利基金、基金會或公司，或按照未來聯邦稅法的相應條款分發給聯邦政府、州或地方政府，用於公共目的。 OpenAI於2015年12月，由Musk和Altman為聯合主席，而Brockman為首席技術官。OpenAI是一家非營利的AI研究公司，強調OpenAI之目的在「造福人類」，其研究將「免於財務義務」(free from financial obligation)，故其目標是以最有可能造福全人類的方式推進數位智能，而不需要受產生財務回報的限制，正由於公司的研究免於財務義務，因此才可更好地專注於對人類有正面影響的工作。營利性質之轉型伊始 -- Altman一再重申《創始協議》但不久後產生一些變化，2017年Brockman和其他人建議，擬將OpenAI從非營利組織轉變為營利性公司。經過幾周的溝通後，Musk告訴Altman、Brockman和Sutskever：「要麼你們自己去做，要麼繼續以非營利組織的形式運營OpenAI。除非你們堅定地承諾維持下去，否則我將不再資助OpenAI，還繼續無償提供資金給公司，我就是一個傻瓜，討論到此為止」。Altman則回應Musk他仍然對非營利結構充滿熱情！最後，彼等向Musk表示，仍將繼續維持非營利結構，並將在未來一年致力於籌集資金，支持這家非營利組織。 Musk於2018年2月下旬辭去聯合主席，儘管如此，他仍繼續為OpenAI出力。2018年4月， Altman向Musk發送一份OpenAI的章程草案徵求其意見，該草案將OpenAI的使命描述為確保 AGI「造福全人類」，其聲明：「我們承諾利用我們對AGI部署的任何影響力，以確保其用於造福全人類，並避免使用AI或AGI，對人類造成傷害或過度集中權力的用途。我們主要的受託義務(fiduciary duty)是履行對人類的責任，...... 但將始終盡可能努力減少利益衝突......，這可能會損害廣泛的利益。 2019年3月OpenAI宣布創建一家營利性子公司：OpenAI, L.P.，但潛在投資者可在投資條件書 (term sheet) 摘要的開頭看到一項「重要提醒」，指出該營利性實體「目的是為了推動非營利組織OpenAI Inc.，以確保安全的AGI發展並造福全人類。普通合夥人 (general partner) 對這項使命的責任，以及OpenAI章程中提出的原則，優先於任何產生利益的義務」。因此，其已明確建議投資者「明智地將對OpenAI LP的任何投資，視為一種捐贈」。在宣布後Musk告訴Altman，希望他明確表示「其對OpenAI的營利部門中沒有任何財務利益」。 OpenAI轉變中的公司結構在OpenAI, L.P.（有限合夥企業）宣布後，OpenAI的公司結構變得越來越複雜，Musk盤點 OpenAI歷來設立的關係企業（以下本案被告都是在德拉瓦州成立之有限責任公司）： 1. OpenAI GP, L.L.C.於2018年9月成立，由非營利組織OpenAI擁有。 2. OpenAI OpCo, LLC於2018年9月成立，其唯一成員是OpenAI Global, LLC。 3. OpenAI, L.P. 於2019年3月成立，由OpenAI創建的一家營利性子公司。 4.OpenAI, L.L.C.於2020年9月成立，唯一成員是OpenAI OpCo, LLC。 5. OpenAI Global, LLC於2022年12月成立，有兩個成員：微軟和OAI Corporation, LLC 。 6. OAI Corporation, LLC唯一成員是OpenAI Holdings, LLC。 7. OpenAI Holdings, LLC於2023年3月成立，擁有多個成員，包括OpenAI、Aestas, LLC 和個人成員。據悉，OpenAI透過其普通合夥人OpenAI GP, L.L.C.管理OpenAI, L.P.和OpenAI Global, LLC，根據OpenAI的章程，董事會對股東沒有受託義務；相反，它唯一的受託義務是對人類。而至少OpenAI, L.P.和OpenAI GP LLC，最初是為了促進和資助OpenAI在《創始協議》中設定的非營利使命而建立。註解： [1] 它從對遊戲的策略一無所知情况下，隨機下棋開始，當軟體的一個版本贏得與另一個版本的比賽時，獲勝程式的內部路徑就會被「強化」，而且這個過程會反覆進行。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Patent/M.1710307567.A.675.html