Re: [新聞] Sam Altman：OpenAI不是世界的道德警察

看板Stock (股票)作者waitrop (嘴砲無雙)時間3小時前 (2025/10/16 15:08)推噓48(48推 0噓 44→)

留言92則, 51人參與討論串2/3 (看更多)

※ 引述《TyuzuChou (潤潤潤)》之銘言： : 原文標題： : Sam Altman says OpenAI isn’t ‘moral police of the world’ after erotica : ChatGPT post blows up : 原文連結：https://tinyurl.com/tw3tbbxu : 發布時間： : Published Wed, Oct 15 20254:06 PM EDTUpdated Wed, Oct 15 20255:26 PM EDT : 記者署名：Ashley Capoot : 原文內容： : OpenAI CEO Sam Altman said Wednesday that the company is “not the elected : moral police of the world” after receiving backlash over his decision to : loosen restrictions and allow content like erotica within its chatbot ChatGPT. : OpenAI執行長薩姆·奧特曼週三表示，在他決定放寬限制、允許ChatGPT中出現情色內容 : 後遭到批評，他回應說：「OpenAI不是世界上被選舉出來的道德警察。」但是奧特曼超人之前不是這麼說的, 甚至才幾個月前說的, 自己就忘記了 2023年的奧特曼是要拯救人類的, 為確保AI不會消滅人類，他創了Open AI》一窺怪傑奧特曼的人生路 https://www.cw.com.tw/article/5124693 文章裡說: Google長期嚴密保護它的AI計畫，對工程師魂的奧特曼而言，這就是某種形式的壟斷。奧特曼站在道德至高點指責別人, 說OpenAI 就是要open, 結果算法代碼通通都是close, 也沒有 open source 文章最後再次強調奧特曼至高的道德點, 噁心到極點: 奧特曼的行動力從來不讓人擔心，人們只是希望，當顛覆世界的技術出現時，守門的可以是個正派又強大的領袖。今年四月的時候, 奧特曼還是繼續站在道德至高點指責Grok, “你们绝对会看到一些公司去做日本动漫风格情欲机器人(18.400, -0.61, -3.21%)，因为他们认为自己发现了某种可行的东西，但你们不会看到OpenAI那样做。我们将继续努力打造一个有用的应用，并且我们会努力让用户按他们想要的方式使用它，但绝不会过度到让心理状态极其脆弱的人被意外利用的程度。” https://finance.sina.com.cn/jjxw/2025-08-15/doc-infmauez6418295.shtml 而且同篇文章同樣時間, 還不忘踢谷歌一腳: “我不再用谷歌了。我都记不清上一次用谷歌搜索是什么时候了，” 但是不久前谷歌刪除"num=100", Google 關了「num=100」反讓 Reddit 股價暴跌為何這項改動會讓 AI 變成鬼遮眼？ https://money.udn.com/money/story/124512/9059938 怎麼又變成谷歌惡性壟斷了, 一邊說谷歌惡性壟斷, 卻又同時取笑谷歌已經過時落後沒人用了結論: 奧特曼現在就是光的使者, 正義的化身, 掌握話語權跟華爾街炒股權, 說什麼都是對的, 喊水能結冰, 這也不是不行, 但是常常大轉彎大翻車, 一堆前後矛盾的話, 吃相非常難看非常噁心 : The artificial intelligence startup has expanded its safety controls in recent : months as it faced mounting scrutiny over how it protects users, particularly : minors. : 這家人工智慧新創公司近幾個月來加強了安全控制，因為外界越來越關注其如何保護使用 : 者，特別是未成年人。 : But Altman said Tuesday in a post on X that OpenAI will be able to “safely : relax” most restrictions now that it has new tools and has been able to : mitigate “serious mental health issues.” : 但奧特曼週二在X（原Twitter）上發文表示，現在OpenAI擁有新的工具，並能緩解「嚴重 : 的心理健康問題」，因此可以「安全地放寬」大多數限制。 : In December, Altman said it will allow more content, including erotica, on : ChatGPT for “verified adults.” : 奧特曼表示在12月，將允許「經過驗證的成年人」在ChatGPT上接觸更多內容，包括 : 情色作品。 : Altman tried to clarify the move in a post on X on Wednesday, saying OpenAI : cares “very much about the principle of treating adult users like adults,” : but it will still not allow “things that cause harm to others.” : 奧特曼週三在X上再次澄清此舉，稱OpenAI「非常重視將成年人視為成年人」的原則，但 : 仍不會允許「會對他人造成傷害的內容」。 : “In the same way that society differentiates other appropriate boundaries (R- : rated movies, for example) we want to do a similar thing here,” Altman wrote. : 奧特曼寫道：「就像社會對其他內容設下適當界線（例如限制級電影）一樣，我們希望在 : 這裡也做類似的事情。」 : The posts are at odds with comments Altman made during a podcast appearance in : August, where he said he was “proud” of OpenAI’s ability to resist certain : features, like a “sex bot avatar,” that could boost engagement on ChatGPT. : 然而，這些發文與奧特曼在八月播客節目中的談話相矛盾。當時他表示，自己「為OpenAI : 能拒絕某些功能（例如『性化虛擬角色』）而感到驕傲」，即使這些功能能提升ChatGPT : 的使用黏著度。 : “There’s a lot of short-term stuff we could do that would really juice : growth or revenue and be very misaligned with that long-term goal,” Altman : said. : 奧特曼當時說：「我們可以做許多短期內能大幅刺激成長或營收的事，但這些做法都與我 : 們的長期目標非常不一致。」 : In September, the Federal Trade Commission launched an inquiry into OpenAI and : other tech companies over how chatbots like ChatGPT could negatively affect : children and teenagers. OpenAI is also named in a wrongful death lawsuit with : a family who blamed ChatGPT for their teenage son’s death by suicide. : 九月，美國聯邦貿易委員會（FTC）對OpenAI及其他科技公司展開調查，關注像ChatGPT這 : 類聊天機器人可能如何對兒童與青少年造成負面影響。OpenAI同時也被捲入一樁過失致死 : 訴訟，原告家屬指控ChatGPT導致其少年兒子自殺。 : The company has taken several public steps to enhance safety on ChatGPT in the : months following the inquiry and the lawsuit. It launched a series of : parental controls late last month, and it is building an age prediction system : that will automatically apply teen-appropriate settings for users under 18. : 在調查與訴訟後的幾個月中，公司已採取多項措施加強ChatGPT的安全性。上月底推出了 : 家長監控功能，並正在開發一個年齡預測系統，能自動對18歲以下使用者套用青少年適用 : 設定。 : On Tuesday, OpenAI announced assembled a council of eight experts who will : provide insight into how AI impacts users’ mental health, emotions and : motivation. Altman posted about the company’s aim to loosen restrictions that : same day, sparking confusion and swift backlash on social media. : 週二，OpenAI宣布成立一個由八位專家組成的顧問委員會，將研究AI對使用者心理健康、 : 情緒與動機的影響。同一天，奧特曼又發文表示將放寬限制，這在社群媒體上引發困惑與 : 強烈反彈。 : Altman said it “blew up” much more than he was expecting. : 奧特曼承認事件的反應「比他預期的猛烈得多」。 : His post also caught the attention of advocacy groups like the National Center : on Sexual Exploitation, which called on OpenAI to reverse its decision to : allow erotica on ChatGPT. : 他的貼文也引起了「全國性剝削防制中心」（NCOSE）等倡議團體的注意，該機構呼籲 : OpenAI撤回允許情色內容的決定。 : “Sexualized AI chatbots are inherently risky, generating real mental health : harms from synthetic intimacy; all in the context of poorly defined industry : safety standards,” Haley McNamara, NCOSE’s executive director, said in a : statement on Wednesday. : NCOSE執行董事海莉·麥克納馬拉週三發表聲明指出：「性化的AI聊天機器人本質上就具 : 高風險，會在『虛構親密關係』中造成真實的心理健康傷害，而業界目前的安全標準又極 : 為模糊。」 : 心得/評論： : Sam Altman全文 : https://x.com/sama/status/1978539332215681076 : Ok this tweet about upcoming changes to ChatGPT blew up on the erotica point : much more than I thought it was going to! It was meant to be just one example : of us allowing more user freedom for adults. Here is an effort to better : communicate it: : 好吧，這則關於ChatGPT即將更新的推文在「情色內容」這一點上引發的熱議，遠超出我 : 的預期！那原本只是舉一個例子，說明我們打算給成年人更多使用自由。以下我試著更清 : 楚地說明這件事： : As we have said earlier, we are making a decision to prioritize safety over : privacy and freedom for teenagers. And we are not loosening any policies : related to mental health. This is a new and powerful technology, and we : believe minors need significant protection. : 正如我們先前所說，我們的決策方向是：對青少年來說，「安全」將優先於「隱私與自由 : 」。 : 此外，我們不會放鬆任何與心理健康相關的政策。這是一項全新且強大的技術，而我們相 : 信未成年人需要特別的保護。 : We also care very much about the principle of treating adult users like adults : . As AI becomes more important in people's lives, allowing a lot of freedom : for people to use AI in the ways that they want is an important part of our : mission. : 同時，我們也非常重視「把成年人當成年人對待」這一原則。隨著AI在日常生活中變得越 : 來越重要，讓人們能以自己希望的方式使用AI，是我們使命中不可或缺的一部分。 : It doesn't apply across the board of course: for example, we will still not : allow things that cause harm to others, and we will treat users who are having : mental health crises very different from users who are not. Without being : paternalistic we will attempt to help users achieve their long-term goals. : 當然，這項原則並非適用於所有情況。例如，我們仍不會允許任何「對他人造成傷害」的 : 內容； : 而對於遭遇心理健康危機的使用者，我們會採取與一般使用者不同的處理方式。 : 我們不會以「家長式干預」的方式介入，但會嘗試協助使用者實現他們的長期目標。 : But we are not the elected moral police of the world. In the same way that : society differentiates other appropriate boundaries (R-rated movies, for : example) we want to do a similar thing here. : 但我們不是「世界上被選出來的道德警察」。就像社會為其他事物劃定適當界線（例如限 : 制級電影）一樣，我們希望在這裡也能採取相似的方式。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 76.103.225.6 (美國) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1760598480.A.F97.html

推

roseritter

10/16 15:08, 3小時前 , 1^F

10/16 15:08, 1^F

推

stlinman

10/16 15:11, 3小時前 , 2^F

10/16 15:11, 2^F

→

stlinman

10/16 15:11, 3小時前 , 3^F

10/16 15:11, 3^F