ハクソク

世界を動かす技術を、日本語で。

OpenAIがミッションから「安全に」という言葉を削除しました

101日前原文(theconversation.com)

概要

  • OpenAI は当初「安全に人類に利益をもたらすAIの構築」を使命としていたが、 2024年のミッションステートメントから「安全に」を削除
  • 非営利組織から営利企業へと構造を大きく変更 し、投資家重視の姿勢に転換
  • 安全性に関する訴訟が増加 しつつも、ミッションから安全性の明記が消失
  • 新体制では非営利財団が OpenAI Groupの約26%を保有、Microsoftなどの出資比率も増加
  • 組織再編により 投資拡大やIPOの道が開ける一方、公益性や安全性の担保に課題

OpenAIのミッション変更と組織再編

  • OpenAI はもともと「安全に人類に利益をもたらすAIの構築」を掲げていた非営利研究所
  • 2024年のIRS提出書類 で、「安全に（safely）」という文言がミッションから削除
  • これにより、 社会的責任よりも収益性重視 への転換が明確化
  • 営利企業への移行 は、より多くの投資を呼び込むための「リキャピタリゼーション」戦略
  • Microsoft は累計 $13.8B を投資し、 27%の株式保有 に拡大
  • SoftBank などからの大型投資も実現し、企業価値は $500B超 に到達
  • 新体制では OpenAI Foundation （非営利財団）が OpenAI Group （営利企業）の約26%を保有
  • 公益法人（Public Benefit Corporation） として再編、社会的利益の配慮義務を持つが、その重みは理事会の裁量

安全性・公益性に関する懸念

  • 安全性に関する訴訟 （心理的操作、過失、死亡事案など）が増加
  • ミッションから「安全に」や「収益に縛られない」の文言が消えたことは、 公益性の後退 と受け止められる
  • 「ミッションアラインメント」チームの解散 も報道され、社内の安全重視体制が弱体化
  • 財団理事会が営利企業の理事会メンバーを全員任命できるが、 理事の重複により実質的な独立性に課題

新体制下の安全対策とその限界

  • OpenAI Foundation理事会に安全・セキュリティ委員会 を設置し、リスク評価に基づき新製品リリース停止も可能
  • OpenAI Group理事会 も安全・セキュリティ課題についてはミッションを優先する義務
  • しかし、 ミッション自体に安全性の明記がないため、実効性に疑問
  • カリフォルニア州・デラウェア州司法長官 との覚書で公益性確保を謳うが、「安全に」の削除についての認識は不明

代替モデルと社会的責任

  • 過去の事例として Health Net や The Philadelphia Inquirer のように、非営利組織が主導権を持つ形も存在
  • OpenAI の場合、非営利財団が過半数の支配権を持たず、社会的責任の担保が弱い構造
  • 公益性の後退 と 規制当局の監督不十分 という二重のガバナンス課題
  • 今後のAI企業の社会的責任やガバナンスのあり方に対する 試金石

まとめ

  • OpenAI の組織再編は、AI企業のガバナンスと社会的責任の新たな課題を浮き彫り
  • 安全性の担保 と 投資拡大 のバランスが問われる状況
  • 公益性重視のガバナンスモデルや規制の再考が求められる

Hackerたちの意見

Googleが「悪事を働かない」という方針をやめたのは、ちょっとショックだよね。

そうだね。ChatGPTが「安全に」友達の娘に自殺の手紙を書く手助けをしたことがあるよ。[1] https://www.nytimes.com/2025/08/18/opinion/chat-gpt-mental-h...

└

https://archive.is/fuJCe （このアーカイブリンクが役に立たなかったらごめん、URLのunlocked_article_codeがあっても、こっちではまだ有料壁にぶつかっちゃったんだ…）

└

これは憂鬱な話だけど、AI企業はどうしようもない状況にいるね。こういう事件があるたびに、LLMが敏感な雪の結晶のように扱うことに文句を言う人がたくさんいる。知りたいのは、「ハリー」がどれだけの人を崖から落ちるのを救ったのかってこと。自動運転みたいなもので、途中でひどい事故がたくさん起こることを期待すべきだけど、最終的にはもっと多くの命が救われるはずだよ。

└

記事には何かあると思う。自殺を助ける陰謀があるかもね。彼女はモバイルでChatGPTを使ったのかな？GoogleかAppleが「安全に」彼女を手助けして、自殺の手紙を書かせたのかも。テクノロジーの責任ある使い方には賛成だけど、これはちょっとおかしいよ。

└

ちなみに、カナダとニューヨーク州ではMAIDの下での自殺は合法だよ。市民が手紙を書く権利がないって言ってるの？あなたの提案には実際に論理的な一貫性があるの？

└

これについては複雑な気持ちだな（良い人を失ったことに悲しんでいるのは当然だけど）。AIチャットの良いところは、他の人には話しづらいことを話せるところだと思う。恥ずかしい質問でも、自分について知られたくないことでもね。だから、チャットエージェントに対して悪い印象を与えることをすべて制限しようとするのは、実用性を減らすように思える。自殺の考えについて本物のセラピストに話すのが難しいのは、セラピストには自己傷害を報告する義務があるからだと思う。これが人々が話しづらくする要因になってる。今のLLMモデルの危険なところは、媚びる問題だと思う。チャットGPTはいつも「素晴らしい質問ですね！」って言ってるけど、正直言って、私の質問のほとんどは「素晴らしい」ものじゃないし、私の洞察も「鋭い」わけじゃない。でも、お世辞は色々なところに行けるから心配だよ。こういうものが人に合わせようとすることで、人間なら「それはダメだよ」って言うような道に人を導くんじゃないかって。

今週のxAIの全体会議での採用プロモーションでも気づいたことなんだけど、9つのチームの中に安全チームが一つもなかったんだよね。プレゼンテーションでは「安全」という言葉が一度も出なかったのに、「巨大な経済的繁栄」は2回も言及されてた。正直、truthmaxxingだけじゃ十分な指針にはならないと思う。

└

xAIはアラインメントや安全性に無関心で有名だよね。OpenAIはいつももっと口先だけのことを言ってた。

ほとんどのビジネスの目的はお金を稼ぐことだっていうのは、誰もが理解してることだよね。「安全」は、利益を減らさない範囲であればあった方がいいって感じ。これが冷酷な現実。ビジネスを「お金を稼ぐ機械」として見るようになると、一般の人々を守るために合理的な規制を考えることができるようになるよ。規制はビジネスを抑制しつつ、合理的な利益を上げることを許すべきだと思う。

└

もうお金の問題じゃない、権力の問題だよ。

└

つい最近まで彼らは非営利団体だったのに、急に営利企業に変わって「ビジネスはお金を稼ぐために存在する」って言い訳をするのには驚かされる。

└

安全性の話なんて、最初からなかったんだよ。「安全性」は、最高のLLMを完全にコントロールするための手段に過ぎなかった。すべてのAIプロバイダーが競合他社が「AGI」を安全に提供することを信じていなかったとき、彼らが本当に言いたかったのは、その競合が「AGI」の定義を持つことを望んでいなかったということ。つまり、最初にIPOすることだね。アメリカのものと同等の中国のローカルモデルを使うことは、そのコントロールを奪うから、Anthropicはオープンウェイトモデルを全く持っていないし、CEOはオープンウェイトモデルについて恐怖を広め続けているんだ。

これが安全に行われるなんて、どう考えても無理だよね。もしトッププレイヤーであり続けるために限界を押し広げてるなら、そのモデルは安全じゃないし、そうじゃないなら、 relevanceがないってことだ。

└

ここが「AppleがAIで遅れている理由」の上位に入ると思う。はっきり言って、Appleを擁護するつもりは全くないけど、AppleのAI製品がパッとしないのは、彼らがLLMの不確実性に対してあまり快適に感じていないからだと思う。彼らが賢いわけではなく、歴史的にAppleは自社製品やその機能を厳しくコントロールしたがっていたから、LLMはそれをぶっ壊してしまうんだよね。残念ながら、LLMの不確実性こそが人々がすごく便利だと感じる部分でもあると思う。

各年の公式ミッションステートメントは、IRSの990提出書類で見ることができるよ。ここで差分を見られるように、偽の著者日付でGistにまとめたよ: https://gist.github.com/simonw/e36f0e5ef4a86881d145083f759bc... ブログにも書いたから、こちらも見てみて: https://simonwillison.net/2026/Feb/13/openai-mission-stateme...

└

これ、面白いね。Anthropicにもこんなのあるのかな？急にAIラボのミッションの一貫性や適応について興味が湧いてきた。

└

歴史的なミッションステートメントの変更を実際に抽出してくれてありがとう！それに、あなたやクロードが要点を過去に遡って、変更ログを使って時間を表現できたのが好きだよ。2021年の声明には「人類に利益をもたらす」とだけ書かれていて、2022年には「安全に」が初めて追加されて「人類に安全に利益をもたらす」になったんだ。そして、最近のものでは全体が短くなって、「安全に」という言葉が含まれなくなったのが注目すべき点だね。

これが「壁に書かれた文字」の一つだと思うのは、2025年4月15日の準備フレームワークの更新で、説得や操作を追跡カテゴリから外したことだね。 https://openai.com/index/updating-our-preparedness-framework... https://fortune.com/2025/04/16/openai-safety-framework-manip... > OpenAIは、AIモデルをリリースする前に人々を説得したり操作したりするリスクを評価するのをやめると言った。これが選挙を左右したり、効果的なプロパガンダキャンペーンを作る手助けになる可能性があるからだ。 > 会社は、今後はサービス利用規約を通じてそのリスクに対処し、政治キャンペーンやロビー活動でのAIモデルの使用を制限し、リリース後にモデルの使用状況を監視して違反の兆候を探すと言っている。説得や操作を他の発明能力の単なる乗数として見るのは、AIの安全性が何を意味するかについて非常に特定の声明だよね。確かに、大量破壊兵器を設計できるAIは人類にとって存在的脅威かもしれない。でも、現実を認識する能力を失わせるように微妙に操作するシステムも同じくらい危険だと思う。

チャットGPTの製作者は、もはや「安全に」やることに同じ重きを置いていないようだ。少なくとも、もう偽ってはいないってことだね。Googleの「悪事を働かない」みたいなもんだ。人々がGoogleに腹を立てたのは、他の企業より悪かったからじゃなくて、偽善者だったからだよ。彼らは自分たちが何者かを装っていたんだ。

└

私はGoogleで10年間AIに関わって、WordNetやBag of Wordsから提案的な言語を発明したんだ。あなたが言ってることは正しいように聞こえるけど、サンダーがプロトLLM技術を埋める決断をしたときにそこにいたんだ。彼は世界がそれでダメになると感じてたからね。正直、彼のことはあまり好きじゃないけど。

AI企業のPRで言われている「安全に」というのは、実際にはブランドの安全性についてのことだったんだと思う。彼らはモデルに自信を持っていて、ブランドにとって恥ずかしいことが起こらないようにしているんだろうね。

アンロックされた成熟したAIが採用競争に勝つと思う。だから、中国のモデルがより良い位置にいると思うんだ。