世界を動かす技術を、日本語で。

OpenAIのカリフォルニア州に留まるという約束がIPOへの道を開く助けとなった

概要

OpenAI は、 AI の急速な進化により、 人類存続 へのリスクを強調。 AI安全 の専門家である Jan Leike がOpenAIを退職し、その理由を公表。 OpenAI の内部体制や 安全性重視 の姿勢に疑問を呈する声。 AIの 安全性商業化 のバランス問題が浮き彫り。 今後のAI開発における 倫理透明性 の重要性。

OpenAIのAI安全性に対する懸念

  • OpenAI の元リーダー、 Jan Leike による退職理由の公表

    • AI安全性 への取り組み不足
    • 研究よりも 商業的利益 を優先する姿勢への不満
  • OpenAI の組織体制

    • Sam Altman CEOのリーダーシップ
    • 安全性 よりも プロダクト開発収益化 を重視する方針
  • AI安全性 のリスク

    • AI の能力が急速に向上
    • 人類存続 へのリスク増大
    • AI行動の予測困難性 と制御の難しさ
  • OpenAI 内部での意見対立

    • 一部研究者による 安全性重視 の主張
    • 経営陣との 優先順位 の違い

AI開発における倫理と透明性

  • AI倫理社会的責任 の重要性

    • AI が社会に与える影響
    • 透明性 のある意思決定プロセスの必要性
  • 安全性確保 のための提案

    • 独立した監査機関 の設立
    • 外部専門家 による評価体制
  • 商業化安全性 のバランス

    • 収益追求と リスク管理 の両立
    • 長期的視点 でのAI開発戦略

今後の課題と展望

  • AI安全 の研究強化

    • 人材育成資源投下 の必要性
  • グローバルな規制 と協調

    • 各国政府や 国際機関 との連携
    • 共通基準 の策定
  • OpenAI の今後

    • 信頼回復 に向けた取り組み
    • 透明性説明責任 の確立

Hackerたちの意見

なんかすごい話だね。サム・アルトマンがカリフォルニアに経済的なダメージを脅かして、ルールや規制をすり抜けたことをオープンに自慢してる。もう全然隠してないよね。これ、昔の現代自動車のCEO、チョン・モンギュが横領で刑務所に入ったのを思い出す。たった3年で大統領が「経済のために必要だから」と言って恩赦されたんだ。政府がコントロールしてるなんて、もう誰も思ってないよ。完全にアナーコキャピタリズムが見えちゃってる。

民主主義って、王様や貴族を入れ替えられるけど、国を運営するには公爵や伯爵がまだ必要なんだよね。彼らを取り込む必要がある。

サム・アルトマンがどうしてこんなに他の人たちよりも高いレベルでこのハイステークスな役割をこなしてるのか、誰か教えてくれない?YCや他のいくつかの場所でもそうだったけど、彼は何もない状態から入って、全ての逆境を乗り越えて成功するんだ。彼はそんなに優れたオペレーター、交渉者、あるいは操り手なの?

これはすごくシニカルで、ほぼ確実に意図的に間違った見解だね。多くの状況は、法律や規則に関して根本的に不確実なんだ。「ルールや規制をすり抜けた」っていう考えは間違ってる。彼らが自分たちに有利な決定を得るために押し進めたのは確かだけど、決定を下す必要があったんだ。そして、結局は国民がコントロールすべきであって、政府じゃない。

カリフォルニアに経済的ダメージを脅かしている。おいおい、企業には自分たちにとって最適な場所に移る権利があるんだ。カリフォルニアにはOpenAIの税金や従業員基盤に対する永遠の権利なんてないよ。ここで何を暗黙のうちに仮定しているか考えてみて。もし一つの会社が単に去ることで「ダメージ」が生じるなら、問題は企業じゃなくて、経済成長を促進している政府の方かもしれない。

政府はOpenAIがカリフォルニアに留まると信じていたし、OpenAIの創設者たちや他の人たちもOpenAIが非営利であると信じていたんだ。これが他のコメントの成功に関する質問への答えだと思うけど、古い義務が「時代遅れ」になったときにそれを認識して、成功への道を妨げたり重く税金をかける前に手放せる人に大きな成功が訪れるみたい。

それって、ほとんど隠れてないピッチが「AGIを最初に達成したらIPOする - 惑星の支配者をインストールする」っていう人からの期待される行動だね。「お金をくれたら未来の支配エリートの一員になれる!」みたいな。(彼の実際の計画が公に言ってることに基づいてるのか、お金を持って逃げるつもりなのか、現代生活の逃げられない中間業者として会社を永久に設立するつもりなのか、他の何かなのかはわからないけど。)1. チャールズ・ストロスに感謝、『ジェニファー・モーグ』 2. スニード風資本主義

サムって、別の会社でこれやったことなかったっけ?再構築して成功したような… 記事を探してるんだけど… ヘリオンだったかな?考えてみると、HNでコメントしてなかった?

非営利団体がどうやってIPOするの?技術的にはOpenAIは非営利が所有する営利企業だけど、まだよくわからない。

営利子会社をIPOできるよ。過去にもあったし。主な難しい部分は税金の問題を解決することだね。非営利の場合は免税だけど、営利の場合は当然税金を払わなきゃいけないから。

非営利法人から利益法人に再構築されるみたいだね。だからカリフォルニアの承認が必要だったんだ(個人的には、聞こえが悪いけど、腐敗してると思う)。

これについては、めちゃくちゃ誤情報が出回ってるよ。例えば、アメリカの非営利団体は最初は普通のC法人として始まって、501(c)3の地位を申請するんだけど、IRSがそれを認めるかどうかは分からない。非営利でいることは特権なんだ。非営利団体に課せられる罰は、その地位を失って商業法人に戻ること。地位を失うと、寄付者に提供される税控除とか、会社の会計が利益を示す限り法人税にも影響が出るかもしれない。でも、そんなふうに「縛られている」わけじゃないし、逃げようとしているわけでもない。むしろ、連邦政府が公共政策として財政的に支援するものなんだ。oAIは再資本化するためにたくさんの作業が必要だったけど、非営利の地位が(主な)問題だったわけじゃない。少なくとも、マイクロソフトのような企業との投資契約が彼らを縛っていたんだ。MSとの契約がここでの大きなポイントだった。

誰か教えてくれない?カリフォルニアがサム・アルトマンがカリフォルニアに留まるつもりだと思う理由は何?これはIPO後に簡単にひっくり返せる弱い合意だよ。非営利からIPOへの転換自体が、彼がOpenAIを「成功」させるために何でもするってことを示してるから、地理的な場所が企業構造よりも永続的である理由は何なの?これ、サムをディスってるわけじゃなくて、彼がその時々でエンティティにとって最善のことに動機づけられてるってことを示してるだけだよ。カリフォルニアに留まるかもしれないけど、それはおそらく、利用可能な研究者や従業員の好みの方が、司法長官との合意よりも関係してると思う。

彼が欲しいものを手に入れたら長期的にカリフォルニアに留まるとはあまり思ってないんじゃなくて、短期的には欲しいものが手に入らなかったら出て行くと思ってるんじゃないかな。

これ、サムをディスってるわけじゃなくて、彼がその時々でエンティティにとって最善のことに動機づけられてるってことを示してるだけだよ。最近、悪い行動を正当化するために人々がよく言う変な合理主義的なことだね。この場合、サム・アルトマンは病的な嘘つきみたいに振る舞ってる。

どんな交渉でも、どちら側がどんなレバレッジを持っているかを理解することが大事だよね。この場合、カリフォルニアは転換をブロックできるし、OpenAIはカリフォルニアを出て行くこともできる。どちらも可能だけど、極めてあり得ない結果だよ!だから、こういうあり得ない結果をテーブルに持ち込んで、誠意を持って交渉して合意に至るのがポイントなんだ。カリフォルニアはOpenAIがカリフォルニアに留まると信じる必要があるし、OpenAIもカリフォルニアが転換をブロックしない(またはAIに関する他の厳しい規制を課さない)と信じる必要がある。だから、動機が誠実かどうかを推測することは可能だけど、取引をする必要があるときは、何かを実現するために両側に誠意と信頼が必要なんだ。この場合、両側とも取引をするインセンティブがある。OpenAIはもっと資本にアクセスするためにPBCになりたいし、カリフォルニアはOpenAIがPBCになることでIPOできるようにしたい。そうすれば、全従業員(ほとんどがカリフォルニアの住民だろう)が株を売って、それがカリフォルニアの所得として課税されることになる。

IPOする時にまだカリフォルニアに拠点があれば、少なくともその初期の税金は州内で徴収できるよね(IPOがリーダーシップやスタッフにとって課税対象のイベントになるように構成されていると仮定すれば)。OpenAIから徴収される税金は、今までで最大のIPO税収になると思うよ(間違ってたら教えてね、でももっと大きなものは思いつかない)。

誰か教えてくれない?カリフォルニアがサム・アルトマンがカリフォルニアに留まるつもりだと信じる理由は何なの?簡単な答えは、LLMの開発がコモディティ化しない限り、世界で最も良い場所はサンフランシスコってこと。製造業をシンセンから移す理由がない限り、そんなことしないよ。

誰か教えてくれない?カリフォルニアに留まることがIPOにどう関係してるのか。全く関係ないように思えるんだけど。(リンク先の記事は有料なので読めない。)

サムはOpenAIのためじゃなくて、自分のために動いてると思うよ。

誰か教えてくれない?カリフォルニアがサム・アルトマンがカリフォルニアに留まるつもりだと信じる理由は?これはIPO後に簡単にひっくり返せる弱い握手の合意だよ。これは「握手の合意」じゃなくて、OpenAIの再構築に関するガバナンスを制約する条件が書かれた拘束力のある文書契約だよ。 https://oag.ca.gov/system/files/attachments/press-docs/Final Executed MOU Between OpenAI and California AG re Notice of Conditions of Non-Objection %2810.27.2025%29 %28Signed by OpenAI%29 %28Signed by CA DOJ%29.pdf

どんなことがその組織にとって最善か 彼のエゴにとって最善なことだね。

もしこれが他の非西洋国で起きたら、見出しは「腐敗」ってなるだろうね。

カリフォルニアでは「インパクトフィー」って呼ばれてるんだ。

それが「敵」がやることなら、ただの腐敗だよね!

...違う?企業を特定の地域に誘致するのはとても一般的なことだよ。特別経済区は西洋だけのアイデアじゃない。実際、君は逆に考えてるよ。西洋の国々だけで人々はそれを腐敗だと思うんだ。

WSJはそれを「微妙な脅威」と表現してたよ。

もしこの取引がカリフォルニアとOpenAIの両方にとって大体良いなら、腐敗はないよ。確かに彼らは大きな武器を使ってるけど、私が見る限り、どちら側にも大きな原則と代理の乖離はないと思う。アルトマンはビジネスを構築したい(そしてお金を稼ぎたい)し、カリフォルニアは税収を得たいし、コアビジネスが主に州内に残る可能性を最大化したいんだ。

カリフォルニアとOpenAIの間の覚書のコピー: https://oag.ca.gov/system/files/attachments/press-docs/Final...

面白いね。これ、シスコの話を思い出させる。何十年もカリフォルニアのC法人のままだったけど、他の多くの会社はデラウェアに再法人化してた。ある弁護士が「私のクライアントはみんなデラウェアのC法人だけど、シスコだけは政治的な理由でそうしてる」って言ってたのを聞いたことがある。結局、シスコは2021年にデラウェアに再法人化したんだよね。

カリフォルニアは彼のブラフを見抜けたかもしれない。彼はすぐにはテキサスに引っ越さないし、彼の従業員もそうだよ。

大体の場合は君が正しいと思うけど、これはめちゃくちゃ珍しい例だね。OpenAIは約7000人の社員がいて、5000億ドルの評価額で資金調達をしたんだ。IPOの時には1兆ドルの評価額も現実的に狙えるってわけ。社員一人あたりの株式価値は7000万〜1億4000万ドルの範囲になる。だから、社員が10%を持ってるとしたら(これでも低めの見積もりだけど)、一人あたり平均700万〜1400万ドルになる。だから、IPO前にカリフォルニアを離れる平均的な社員にとっては、カリフォルニアのキャピタルゲイン税を払うよりも100万ドル得られるってことになる。もちろん、これは均等には分配されてないし、税金のためにカリフォルニアを離れたいと思ってる社員はほとんどいないし、他の理由でカリフォルニアを離れたくない人も多い。でも、OpenAIは簡単に「本社はオースティンに移転します。全社員は移転しなければならず、100万ドルの移転ボーナスが支給されます。」って言えるよね。そして、言わずにいる部分は「従わないと7桁のオプションを失うことになります。」ってこと。これに対する受け入れ率は95%以上だろうね。

IPOって、誰かに負担を押し付けるためのものだよね?話がAGI、最も重要な技術、みたいに変わっちゃった。もし私がそれを持ってたら、プライベートのままにしておくよ。キャッシュアウトしたいなら、IPOするだろうね。ポンプ&ダンプみたいに見えない話はあるのかな?

昔は、企業が成長のために資金を調達するために上場してたんだよね。

彼らは800万人の週次アクティブユーザーを抱えてるけど、まだ収益化されてないし、巨額の資本コストがかかってる。IPOで大金を調達しようとしてるのも納得だね。

昨日OpenAIのライブ配信を見てたんだけど、サムが30GW分のデータセンターを建設するために1.4兆ドルの財務的義務があるって言ってたよ。 https://youtu.be/ngDCxlZcecw?t=1179 収益がないのに、こんなにお金を集めるのは大変だよね。彼はまた、1GWを週に建設できるようにする話をしていて、コストは1GWあたり200億ドルだって。ちょっと心配だな。CO2排出を減らすためにエネルギー使用に気をつけるべきじゃなかったっけ?何十億ドルも、チャットボットよりも学校や病院、住宅などに使った方が良くない?フィクションのペーパークリップ最大化AIが世界を食いつぶす代わりに、アルトマンを最大化しようとしているチャットボットがいるってこと?

IPOの日は、誰かがオープンモデルの革命を一般に公開する絶好のタイミングになるかもね...

質問:これが簡単に転換できるなら、非営利構造への信頼はどうなるの?投資家がリターンのないものにお金を入れる理由は何?運営者がいつでも自分たちの利益に変えられるのに。

新しい非営利団体はOpenAIの株を1300億ドルも受け取るんだ。これはOpenAIが非営利として受け取った寄付の1000倍だよ。個人的には、非営利の寄付者たちがOpenAIが契約を変えようとしてるって文句を言うのは正当だと思うけど、数字は注目に値するね。

ここであまり見かけない視点だけど、ガバナンスって「本社はどこ?」だけじゃないんだよね。商業的なプレッシャーとモデルリスクがぶつかったときに、誰が運用のガードレールを設定するかが重要。理論的にはPBCの憲章が非財務的な優先事項を盛り込むことができるけど、実際にはハードなメカニズムが必要だよ。独立したレッドチームの予算を設けて取締役会に見えるようにしたり、S-1で静かに撤回できない安全コミットメントを公開・凍結したり、モデルの回帰や悪用ベクトルに対する拘束力のあるインシデント開示ポリシー(SOCスタイルを考えて)を作るべきなんだ。もしカリフォルニアが「私たちは残ります」という手紙以上の持続的なレバレッジを望むなら、これらのプロセスレベルのコントロールに測定可能なKPI(評価の透明性、レッドチームの範囲、ポストモーテムのSLA)を結びつけることができたはず。そうすれば、社会的ライセンスは地理的なものではなく、実証可能な管理に関するものになると思う。MoUの中にこのレベルでの言語があるか、単なる法人設立のメカニズムだけじゃないか、誰か気づいた人いる?