世界を動かす技術を、日本語で。

この「Fable」には影がつきまとっている

概要

  • Anthropic社のAIモデル 「Fable 5」と「Mythos 5」が 米国政府の指示 で利用停止
  • 国家安全保障上の懸念 により、全外国籍者(米国内外・社員含む)への提供を全面中止
  • AIモデルの“脱獄”リスク が停止理由だが、他社モデルでも同等リスクが存在
  • 政治的思惑や業界競争 が背景にある可能性への疑念
  • AI業界・市場への影響 や透明性の欠如への懸念

Anthropicモデル「Fable 5」「Mythos 5」利用停止の経緯

  • 金曜日の夕方、通常通りAIエージェントを使っていたところ、モデルが「存在しない」と表示され、突然利用不能
  • 最初は認証エラーやAPIの問題 と推測し、Rust製クライアントやAPI経由で再接続を試みるも失敗
  • 友人から「政府がFableを禁止した」と聞き、事実を確認
  • 米国政府が国家安全保障上の理由 で、AnthropicのAIモデル「Fable 5」「Mythos 5」への全外国籍者のアクセスを禁止
    • 米国内外の外国籍者、Anthropic社員も対象
    • 事実上、全ユーザーへの提供停止

停止理由とその妥当性

  • 政府はモデルの“脱獄”リスク (Jailbreak技術)を理由に指示を発出
    • 一部の既知の脆弱性を指摘
    • だが、他の公開モデル(OpenAI GPT-5.5等)でも同様のリスクが存在
  • Anthropic側は「他モデルでも同等リスクがある」と反論
  • 「狭い範囲の脱獄リスク」で商用モデルを全面停止するのは過剰対応 との立場

政治的背景と業界の力学

  • 米国政府の判断への疑念
    • 本当にAI規制のためか、それともAnthropicへの攻撃か
    • AnthropicはDoD等と連携を試みたが、過去政権(Trump政権)から「サプライチェーンリスク」として排除
    • 競合他社(OpenAI等)は現政権と関係が深い(例:Kushner家の投資)
  • AnthropicモデルのIPO直前の停止 は、競合他社への利得を疑わせるタイミング
  • 金曜夜の発表 はマーケットへの影響を最小化する“常套手段”
    • 週末を挟み、株価暴落リスクを抑える意図

AI業界・市場への影響

  • AIブームの根幹は「継続的な需要」への期待
    • データセンター投資、サーバー、GPU等の市場全体がAI需要に依存
    • 政府が一方的にアクセスを遮断できるリスクが顕在化
  • 今後「政府が許可した範囲内」しかAI利用できない時代の到来 を懸念
  • 業界内外からの反応
    • 一部は「Anthropicの自業自得」「マーケティング目的」と批判
    • 過去のOpenAIによる「危険すぎてリリース不可」戦略との類似性指摘
    • だが、Anthropicの懸念は一定の妥当性もあり

AIリスクと規制、そして透明性

  • AIは「測定可能なもの」を最適化するが、それが本質的な“善”とは限らない
    • 企業も同様に「利益最大化」を最適化
    • AIアライメント(調和)問題の縮図
  • 政府の透明性・専門性への疑問
    • AIに精通した人材が政策決定に関与しているか不明
    • 政治的思惑や“勝者・敗者”を選ぶ構図への不信感
  • 業界リーダーやシリコンバレー関係者の沈黙やダブルスタンダード にも失望

結論と今後の論点

  • AI規制の正当性と政治的介入の境界線 の曖昧さ
  • 今後もAIモデルの公開・利用制限が加速する可能性
  • 業界・社会全体での透明性と説明責任の強化 が求められる状況

Hackerたちの意見

なんて偶然なんだ、Anthropicがハンデを背負ってxAIが追いつこうとしてるなんて。

xAIがAnthropicに計算リソースを貸してるんだよね。サム・アルトマンが裏で操ってる気がする、あの小悪党。

実は、AIツールを使って楽しいゲームを作るのがずっと簡単になったから、‘フラッシュゲーム’の復活が見られると思って、別のドラフト投稿を用意してるんだ。aigamedevのサブレディットを覗いて、みんながどんなゲームを考えてるのか見てるけど、正直がっかりしてる。みんなが投稿するゲームを忠実に試してみたけど、ゲームデザインは本当に難しいアートだって結論に至った。LLMがあんまり助けにならないことも分かった。これらのゲームは「楽しい」っていうより、幼児の絵が「美しい」って言われるのと同じだと思う。25ドル以上で生成できるコードで、もっと質の高いインディーゲームが手に入るのにね。まあ、これは別のブログ投稿の話だね。

ほとんどのフラッシュゲームもひどかったよね!ボックスヘッドやマザーロード、ブルーンズみたいなゲームを見つけるのに、たくさんのクソを通り抜けなきゃならなかった。ここでは量が大事だと思う。素晴らしいゲームデザイナーになるのに、すごいプログラマーである必要はないけど、以前はその前提条件が必要だった。AIツールをゲームに応用することで、後者に集中できるのがいいところだよね。時間が経てば、宝石が浮かび上がってくるよ。

10年くらい前にクライアントのためにカスタムのタワーディフェンス型クローンを作ったんだけど…Objective CとCocos2dでコーディングするのは結構簡単だったよ。開発時間の50%はフィードバックを受け取ったり、バランス調整したり、アイテムの進行具合を考えたりしてた。つまり、ゲームのロジック(コード)はその一部に過ぎなかったってこと。

LLMで開発したいと思っている人たちは、才能がなくて自分の頭を使わなくなっているから、送るプロンプトごとにニューロンのつながりが衰えていってるんだよね(文字通り)。

ゲームデザインは難しい。昔、4つのフラッシュゲームをリリースしたことがある。2つは完全に失敗して、1つはまあまあ、もう1つはかなり成功した(ゲーム内での総プレイ時間は何百年も)。うまくいくためにはたくさんの要素が必要で、すべてのソフトウェアと同じように、ターゲット市場に合わせて作らなきゃいけない。楽しくて魅力的なコアループを作るための簡単なAIソリューションはないし、適切な複雑さを構築して学習曲線をバランスさせるためのものもない。コードができない人たちが自分をゲームデザイナーだと思っていて、AIがゲームを作る手助けをしてくれると思っていたけど、実際にはコードが全てじゃないことに気づいているんじゃないかな。それに、コードができないなら、雰囲気コーディングだけではフラッシュレベルのゲーム以上にはあまり役に立たないしね(まだ)。

小説を書くのと同じだよね。ボトルネックはスペルやキーボードのタイピングじゃない。いつも創造的な世界を作る部分なんだ。ハリー・ポッターの本に対する主な批判はスペルや文の構造じゃなくて、プロットの穴や世界観の矛盾なんだよね。ソフトウェアにも同じことが言える。

誰かがこれを言ってくれて嬉しい。これは可愛いインタラクティブデモであって、ゲームじゃないんだよね。これのおかげで、本当のゲームデザインの大切さをもっと実感できた。

インディー開発者だよ。ゲームを作るのは難しい。ソフトウェアの中で、全ての分野が集まって何か魅力的なものを作る数少ない場所の一つだからね。いろんな分野でプログラミングをしてきたけど、AIにとってはまだ一番難しい分野だと思う。確かに出力を加速させるための素晴らしいツールだけど、AIが全体としてこれを商品化するのは一番難しいと思う。

LLMによって可能になったゲームの探求やアイデアについてだけど、今ゲームにしようとしている「何でも作れる」サンドボックスがあるよ: https://asciidia.com

でもこの政府 [...] こういうことをよく耳にする。「もし違う政府だったら」とか。ごめんだけど、政府の介入を求めるとき、それが自分が望んでいた政府から来るとは限らないんだよね。これが政府の介入の問題なんだ!このメッセージが伝わってないと思うけど、ここで学ぶべき本当の教訓だよ。

Hacker Newsで議論の続きを見る