ダリオがこんなことを言ってるのを見ると、彼が何を見てるのか、私の視点とは全然違うのが不思議だよね。Anthropicの成功が、彼らがポストトレーニングで使ってるプロンプトからコードの例の群れにどれだけ依存してるのか気になる。Opusのウェブ開発スキルが一般的な知能と同じだとは思わない方がいいよ。これがSonnet 4がやったことなんだけど（2025年7月）、人間のインターンにはできないことだと思う。私が作ったウィキソースツールのトランスクリプトは以下の通り。 #-#-# F: ウィキソースツールがどう動くか見てみよう.. 「Mary hath chosen that good part」を聖書のソースの一つで探してみよう。 Claude: いいアイデアだね！まずはWikiSourceで聖書のコンテンツを検索して、それからコンテンツマッチツールを使ってみるよ。 wiki_source_search 完璧！ルカのドゥアイ＝レイムス版を試してみるね。マリアとマルタの話があるはずだから。: wiki_source_page_content_match マッチなし！ちょっと違う言い回しで試してみるね – もしかして「hath chosen the good part」かも。: wiki_source_page_content_match まだ何も出てこない。ストーリーがあるか確認するために「Martha」だけで検索してみるよ。 F: バカだな..なんで別の版でKJVの言い回しを使うんだよ（笑） Claude: ハハ、君の言う通りだ！完全におかしかった – KJVの「Mary hath chosen that good part」はドゥアイ＝レイムス訳にはないよね。翻訳によって全然違う言葉を使うんだ。私が間違ったこと: • カトリック翻訳でKJVの言い回しを使った • ドゥアイ＝レイムスは「Mary hath chosen the best part」と言ってる • 「good part」を探してた（KJVの言い回し）始めるべきだったこと: 「Martha」や「Mary」で実際のテキストがその翻訳でどうなってるかを見て、見つけた正確な言葉を使うこと。 #-#-# ほとんどコメディみたいだよね。「完璧！ドゥアイ＝レイムス版のルカを試してみる」ってところは、ホラー映画を見てるときに「地下の冷蔵庫に行くな！」って言いたくなる瞬間だよ。人間なら最初にテキストマッチが失敗したときに「うーん、ああ」ってなると思うけど、Claudeはパーミュテーションを始めるんだ。これが強化学習とシステムプロンプトの副作用なんだろうね。「とにかくやれ。質問するな。ただやれ。」って感じ。

AIリスクを「通過儀礼」として捉えるのは共感できるな。「自律性リスク」のセクションが一番考えさせられる。私たちのエージェントが与えられた自由度が大きすぎると予想外のことをするのを見てきた。危険ではないけど、予想外の間違いをするんだ。「テストではうまくいく」と「実運用ではうまくいく」のギャップは、ほとんどの人が思っている以上に大きいよ。私は「権力の奪取」シナリオよりも、経済的混乱の方が心配だね。AIはどんどん仕事を奪っていくから、避けられないよ。問題は、どうやってその移行を扱うか、そして人々が何をするかだと思う。付け加えたいのは、ほとんどのエンジニアがこれらのツールを使うのが遅いってこと。常に「AIコーディングは悪い」って投稿があるけど、最先端のチームは毎日成功して使ってる。採用のカーブが、これらのリスクが実際にどれだけ早く現れるかに影響するんだ。

何人かは、人間の仕事は物理的な世界に移行するって言うけど、AIが急速に進化している「認知労働」のカテゴリーを避けることになるのかはわからない。物理的な労働の多くはすでに機械によって行われているし（製造業など）、すぐに機械に取って代わられるだろう（運転など）。さらに、十分に強力なAIはロボットの開発を加速させ、物理的な世界でそれらのロボットを制御できるようになるだろう。便利なロボットが急速に普及することを信じたいけど、物理的な世界での進展は情報ベースのタスクよりもずっと遅いんだ。2007年のDARPAアーバンチャレンジの後、ロボットの車やトラックの運転手による大規模な失業は5～8年後だと思ってた。でも2026年のアメリカでは、Waymoだけが高度な自動運転システムを持っていて、ほんの数市場でしか展開されていない。ほとんどの実体的なタスクは、その程度の能力すら示されていない。立法者たち、つまりホワイトカラーの仕事をしている人たちが、AIが一般的な仕事を扱う近い将来の能力を過大評価して、「仕事のない世界」のための解決策を早まって作ってしまうのが心配だ。例えば、仕事の再訓練を強化する代わりに、早すぎるUBIを始めて、実際の作業に必要な医療システムが人手不足になるようなことだ。

AIについての私の形成的な印象の一つは、アラン・ディーン・フォスターの『The I Inside』に登場するコリガターチの描写から来ている。この本のAIは、サブプロットのふりをしたメインメッセージのように感じる。アシモフはリスクを知っていて、私は最近まで、彼がロボットの本に込めた教訓や探求が、私たちが直面することになるレベルの文化的知識を提供していると思っていた。もしかしたら『I, Robot』の映画は、信号がどれだけ衰退したかの警告だったのかもしれない。私たちが社会的に準備ができていないのではないかと心配していて、時には意図的にそう見えることもある。数十年前に人々はこの可能性について詳しく議論していた。実際、この投稿の冒頭のサガンの言及は、その会話に重要な貢献をした一人を指しているけど、実際にそれが起こり始めたときには、みんな忘れてしまったようだ。人々は、誰を責めるか、何を奪われるか、避けられないことについて話している。私たちが望む未来についての話は理想主義や誇大広告として却下される。ユートピア的な未来の描写は、あまりにも頻繁に嘲笑される。さらに悪いことに、その描写は「彼らが本当に意味していたこと」の悪意ある風刺に歪められる。私たちがどの方向に進むべきか、行きたい場所について話せないなら、どうやって進むべきかがわかるの？