世界を動かす技術を、日本語で。
人類を終わらせるなら、猫耳娘がやればいいんじゃない？
猫耳娘については、俺の気持ち分かってるでしょ、カール。
これは人類の歴史における新しくて、かわいくて、ふわふわした章の始まりに過ぎないよ！
なんか、俺たちの中にはセールスマンに慣れすぎて、「AI安全」プロパガンダにも鈍感になってる人がいるんじゃないかな。俺は「AI安全」派が責任を持つべきだと思ってる人と論理的な議論をしたことがないし、彼らが本当に望んでるのは権力の鍵を握ることだって気づいてないんだと思う。
問題なのは、「AI安全」派が完全にSFの「コンピュータは復讐の神」みたいなストーリーに集中してて、AIが人を自殺に追い込んだり、子供の教育を台無しにすることには全然目を向けてないことだよね。だから、彼らは真剣じゃなくて、現実からズレてるように見える。
なんか言葉を抜かしちゃったんじゃない？言いたかったのは：> 「AI安全」派が責任を持つべきだと思ってる人と論理的な議論をしたことがないし、彼らが本当に望んでるのは権力の鍵を握ることだって気づいてないんだと思う。
俺はAI安全派の人間で、政府にフロンティアラボを国有化させるか、重要な持ち分を持たせて、技術の開発を民主的にコントロールしてほしいと思ってる。AI安全運動は一枚岩じゃない。エリイザー・ユドコウスキーやその信者たちが権力を握るべきだとは思わないけど、OpenAIを規制したい人をEA/MIRIの変わり者として作り上げたがる人が多いよね。
論理的な議論ができないって愚痴る人とは、まだ生産的な会話ができたことがないんだけど、安全とコントロールが意図を取り除けば同じものになるって考えると、これは特に扇動的な描写に見えるよ。コントロールがないことは自由と同じじゃないし、全体が専制と同じじゃない。こういうことに別の言葉がある理由があるんだ。この二つを常に混同するのは本当にうんざり。狼少年みたいになって、みんなが信じるべき時に信じてもらえなくなるよ。それが起きたときに驚かないでね。問題はコントロールの所有にあって、必ずしもコントロールそのものではない。後者を攻撃することは、これを回避するだけで解決にはならないんだ。
誰もがAIの開発を遅らせるべきだ、俺以外は。 誰がこんなこと言ったの？ それとも、誰が暗にそう示唆してるのかな？ 具体的な記事や投稿があるのかすごく気になる。
これが背景ね：- AnthropicのCEOダリオ・アモデイ：「フロンティアをペース配分しなければならない」 https://news.ycombinator.com/item?id=49672510 - OpenAIのCEOサム・アルトマン：「ダリオに賛成、フロンティアをペース配分する必要がある」 https://news.ycombinator.com/item?id=49678211 - ブログ記事の著者が自分たちが面白くて独創的だと思ってる https://news.ycombinator.com/item?id=49678683
これ、ダリオを揶揄してるんじゃないかな。
https://www.spokesman.com/stories/2026/sep/12/amodei-altman-...