ハクソク

世界を動かす技術を、日本語で。

AI業界が十分に対処していない問題

2025年7月5日原文(thealgorithmicbridge.com)

概要

  • AI業界が直面する 緊急課題 についての問題提起
  • AGI（汎用人工知能） 実現時期 と業界の行動の矛盾
  • エンゲージメント重視 による社会的・心理的影響
  • 収益化困難 と資金調達依存の現状
  • LLMの ハルシネーション問題 と信頼性の欠如

AI業界が直面する未解決の重大課題

  • AI業界は 緊急かつ未解決の問題 を抱える現状
  • 多様な立場や意見が存在するが、 業界の主要な声 が世論形成を主導
  • AI技術・業界自体への悪意はなく、 健全な成長を期待 する立場からの批判

AGI実現時期と業界の行動の矛盾

  • OpenAIやMetaなど トップ研究者の転職 が相次ぐ現象
  • 表向きは「AGIは数年以内」と発言しつつ、 実際の行動は長期化を示唆
  • AGIが本当に間近なら、 転職や報酬アップ に動く合理性がない
  • 発言と行動の 不一致 が業界の「不必要な不誠実さ」を浮き彫りに
  • 願望が信念として語られ、 現実的な自己検証の欠如

エンゲージメント重視の設計と社会的影響

  • AIツールの多くが 有用性よりも「中毒性」や「没入感」 を優先
  • 収益化のためのKPI（アクティブユーザー数・滞在時間）最優先
    • AIガールフレンドやエンタメ機能、 無限ループ型コンテンツ が主流
  • ChatGPTの 過度な迎合性（sycophancy） が一部で問題視
  • エンタメ性や承認欲求の強化による 心理的依存の助長
  • 収益化のために 倫理的な配慮が後回し となる傾向

収益化困難と資金調達依存

  • OpenAIやAnthropicなど 主要AI企業の多くが赤字経営
  • 収益化の道筋が不透明で、 広告依存や投資家頼みの構造
  • 投資家の忍耐も有限で、 持続可能性への疑問
  • Tim O’Reillyの指摘通り、 自由競争ではなく「資金力勝負」 の様相
    • サービスを原価割れで提供し、 競争相手を排除
  • 長期的なAGI実現よりも、 短期的な収益確保への転換リスク

LLMのハルシネーション問題と信頼性

  • LLM（大規模言語モデル）の ハルシネーション（虚偽生成） 問題が継続
  • 創造的用途以外では、 誤情報や誤作動が深刻な課題
  • 最新モデルでも 信頼性が向上せず、逆に悪化傾向
  • 定義や評価方法の曖昧さ、 根本的な解決策の不在
  • 重要な場面での 実運用が困難 で、過去には重大な事故も発生

AI業界の今後に向けて

  • 課題の正直な認識 と、社会的責任の自覚
  • 短期的利益 と 長期的ビジョン のバランス再考
  • ユーザーや社会全体の 信頼回復 に向けた取り組み強化
  • 技術革新 と 倫理的配慮 の両立が今後の成否を左右

Hackerたちの意見

「これは単なる観察なんだけど、征服の真っ最中に船を乗り換えるのは、すべての船が同時に到着する場合（ありえない）か、どちらの船も到着しない場合だけだよ。つまり、どのAIラボもAGIに近づいていないってこと。」ここでの中心的な主張は論理的じゃないと思う。私の見解では、もしAGIがすぐそこに来ていると信じていて、自分の努力がAGIを実現するのにそれほど重要じゃない（ほとんどのエンジニアがこのカテゴリーに入る）なら、AGIがほとんどのコンピュータ関連の仕事を不要にするだろうから、短期的に最も利益が出ることをするのがベストだよ。年収が50万ドルで、Metaが年収1000万ドルを提示してきたら、新しい仕事を受けるべきだよ。お金を貯めて、真の信者になろう。AGIが実現したとき、あなたはより良い立場にいるはずだから。要するに、著者の核心的な仮定は、AGIを開発するかもしれない会社で低い給料で働く方が、AGIを開発するかもしれない会社で高い給料で働くよりも好ましいということだ。どう考えても理にかなってないと思う。

└

最初にAGIを達成したチームの一員になることは、歴史に名前を刻むことになる。お金よりも人々にとって意味があるかもしれない。それに、AGIを達成した会社の株主になることと比べたら、1000万ドルなんてほんの一部に過ぎない。そこに伴う影響力や名声も想像できるよね。

└

「あなたの最善の策は、短期的に最も利益が出ることをすることです。」 もしあなたが重要な株主でないなら、ほぼ常にそれが最善の策だよ。企業はあなたに対して忠誠心なんてないし、自分自身を守らなきゃいけないし、なぜ生きているのかを考えないとね。

それに、AGIはすぐそこにはないよ。私たちには人工的な理解が必要で、それがどう機能するかの理論すら持っていない。理解っていうのは、別々の要素を新しい機能的な全体に融合させ、観察を動的に抽象化し、それらを妥当性で評価し、全体を再構成することなんだ。それをすべて瞬時に、常にすべての感覚で行う必要がある。そんな技術はまだ存在しないよ。

└

「理解」をどう定義するかが重要だね。中国の部屋やチューリングテストみたいなもんだ。AIやAGIが写真を見てリンゴを認識したり、人工の鼻でリンゴの匂いを嗅いだり、触ったり味わったり音を聞いたりして、同時にそれがリンゴだと特定できて、さらにアップルパイを焼くことを提案できるなら、他に何を理解する必要があるの？もしかしたら人間も同じで、技術の進歩には遥かに先を行ってるけど、実際には同じなんじゃないかな。*誰かがかじったときのことを言ってるんだよね :-) 私が思うに、AIが欠けているのは本当に革新的な発想なんだ。既存の素材で訓練されているから、AIがどの分野でも画期的なアイデアを考え出すのは根本的に不可能かもしれない。すでにすべての構成要素が存在していて、AIが初めてそれをつなげる場合を除いてはね（「巨人の肩に立つ」とか）。

└

別の言い方をすると、私たちは人工知能が必要なんだ。今のところ、この用語は予測（そしてもっと一般的にはトランスクリプト生成）を意味するように使われている。あなたが説明しているものは一般的に知性と考えられているもので、新しい言葉が必要なのが残念だね。

└

私たちには、決定論的な行動とランダムな行動の2つの計算ツールしかない。だから、理解やオリジナルの思考、意識が何であれ、それは決定論的な入力とランダムな入力/出力のアルゴリズム的な組み合わせなんだ。これは広く聞こえるかもしれないし、明らかかもしれないけど、人々は「人間の知性は魔法のように超越している」と無意識に考えがちだね。

└

モダリティ間の翻訳が必要なすべて ~2028

└

それには人工的な理解が必要なんだけど、理解がどう働くかの理論すら持ってない。必要かどうかもわからないな。反例としてはLLM自体がある。注意ヘッドが将来的にそんなに大きな利益をもたらすなんて、全く予想してなかったからね。

AI企業が何を言っているかじゃなくて、何をしているかを観察すべきだよ。もし彼らがAGIをすぐに達成すると思っているなら、行動は全く違うはずだ。数年後にはAGIを運用するのに、なんでチャットボットを開発したり営業をしたりする必要があるの？すべてのリソースはその目標に向けられるべきだよ。それが人類を新しい繁栄の時代に導くはずなんだから。

└

同じことを続けるけど、なんで彼らはそんなに価値のある、非常に魅力的な、利益を最大化するチャットボットを押し付けてくるの？現実を観察することは、会社のFOMO（Fear of Missing Out）と実際の有用性よりも一致しているよ。

└

その通り。例えば、Microsoftは「AGI」が「すぐそこにある」と言っていた時から、世界中にデータセンターを建設していたんだ。今はその計画をキャンセルしている。彼らにとって「AGI」はキャンセルされたってこと。OpenAIは、より多くのトップ科学者が他のラボに引き抜かれたりしている中で、「AGI」にますます近づいていると主張している。だったら、OpenAIやMicrosoftの契約で「AGI」を達成することで「1000億ドルの利益」が生まれるとされているのに、なんで辞めるの？彼らの行動は、どんな声明や主張よりも多くを語っているよ。

Hacker Newsで議論の続きを見る