世界を動かす技術を、日本語で。

AI: 加速された無能

2025年5月28日原文(slater.dev)

概要

  • LLM(大規模言語モデル)依存によるエンジニアリング能力低下の懸念
  • LLMは人間の批判的思考や設計力を代替できない
  • AI活用のリスクと人材育成への悪影響
  • プログラム理論とエントロピー管理は人間独自の能力
  • AIは道具として活用すべきで、依存は危険

LLM依存がもたらすエンジニアリングの危機

  • 2022年後半からのAI・LLMブーム により、ソフトウェア開発現場での利用が急増
  • LLMは「友達」ではなく、あくまでツール という認識の重要性
  • 生産性(速度)重視の風潮 が、思考力・設計力の低下を招く危険性
  • LLM活用によるリスク
    • 出力リスク :表面的な誤りだけでなく、見抜きにくいロジックバグ発生
    • 入力リスク :誤った前提や不完全な文脈でも無批判に回答
      • 例:本来1行で済む設計的回答が、LLM利用で200行の冗長なコードになる
    • 将来の生産性低下 :技術的負債の急拡大、保守性の低下
    • ユーザーの幼児化 :思考や問題解決をAIに委ねることで、個人・組織ともにスキルが衰退
    • 創造性・楽しさの喪失 :AI生成コードは読みにくく、開発の喜びやフロー体験を奪う

LLMと人間の本質的な違い

  • 「自分が不要になる」懸念の否定
    • LLMには置き換えられない領域が存在
  • 人間だけが担える2つの能力
    • プログラム理論(Program Theory)
      • Peter Naurによる「プログラムは設計・理論であり、ソースコードそのものではない」という考え方
      • 設計意図や理論を共有・内面化できるのは人間だけ
      • 例:同じコードでも設計意図を知るチームと知らないチームで保守性・拡張性が大きく異なる
    • プログラムエントロピー(Program Entropy)
      • Fred Brooksの「プログラムは保守を重ねるごとに複雑化(エントロピー増大)する」という指摘
      • 設計意図を守りつつ複雑化を抑えるのは人間の役割
      • LLMはテキスト処理しかできず、設計や複雑性の本質的理解ができない

LLM時代のエンジニアの価値

  • AIはコスト削減・効率化の道具
    • しかし、過度なAI依存は長期的なコスト増大や品質低下を招く
  • 本質的な技術力・思考力は今後も評価され続ける
  • AIは「杖」ではなく「道具」 として活用し、根本的なエンジニアリングスキルを磨き続ける重要性

今後の展望

  • AIやLLMの活用リスク・対策についての発信予定
  • 本質的なエンジニアリング力の価値は変わらない
  • AI時代でも人間の深い思考・設計力が求められる社会

Hackerたちの意見

3Dプリンティングが製造業を全部置き換えるって言ってたの覚えてる?誰かいる?

それともビットコインが銀行を置き換えるって?結局、ビットコインに基づいた金融ツールを売る銀行ができたよね。

これは簡単に言えることだけど、実は結構間違ってる。3Dプリントは多くの業界で大きなブレイクスルーをもたらして、現状を根本から変えたんだ。航空宇宙産業がいい例で、SpaceXや他の新興企業がやってることの多くは、3Dプリントされた部品がなければ実現できなかった。ノズルや燃焼室、ターボポンプなんかは、よくプリントされる部品だよ。

3Dプリントは徐々にもっと製造業に浸透していくよ。地味なステッピングモーターが本当に世界を変えてる。3DPはその一つの現れだね!でもAIの話に戻ると、あるハイプされたAIアプリ生成ツールのカスタマーサポートページを見たら、予想通りの内容だった。「複雑なプロジェクトには対応していない」「トークンを全部無駄にした」「返金の方法は?」みたいな。こういうのは過剰な期待を持たせていて、評価を正当化するには未来の奇跡が必要だね。奇跡が来るかどうかは分からないけど。

いい例えだね。3Dプリントは素晴らしくて、信じられないほど役立つ技術だ。本当に世界を変えるものだよ。でも、射出成形はこれからも残るだろうね。

正直言って、あんまり感じないけど、もしかしたらそのハイプサイクルは私の時代の前だったのかも。でも、これは不公平な比較に思える。まず、3Dプリントのおかげでエンジニアリングがより良くなったと思う(機械工学が得意だった頃ね)。プロトタイプを作ったり、ミスを早く安くできるから。全ての製造を置き換えたわけじゃないし、近づいてもいないけど、デザインにおいて重要な役割を果たしてるし、ユーザーのスキルを衰えさせることもないよ。

3Dプリンターを持っていて、部品をCADで作ったけど、射出成形工場は持ってないんだ。

シンギュラリティには至らないかもしれないけど、学術界で働いている人たちにとって、課題の設定や採点、講義ノートに関しては、良くも悪くもAIがものすごい影響を与えているよ。LLMが単にいくつかのシステム的な欠陥を露呈しただけだと主張することもできるけど、その影響は確かにある。2年前にはかなり標準的だった講義のワークフローが、今はもう通用しなくなっている。これには、コロナ後に多くの大学が投資を始めたオンライン教育やリモート教育全体が含まれていて、ちょうどその頃にChatGPTが登場したんだ。この影響を文脈に置くと、私たちは世界的に高等教育と中等教育のセクターについて話している。

小規模な製造には、3Dプリンティングが絶対にすごい。3Dプリンティングの大きな制限は、射出成形のように1時間に何千もの部品を生産することはできないってことだけど、それでも全然問題ないよ。射出成形の部品を作るには、最初に大きな投資が必要だからね。もし小ロットの部品を作っているなら、3Dプリンティングは初期コストを完全にスキップできるから、遅いマージナルタイムを十分に補ってくれるんだ。

それか3Dシネマ、あるいはVR。全部ただのハイプだよね。

それが真実じゃないとは言わないけど、ハードウェアとソフトウェアは異なる軌道を持ってるよね。

入力リスク。LLMは、導くプロンプトに対して挑戦しない…(強調は私のもの)これが私にとって一番の痛点で、もどかしいのは、自分が特定の方向に導いていることに気づかないことがあるってこと。LLMの動き方を考えれば納得できるけど、曖昧な言葉一つで結果が悪い方向に偏ることがあるんだよね。時には本当にやりたかったこととは逆の方向に行っちゃったりして、間違った道に迷い込むことも。気づいたときには、なんか適当に組み合わせたコードの泥沼にハマってて、ほとんど動いてるかどうかも怪しい状態。人間の言語がすごく曖昧で具体性がないから、正確さを求めるために形式的な言語を作ったわけだよね… 個人的には、AIツールのおかげで自分のスキルが急速に退化してる気がする。ちょっとしたタスクでも怠けて頼っちゃってたけど、実際に一歩引いてみると、あんまり時間を節約できてないことに気づいた。さらに悪いことに、AIが間違った部分を直すために何十行、何百行もコードを読んでると、すごく疲れちゃう。測ったことはないけど、トータルで見ると、AIツールで節約した時間よりもずっと無駄にしてる気がする。AIは多くのタスクに本当に役立つと思うけど、使ってる人は2つのグループに分かれてる。複雑なタスクで小さなミスがすぐに積み重なる人たちと、もう一方(私の経験では主にマネージャータイプ)は、理解できない200行のコードを見て、これが完成品だと思っちゃう。動くかどうかも怪しいTODOアプリが「MVP」として十分だって言って、「ほら、これを生成できるってことは、君の仕事も簡単にできるはずだ!」って。私が間違った使い方をしてるとか、違うモデルを試してるとかのコメントが来ると思うけど、私の経験については古いコメント[1]を読んでみてね。 [1] https://news.ycombinator.com/item?id=44055448

Hacker Newsで議論の続きを見る