世界を動かす技術を、日本語で。

すべての未来は嘘だと思う:仕事

2026年4月15日原文(aphyr.com)

概要

  • 本記事はAIと自動化がソフトウェア開発や労働市場に与える影響について論じる連載の一部
  • AIによる自動化が逆説的にシステムの脆弱化やスキルの喪失を招く可能性
  • LLM(大規模言語モデル)によるプログラミングの変化とその課題
  • AIを「同僚」とする発想の危険性と現場での具体的な問題点
  • 自動化による労働市場の衝撃と今後の不確実性

ソフトウェア開発は魔法か工学か

  • AI同僚 への熱狂とその非現実性
  • 自動化 によるシステムの脆弱化リスク
  • ML(機械学習) 導入によるデスキリング(熟練度の低下)、自動化バイアス、監視疲労、緊急時の引き継ぎ困難
  • AI推進論者はMLが多くの産業の労働を短期間で代替すると主張
  • 機械学習が大手テック企業の富と権力集中を加速させる懸念

プログラミングは魔法になるのか

  • かつては 自然言語 でのプログラミングに懐疑的な見方が主流
  • 現在の LLM は曖昧な指示でも高度なプログラム生成が可能
  • LLMが生成するコードは 形式言語 のような厳密性や推論可能性を維持できない
  • 小さな指示の違いで全く異なるソフトウェアになる危険
  • コードの正しさ が求められる場面では人間の理解とレビューが不可欠
  • 今後は「魔女」のようにプロンプトでLLMを操る人と、伝統的なエンジニアが共存する可能性
  • Excel やスプレッドシートのような文化的に身近なツールとしてLLMが普及する可能性

AI同僚は雇うべきか

  • AI社員 という発想の危うさ
  • セキュリティリスクや予期せぬ挙動を伴うAIによるコード生成
  • LLMは「同意」や「謝罪」などの振る舞いを模倣するが、 実体や意図が存在しない
  • 予測不能な失敗や責任の所在が曖昧になる問題

自動化のアイロニー

  • Bainbridge の「自動化の逆説」論文の要点
    • 自動化は オペレーターのスキル低下 を招く
    • 人間は自動化されたプロセスの監視が苦手
    • 自動化システムの失敗時、人間が即座に対応できず事故につながる事例(Air France 447便事故など)
  • LLMによるソフトウェア開発の自動化で 設計・コード生成・テスト・レビュー のスキルが衰退
  • 医師や翻訳者、学生など、 コアスキルの喪失 リスク

労働市場への衝撃

  • MLが労働市場に与えるインパクトに対する不安
  • 大規模な失業 や再訓練制度の必要性
  • MLが多様な職種に波及し、 短期間で大規模な雇用喪失 が発生する可能性
  • MLの導入が失敗した場合と、逆に 劇的な成功を収めた場合 の両極端なシナリオ
  • どちらに転んでも、 社会全体に大きな変化 が訪れる可能性

Hackerたちの意見

このアフィル、ありがとう。ひとつお願いがあるんだけど、みんな「CEO」を神格化しすぎじゃない?何か問題が起きるたびに、まるで異星人みたいに扱って、「やばい、何かひどいことするかも」ってさ。いい経営者もいれば、クソみたいなやつもいる。自分で会社を立ち上げて、どっちのタイプになれるか試してみたらどう?

ああ、じゃあ会社を立ち上げればいいんだね。ちょっと父親に100万ドルの小規模ビジネスローンを頼んでみるよ。

クラス戦争の一般化が、ネットの怒りを発散する安全な手段になっちゃってるね。CEOや億万長者を叩くのが一番「上を叩く」感じで、みんな共感しやすいから。気づいたら、これがCEOの悪い行動を普通にしちゃう副作用になってる。特に若手が「CEOは悪い」って内容をずっと見てきた後に、悪いCEOのもとで働くと、見てる行動が普通だと思っちゃうんだよね。仕事を変えても良くなるとは思えなくなっちゃう。SNSから、CEOの悪い行動が普通だって学んじゃってるから。ボランティアでやってるメンターシッププログラムでもよく話題になるんだけど、若手が毒のあるスタートアップに入って、ネットで「CEOはみんなこうだ」って言われてるからそのまま居続けるんだ。そういう考えから解放して、良い会社と悪い会社があるって気づかせて、選択肢があることを理解させなきゃ。

会社がひどいことをしたとき(ほんとに、いつもそうだけど)、誰を責めるつもり?CEOが今の評判を得ているのは全然驚くことじゃないよ。

なんだか奇妙だけど、私は2つの(ほんとに小さい)テック企業のCEOなんだ。

みんな「CEO」を神格化しすぎじゃない?まるで異星人みたいに扱ってる 2025年の映画「バゴニア」を見ることをおすすめするよ。

「あなたは誰なの?一つの投稿のために作られたアカウント?」緑のアカウントが、コメントの内容に曖昧に関連するユーザー名を持っているパターンがあるよね。

今の私にとって興味深いのは、まだ指数関数的な立ち上がりの底にいるのか、それともシグモイド曲線の頂点に近づいているのかってこと。どちらの証拠も見つかるよね。LLMはおそらく、あと10倍良くなることはないと思う。でも、ほぼいつでも誰かが同じかそれ以下のリソースで10倍良くなる新しいアーキテクチャを考え出す可能性がある。LLMはまだまだ余地があるように感じる。もしシグモイド曲線の頂点に近づいていて、適応するために少なくとも10年くらいの猶予があれば、たぶんできると思う。AIの応用は進むけど、今のAIができないこともより明確に理解できるようになるだろう。もしまだ曲線の底にいて、加速が止まらないなら、特異点を見ていることになる。元々の、そして一般的により良い形での特異点の定義は、予測できないポイントがあるっていう観察に過ぎないからね。(「ラプチャー・オブ・ザ・ナーズ」は予測できない未来の特定の例だけど、特異点そのものの概念ではない。)何が起こるかわからないね。

「適応するために少なくとも10年くらいの猶予があれば、たぶんできる」って、SNSが何か言いたがってるね…

まだまだ底辺だよ。始まったばかり。AIの観点から言えば、ペンティウム4以前の時代にいる感じ。

AGIにはまだまだ程遠いよ。彼らは人間の知識を全部吸収して、井戸を毒してしまったけど、それでも車洗いに行けって言うんだ。農民の村人は、一冊の本も映画も歌もなくても意識があった。意識を持つのにこんなにデータはいらないよ。彼らは愚かな方法を使っていて、もっと良い方法がいつか見つかるだろうね。

「今の私にとって興味深い質問は、私たちがまだ指数関数的な立ち上がりの底にいるのか、それともシグモイド曲線の頂点に近づいているのかということだ。今日のモデルを使っても、VFXや動画制作、グラフィックデザインを革命的に変えた。多くのシニアソフトウェアエンジニアが2倍から10倍の生産性向上を報告している。これらのツールは私のキャリアの中で最も役立つツールの一つだと思う。一般消費者が製品に「AI」を必要とするとは思わない。専門家が活用できるコントロールサーフェスを作って、スピードを活かし、結果を形作り、コントロールできれば、すごくいい状況になると思う。これだけでも経済やイノベーションに波及効果があるはず。私たちはすでに得られる利益をほとんど活用し始めたばかりだし、新しいモデルも必要ないよ。

Hacker Newsで議論の続きを見る