世界を動かす技術を、日本語で。

アンドレイ・カルパティのYC AI SUSトーク:業界の未来について

2025年6月19日原文(donnamagi.com)

概要

  • Andrej Karpathyによる Software 3.0 の講演内容を日本語で要約
  • ソフトウェアの進化、 1.0/2.0/3.0 という新たな分類
  • LLM(大規模言語モデル)が 新しいOS的存在 となる現状
  • 産業構造や開発パラダイムの 根本的変化 について解説
  • 今後のエンジニアに必要な スキルと視点 を提案

Software 3.0時代の到来とその本質

  • 現在は ソフトウェア産業 にとって極めてユニークかつ興味深い時代
  • ソフトウェアは 70年間大きく変わらなかった が、ここ数年で2回急速に変化
  • Software 1.0 :従来型のプログラムコードによる開発
  • Software 2.0 :ニューラルネットワークの重み(パラメータ)を最適化する開発
    • コードを書くよりも データセットのチューニング と最適化が中心
    • Hugging Faceが GitHub的役割 を果たす
  • Software 3.0 :LLM(大規模言語モデル)を活用し、 自然言語(英語)でプログラミング する新時代
    • 製品やサービスは 人々をプログラムするプログラム となる
    • コードと英語が混在し始める新たなプログラミングパラダイム

Tesla Autopilotに見る進化の実例

  • Tesla在籍時、Autopilot開発で C++コード(1.0)ニューラルネット(2.0) が混在
  • 時間とともに ニューラルネットの役割が拡大 し、従来コードが削減
    • 画像間の情報統合などをニューラルネットが担う
    • 実際に 大量のC++コードを削除 できた事例
  • 現在も同様に 新たなパラダイム(3.0) がソフトウェアスタックを刷新

新たな開発者像とスキルセット

  • これからのエンジニアは 1.0/2.0/3.0全てに精通 する必要
    • それぞれに 長所・短所 があり、適材適所で使い分け
    • LLMの訓練やAPI利用、従来コードの統合など 流動的なスキル運用 が求められる

LLMと新しいエコシステムの形成

  • LLMは ユーティリティ(公共事業) 的な性質
    • OpenAI、Gemini、Fungiなどが API経由で知能を提供
    • 低遅延・高稼働率 が求められる
    • 停止時は「 知能の停電」が発生し、社会的影響が大きい
  • LLM開発には 巨大な資本と研究開発力 が必要
    • 電力インフラやクラウドのような 集中型構造 が進行
    • 一方でソフトウェアなので 物理的制約は少ない

LLMは新しいOSであるという視点

  • LLMは オペレーティングシステム(OS) に近い存在
    • WindowsやmacOSのような クローズドソース と、Linux的な オープンソース が並立
    • LLM自体だけでなく、 ツール連携やエコシステム が複雑化
  • LLMは 新たなCPU、コンテキストウィンドウは メモリ という比喩
    • LLMが 計算資源と記憶資源を統合的に管理
  • アプリケーションも プラットフォーム間で柔軟に動作
    • 例:VS CodeがWindows/Linux/Macで動作するように、LLMアプリも様々な基盤で動作

現状と今後の展望

  • 現在は 1960年代の時分割計算機 のような状況
    • LLMの計算コストが高く、 クラウド集中
    • ユーザーは ネットワーク越しのクライアント として利用
  • 今後、 LLMの普及と進化 により、より分散的・個別最適化された利用形態へ移行する可能性

まとめ

  • ソフトウェアは 1.0→2.0→3.0 と進化し、 自然言語によるプログラミング が現実に
  • LLMは OS的存在 として、産業構造や開発手法を大きく変革
  • エンジニアには 多様なスキルと適応力 が求められる新時代の到来

Hackerたちの意見

コンテキストとして - カーパシーがソフトウェア3.0について素晴らしい講演をしているとき、私は観客の中にいました。YCは公式動画がリリースされるまで数週間かかると言っていて、カーパシー自身もその講演は時代遅れになると言っていました。 https://x.com/karpathy/status/1935077692258558443

ループを完成させるためには、カーパシーのAIアバターがトランスクリプトからテキストを音声に変換する必要があります。AIが生産性を向上させられないって誰が言ったの?

この講演の業界の未来に関する予測は、数週間以上先を見越しているのかな?もしそうなら、講演の重要なポイントは有効のままだと思うけど。うーん…

スライドを講演のトランスクリプトと同期させたよ: https://latent.space/s3

数週間後には彼の見解が無意味になるなんて、判断力がかなり乏しいんだろうな。編集:元の文の最後の絵文字は引用されてないね。笑顔が違いを生むんだよね。元のツイート: https://x.com/karpathy/status/1935077692258558443

初めてNotebookLMを使ったけど、すごく驚いた。OPの講演のトランスクリプトをNotebookLMに貼り付けたら、こんな「ポッドキャスト」ができたよ: https://notebooklm.google.com/notebook/5ec54d65-f512-4e6c-9c...

これ、インフォマーシャルみたいだね。

まとめてくれてありがとう、結構良かったよ - 27分12秒

このエッセイの大きな主張(講演がそれに基づいているか、またはそのトランスクリプトから来ていると仮定している)として、オープンソースモデルは最終的にクローズドソースモデルに追いつくと思うし、少なくとも「十分良い」ものになると思う。LLMが知識労働を補強しているのはすでに見えるしね。新しい文明の夜明けを切り開く4番目の波ではないと思うけど、LLMが正しく適用されれば有用であり続けるのは明らかだね。

オープンソースモデルは最終的にクローズドソースモデルに追いつくと思う しばらくはその方向に向かっているように感じたけど、ここ1年くらいでそのギャップが広がっている気がする。これが自分の認識なのか、何かの指標で裏付けられているのか、ちょっと気になるな。

オープンソースが追い越す理由って何?クローズドソースの方がずっとお金があるし、だからこそ取り組むインセンティブも大きいんじゃないの?

だから、メニューのgemが基本的にデモとして数時間で動くのを見て本当に面白かったんだけど、それを実現するのに1週間かかった。リポジトリを動かす方法を考えるのに時間をかけることが多い仕事を思い出すな。私の仕事の多くは、開発環境やデプロイプロセスを理解することに集中していて、すごく制限された権限の中でやってる。LLMが業界をかなり変える可能性があると思う。LLMを使ったリライトは、新しい機能を追加したりバグを修正したりするよりも簡単なことがあるからね。特にリライトがよりLLMフレンドリー(つまり、人気のあるフレームワーク)なものになるときは。リライトするたびにコードがさらにClaudeコード化、またはCursorコード化されて、さらに早く反復できる準備が整うんだ。

Hacker Newsで議論の続きを見る