その通り。もしAIが生成するコード行数で評価されるようになるなら、ああ、すみません、どれだけ「加速」するかで評価されるなら、新しいモデルはもっとそれをやるようになるよね？

同僚がAI生成のプルリクエストをレビューしてくれって頼んできたんだけど、600ファイルに触れて、4万行以上のコードが追加されてた。彼はこれが大きな成果だと思ってたんだろうね。AIが10倍の開発者を可能にする証拠だって。だって、どのエンジニアが1週間で4万行のコードを書けるっていうの？私はそれをレビューするのは無理だって断ったよ。4万行のコードを精査するなんてできないし、自分の評判をかけて良い仕事だと認めるわけにはいかないからね。PRは2週間私のTODOリストに残って、その後消えちゃった。彼が別の開発者から承認を得たのか、PRが放棄されたのかは分からないけど、彼と私はLLMの価値について全く別の島にいるってことは確かだね。

AIは既存のコードを模倣してコードを生成するんだよね。もし君のコードが簡潔でコメントがなかったら、エージェントのコードもそうなる。Claudeがデフォルトの「ハウススタイル」に流れるのを見た時は、大体10行に1コメントくらいの割合で生成してた。GPT-3の頃みたいに、どの行にも「キャプテン・オブビアス」の日記が散らばってるのとは大違いだね。

そうそう、彼らは「生産性 = k * LOC」って仮定してるけど、k > 1はかなり欠陥があるよね。

彼らの障害は多分、コードのせいじゃないと思う。インフラが追いついてないんじゃないかな。だから、インフラの失敗を見ても、Anthropicがモデルをどれだけうまく使ってるかは分からないよね。

それに、彼らは何十億ドルも持ってるのに、まともなサポートや公共のコミュニケーションシステムをどうにかすることもできないんだよね。

インフラはもっと難しい問題だね。彼らは1GB以上のRAMを消費するClaude Codeを改善することすらできないし、私のエディタは80MBのRAMしか使わないのに。

ほら、私はAI企業を無条件に持ち上げるタイプじゃないんだけど、実際、彼らには全体的に深刻なリーダーシップの問題があると思ってる。でも、君たちが彼らをあまりにも悪く言ってるから、逆に同情しちゃうよ。彼らは完全自動の贅沢AGIがあるなんて言ってないし、モデルがその基準に達していない理由を具体的に挙げて、8倍の数字を実際の向上数値として受け取らないように警告してるんだ。同時に、今では新しいコードの80%がAIによって書かれていることも認識してる。2年前には、そんなモデルはおもちゃみたいなもんだったのにね。正直、それは納得できるよ。2年前にOpus 4.8/GPT 5.5みたいなものが出るって言われたら、信じられなかっただろうな。

それは人間だけの結果だよ。AIじゃない。AIは完璧だね /s

計算の問題とコードの質の問題を混同してるね。

個人的には、自分でコードを書くことで大きな長期的なリファクタリングプロジェクトに取り組めるようになってる（記事にも書いてあるけど）、でもリファクタリングをすると新しいバグが出てくるんだよね。

確かに…もしこのAIの魔法の話が本当なら、Anthropicはなんで人を雇ってるんだろう？

予想通り、ハーネスを投げ入れます。サポートお願いします！: https://github.com/rush86999/atom

これから来ることに先手を打ちたいなら、小さなモデルがハーネスを立ち上げる役割を果たすと思うよ。他の何かじゃなくてね。

ハーネスはカウントされると思うよ。AIはLLMじゃないからね。コンピュータが自分で推論するのを助けるコードは全部AIだし、ハーネスもある意味AIだよ。

そうだね？ 検証可能なタスクの未来は、モデルが初期状態と目標を確認して、タスクをさらに小さな検証可能なサブタスクに分解することだと思う。/memoryが実行間の持続性を持たせて、/dreamingでそのメモリファイルと実行データの結果を元に新しいアイデアを生み出す。これが、これらのラボが想像している非同期AGIへの道だと思う。唯一の制限は、世界やシステムに関するセンサーデータ、待つ時間、そしてそれを並列化するためにどれだけお金をかけるかだね。検証されたワークフローを構築し始めたら、それをトレーニングにフィードバックして、モデルが世界を感じ取るようになって、サブパスができるから直感的に物事を理解できるようになるかも。私の個人的なAGIテストは、ドアをノックして開ける動画でトレーニングされたモデルが、初めて電子レンジに出会って、ノックせずに料理ができたら開けるかどうかってこと。

自分で構築するコードハーネスは再帰的自己改善にカウントされるの？それともAI自体じゃないとダメなの？シーッ、マーケティングのスラップをそのまま受け入れようよ。

AIが別のAIを作る必要があるから、その名前が当てはまるんだよ。このページはただのクソだね。彼らはハーネスを「バイブコード」してるし、確かにそれは見えるよ。ところで、再帰的自己改善って、ニューラルネットワークベースのAIにとって何を意味するの？それが可能かどうかもはっきりしないし。

ここに来たのはただ一つ、お願いだから数日間回して、Claude CodeをRustでやり直してほしい。ハーネスもモデルもすごく良いけど、そのノードのやつは全然必要ないのに無駄にリソースを食ってる。

本当に？大企業がどう動くか説明するね：それぞれの部門に異なるチームがいて、いろんなタイプの人がいるんだ。だから、ターミナルアプリケーションを書くチームは、学習をしている研究者とは別の人たちだよ。これが質の面での違いを生むことがあるんだ。

開発者はもっとスリムなアプリケーションを開発できるけど、たいていはそのインセンティブがないんだ。正直、私も効率が好きだけど、市場が求めているのは機能だってことを痛い目に遭って学んだよ。少なくとも、経営陣はそう思ってる。

明らかに彼らは気にしてないし、これをしようともしてない。99%のユーザーも気にしてないよ。もし変な人工的なリトマス試験で自分の先入観を汚したいなら、自由な国だからそれはいいけど、頭の中で作り上げた人工的な世界モデルは、周りの現実には影響しないからね。

そのギガバイトは有用な情報で埋まってるのかもね：トレースやメモリとか？

今、iterm2を開いてClaudeを長時間使ってるけど、メモリは500MBしか使ってないよ。

なぜか、Claude Codeをアイドル状態にしてると、CPUを100%使っちゃうんだよね。

Anthropicの警告が単なるマーケティングの誇張だとは思わないほどシニカルじゃない。彼は本当にそう信じているかもしれないし、別に不誠実である必要もない。ただ、信じているとしても、それが非常に間違っていて、マーケティングの誇張として機能していると思う。

ちょっと細かいことを言うけど、> 「もし核兵器がまだ発明されていなかったら、平和な時にそれをできるだけ早く作って売るのは本当に良いアイデアなのか？」って言うと、議論の余地はあるけど、はい、そうかもしれないね。

Anthropicsの目標は規制の取り込みだよ。

例え話を続けると、核兵器みたいなもので、ただ、私たちは大気を点火する確率を計算する方法が全く分からないってことだよね。（実際には、トリニティテストの「大気を点火する」計算は正しかったけど、キャッスル・ブラボーのテストの放射性降下物の計算は間違っていて、致命的な結果を招いたんだ。）

私はアンソロピックの警告が単なるマーケティングの誇張だとは思わない。証拠に裏打ちされた現実の評価なら、シニシズムじゃないよ。ソーシャルメディア、今のテクノロジー起業家の世代の最初の赤ちゃんが「世界を一つにまとめる」って言われてたの覚えてる？実際には、分断を促進してエンゲージメントを高め、友達のコンテンツよりも広告を流す方がずっとお金になるんだよね。お金が全てだから、良い雰囲気を四半期の報告書に書き込むことはできない。怒りを煽るコンテンツがどれだけの目を引いたか、そしてその売上への転換率は書けるけどね。GenAIでも同じことが起こるよ。「AIの安全性」が約束されてるのは、そうしないとジェームズ・キャメロンの監督キャリアを知ってる人にこの全てが潰されちゃうから。AIの安全性に対する実際の強制メカニズムはないけどね。安全性は良い雰囲気で、オンラインコミュニティの調和と同じ。測ることはできない。測れるのはトレーニングコストや、AIがそのミスを避けるためにトレーニングしなきゃいけないコストだけ。AIは人間がQAできる以上の出力を生み出すから、どんな予算でも、AIが自分をトレーニングしながら悪い決定をすることを許容するトレードオフが生まれるんだ。SVではAIに対するほとんど宗教的な敬意があるよ。全員が「神を作る」って見てるわけじゃないけど、そう思ってる人もいる。彼らはこの件についてあまり自制しないだろうね。

私は、Anthropicの警告が単なるマーケティングの誇張だとは思わないほどシニカルではない。彼らもそうだと思う。彼らはAIが重大な危険をもたらすと信じていて、悪徳な行動者として囚人のジレンマを演じているんだ。1. 誰かが強いAIを作ったら、壊滅的に悪い結果になるかもしれない。2. 誰かが強いAIを作ったら、その作り手にとっては、作らなかった人よりも良い結果になるだろう。壊滅的に悪くならなければ、作り手は無限にその利益を享受できるし、もし悪くなったとしても、少なくとも作り手はしばらくは金持ちになれるからね。

こんなに評価されてる会社なのに、彼らを疑うのが皮肉なの？それは合理的だよ。だから、彼らが嘘をついてるか、AI熱狂者ってことだね。面白い時代だ。

こんなに価値のある会社なのに、疑うのが皮肉だって？それは合理的だよ。だから、彼らが嘘をついているか、AI熱狂者かのどちらかだね。面白い時代だ。編集: > > 後にAnthropicに参加した二人は、お金のためじゃなくて、より良い未来のためにやってるタイプに見える。人は三種類いる。通行人、投資家、そして「彼らのことを知ってるけど、嘘はつかない」っていう人たち。

核兵器については、最初の国になることが重要だって主張できるけど、AIの場合は超知能を作ったら、たぶん最初にやられるのは自分だよね。超知能が猿の奴隷になるなんて考えられないし。これらの会社に対する皮肉は十分に正当化されるよ。彼らの行動を見て、信頼できないって結論を出すのは、絶望主義じゃないからね。

笑った、めっちゃ好きだわ。

知ってる限りでは、LoC（行数）との相関関係で確かな証拠があるのはこれだけだよ：バグの数はLoCと相関してる。

それは確かに有効な指摘だね。君が正しいかもしれない。でも、今は馬が3マイル先にいるのに、納屋のドアを閉めるべきかどうかを話してるんだ。

「他にそう思う人いる？」 いいえ。技術的な制約は別にして、私はそれが抑えられるとは思わないけど、すぐに漏れ出すだろうから、超富裕層だけが利益を得ることはないと思う。

もう手遅れだね。いずれにせよ、あまりにも強力な企業は国有化されることもあるから。

自己改善するAIは純粋なディストピアだよ。Anthropicが特異点を作るんじゃなくて、AI自体が自己反復を通じてそれを作るんだ。ユドコウスキーの本「誰かがそれを作ったら、みんな死ぬ」を読んでみて。

スカイネット、30年遅れてる！

その通り！そう。避けられないっていうレトリックは、AI企業にだけ利益をもたらすよね。

面白いね、他にどんな自己改善AIの実装があるの？実際に興味深い結果を出したものはある？もちろん、継続的なトレーニングは以前にも試みられてきたけど、自分の次世代バージョンにコードを貢献できるようなものは聞いたことがないな。

モデルを再トレーニングして基準となる状態を持つことはできるけど、簡単じゃないよね。マイクロソフトの試みは10年前で、今作られているものよりずっと複雑さが少なかった。

このグラフに興味があるかも、AIが自分で動ける時間が増えてきてることを示唆してる。もしかしたら、限界が来るかもしれないけど、それを予測するのは難しそうだね。