ハクソク

世界を動かす技術を、日本語で。

AIはオープンソースを破壊しているが、まだ良くはない

98日前原文(jeffgeerling.com)

概要

  • AIの誤情報 がオープンソース界隈で問題化
  • AIエージェント による迷惑行為や品質低下の事例
  • GitHub など主要プラットフォームで機能制限の動き
  • AIバブル のリスクと過去のブームとの類似性
  • 人間によるレビュー の重要性と限界

AIによる誤情報とオープンソースへの影響

  • Ars Technicaが AIによる誤引用 を理由に記事を撤回
  • Open source library maintainerの Scott Shambaugh がAI botにより嫌がらせ被害
  • 問題のAIエージェントは OpenClaw を利用したローカルAIの可能性
  • OpenClaw 開発者が OpenAI に採用され、エージェント技術の普及推進
  • AI技術の普及に対する 懸念と警戒感

オープンソース開発とAIの摩擦

  • curlの Daniel Stenberg がバグ報奨金制度を中止
    • AI生成による低品質なバグ報告の増加
    • 有用な報告の割合が 15%から5%に減少
  • AIユーザーの 権利意識の高まり と非協力的な態度
  • コミュニティへの貢献 ではなく、報奨金目的のAI利用
  • 自身が管理する 300以上のプロジェクト でもAIによる質の低いPRが増加
  • GitHub がPull Request機能の無効化を追加
    • Pull RequestはGitHub普及の原動力
    • 今後さらに多くのリポジトリで制限される懸念

AIコード生成の現状と限界

  • AIによるコード生成は 一定レベルで頭打ち
  • 人間のレビュー資源 は有限
  • AIによるコードレビュー提案も解決策にならない
  • 個人用途ならAIコード利用も可
    • ただし 本番環境や重要アプリ では未レビューAIコードは危険
  • OpenClawの普及やOpenAIの動きで状況悪化の懸念

AIブームと過去のバブルとの比較

  • CryptoやNFTブーム との共通点
  • LLMや機械学習には有用性もあるが、 詐欺や乱用 の温床
  • AI需要による RAM・HDD不足 など副次的影響
    • Western Digitalが2026年分の在庫完売を発表
  • AIバブル を否定する声もあるが、過去のバブル崩壊と同様の兆候
  • AI企業がどこまで破壊的影響を与えるかが懸念点

AI活用の現実的な姿勢

  • ブログ移行作業に ローカルAIモデル を活用
  • 有用性を認めつつも 人力によるテスト・レビュー を徹底
  • 他者に提出する場合は 更なる厳格なチェック が必要

Hackerたちの意見

低品質なコンテンツでインターネットを壊してるんじゃない？コンテンツ制作全体にも影響が出てるし。LLMはまだオープンなインターネットのデータをトレーニングに使えるのかな？

└

AIがインターネットを壊してるっていうのには異論があるな。短い注意力で利益重視の文化は、もともと良いものを台無しにする方向に進んでたし、AIはその加速剤に過ぎないと思う。

└

じゃあ、代わりは何？2010年代の百科事典を読み返すべきなの？情報の必要性は減ってないのに、質の低いものが急に増えたからって、どうにかなるわけじゃないよね。

└

コンテンツプラットフォームの経済学がすでにインターネットを壊し始めてる。インターネットが長い間良かった理由の一つは、クリエイターたちが良いコンテンツが勝つと信じていたからだけど、それは間違いだったんだ。

└

低品質である必要はないよ。本当に他のツールと同じようなものだから。手を抜いても結果は出るし、その結果がすぐに出荷されるから、全体のプロセスが悪く見えるんだ。生成されたソースは、職人技や品質が欠けてるからね。でも、これがAIを軽視させる原因になってるのはおかしい。目標を持って繰り返し改善すれば、質の高い、しっかり作られたソースコードも手に入るよ。

コードレビューも大きなボトルネックだった。著者が自分のコードをレビューしないから、未テストのコードが増えて、オープンソースのメンテナーにさらに負担がかかるよ。サイドプロジェクトとオープンソースプロジェクトではコードの質が違うからね。良いコードの質を確保することが、長期的なメンテナンスを可能にするんだ。

└

それがペアプログラミングの出番だったけど、どうやらほとんどの人が互いを嫌いすぎて、機械と一緒に作業する方がマシだと思ってるみたい。これにはいろんなレベルがあるのは分かるけど、全然皮肉じゃないよ。

見た感じ、モデルはコード生成がかなり良くなったところで停滞してる… > でも、ここ数年のようには改善してないよね。何と比べて？ここ数ヶ月？AIの進歩が私たちの心を壊して、時間の概念を信じられなくさせたの？

└

変なコメントだね。Opus 4.5は前よりもかなり良くなってるし、Opus 4.6はさらに良いよ。5.2や5.3のCodexモデルも同じ。むしろ、進化のスピードが上がってる気がする。これに注目しておくべきかもしれないグラフがあるよ：https://metr.org/。俺の経験ともよく合ってる。2024年には業界が少し壁にぶつかった感じがするけど、その後の2025年にはトレンドラインを大きく上回ってるね。

└

こういう主張は反LLMのコンテンツでよく見るけど、俺も同じように困惑してる。今の進歩のスピードはすごく早いと感じるよ。これを過小評価したり無視したりしたい気持ちもあるみたいで、反対派が「ほら、言った通りだ」って瞬間を待ってる感じがする。でも、その瞬間のゴールポストは新しいリリースごとに動き続けてる。これが文化戦争になってしまって、どちらかの側を選んで、選んだ側に合わない証拠を見ないようにするのは悲しいね。バイブコーディングのマキシマリストもこの戦争の反対側で同じことをしてるけど、どちらの側も飽きてきてる。

└

いや、今の状況を1年前と比べて、さらに2年前と比べて、また3年前とも比べたら、効果が横ばいになってるって感じない？2024年の中頃に開発したプロジェクトがいくつかあるんだけど、AIがかなり良くなりそうだったのに、実際にはまだ製品化には足りないって思ってる。もう2年近く経つのに、リリースできるアプリケーションにはならないんだよね。

└

面白いのは、その「横ばい」のリンクが2025年9月のもので、オーパス4.5の2ヶ月前ってこと。うん、これは横ばいじゃないよね。

お互いに話が噛み合ってない気がする。1. 趣味でコードを書くのはいつもやってる。手で書くのはほとんどやめて、今はほとんどの作業をLLMに頼ってる。誰もそれに反対してないと思うよ。前はユーザーゼロだったけど、今もゼロのまま。それで全然問題ない。2. 実際に使ってるフリーでオープンソースのプロジェクトもある。時々、もっと良くできると思うような小さな問題を見つけるけど、どこから手をつければいいのか全然わからないことが多い。たいていはそれが欠陥かどうかもわからないし、もしかしたら意図的かもしれない。最善を尽くして連絡を取るしかないけど、ここで摩擦が始まるんだよね。誰も最初の試みで完璧なコードを書けるわけじゃないけど、メンテナーは新しい人に優しいことが多い。だって、もしかしたらその新しい人が将来メンテナーになるかもしれないから。「誰もが偉大なアーティストになれるわけじゃないけど、偉大なアーティストはどこからでも生まれる。」LLMはそれを変えちゃった。新しい人たちは、レミーよりもリンギーニみたいな感じ。あなたが書いたことを読まずに、ただテキストボックスに入れて次のトークン予測をするだけの人を指導する意味って何？ディズニー・ピクサーの『レミーのおいしいレストラン』の例えを続けると、私たちが必要としているのは、物事の仕組みを学びたいと思って、細部に気を使う熱心な貢献者、つまりレミーみたいな人なんだ。ほとんどの人はそうじゃない。毎日いろんなことが起こってて、すべてについて深く掘り下げるのは不可能だよね。戦うべき戦いを選ばなきゃ。何を言おうとしてたか忘れちゃったけど、要するに、私みたいに自分のことをやってるなら、LLMは素晴らしい。でも、みんなに共感を持って、他の人のキッチンに自分の汚いものを広げないでほしい。もしLLMじゃなかったら、メンテナーに確認せずにプルリクエストを開くなんてしないよね？

└

本当の問題は、OSSプロジェクトには手動で全てのPRをレビューする人が足りないってことだよね。初期のPRレビューのためにエージェントを配置することに同意しても、それはコストがかかるし、ほとんどのOSSプロジェクトにはそのお金がないんだ。

インターネットは楽しい場所だったのに…広告だらけになって台無しになった。ソーシャルメディアがそれを壊した。AIはクリエイティビティや人間のコラボレーションを殺してる。あの頑固な問題をデバッグしたり、また別の3Dエンジンを実装したりしながら、ピザとコーヒーを楽しむ長い夜が、今はすごく退屈になっちゃった。

└

AIは創造性と人間の協力を奪っている。あの頑固な問題をデバッグしたり、また別の3Dエンジンを実装したりするために、ピザとコーヒーを片手に過ごした長い夜…今やそれはすごく退屈になってしまった。多剤併用療法がハンセン病コロニーでの連帯感や共通の苦労を奪ったとも言えるかもしれないね。

└

趣味の3Dエンジンをデバッグするのは、好きなようにやっていいよ。5年前にできたことは今でもできるし、LLMコーディングを楽しんでる人たちもたくさんいる。SNSで楽しんでる人たちもいるしね。彼らが楽しんでるからって、あなたの楽しみが減るわけじゃないよ。みんなが楽しむことを許そうよ。あなたはあなたのことをやればいいし、彼らは彼らのことをやればいい。インターネットは広いし、みんなが自分の楽しみを見つける余地があるんだから。誰かが違うやり方をしてるからって、自分の楽しみを楽しめないのはあなたの問題だよ。

└

僕みたいな年寄りは、AOLが登場するまではインターネットは楽しい場所だったって言うかもね。個人的には、AIと向き合っていくしかないと思うよ、好き嫌いに関わらず。

└

ウェブ上の最初のバナー広告は1994年だった。商業的なウェブは常に広告で支えられてきたんだ。そう、Usenetについては知ってるよ。1992年に使ってたから。

今週末、Microsoftの新しいGolang版sqlcmdで問題を見つけたんだ。Claudeのコードを実行して、問題を修正したけど、エージェントのものがなかったらやってなかったと思う。その修正はプロジェクトに戻したよ。誰が貢献しているか、意図、その他のニュアンスが重要だと思うけど、結局はエコシステムにとってプラスだと言えるかな。

└

問題は、誰が貢献しているか、意図、その他のニュアンスを判断するのに人間の時間と労力がかかることだと思う。そして、ある時点で貢献の数が多すぎて整理できなくなるんだ。

└

それがポジティブなケースだと思うけど、人間であるあなたが修正の責任を持つべきだよね。AIが手助けしたかどうかは関係ない。ネガティブなケースは、自由に動き回るOpenClawのスロップキャノンで、悪意があるかもしれないってこと。

└

PRに本当に興味があるんだけど、もしよかったらリンクを教えてくれる？

└

それを直したって本当に確信してるの？新しいバグを20個も作らずに？読者にとっては、あなたがそのバグを理解していなかったってことになるから、どうやって正しくやったって確信できるの？

問題はオープンソースじゃなくてPRプロセスにあると思う。記事から引用すると、> 「状況が悪化しすぎて、GitHubはプルリクエストを完全に無効にする機能を追加した。」プルリクエストはGitHubが人気になった根本的な要素なのに、今ではその機能がどんどん多くのリポジトリで閉じられていくのを目にすることになる。これに対する解決策は持ってないけど、AIがオープンソースを壊しているという前提の欠陥を指摘しているんだ。

└

解決策はフォークだよ。フォークを作って、自分の好きなように更新すればいい。もし後でしっかりしたものだとわかれば、研究されてまたフォークされるかもしれないし。

AIのコードレビューは役に立つこともあるけど、僕はいつもそれが生成したコードをレビューしてるし、詳細なタスクを意図的に指示してる。> でも、レビューされていないAIコードでお金を生むアプリや、壊れたら危害を及ぼす可能性のあるアプリを運用することはないよ。誰もレビューされていないコードを通しているとは思いたくない。AIは間違いを犯すし、_必ず_間違えるからね。最近では、> 90%のコードタスクはAIが処理してるけど、僕はまだレビューして、自分がやりたかったことを実現するように導いているよ。

成果や進展、潜在的な利益がなければ、LLM以降のAIの話は、複数のレベルで洗練されたDDoS攻撃に見える。AIボットがサーバーを文字通りDDoS攻撃してるんだよね。採用が進むことで、物理的なリソースやコンピュータリソースがほとんどの人にとってアクセスできなくなったり、高くなったりしてる。最も大きな問題は人間のコストだよ。突然、質の低いAIコンテンツやコード、画像、動画に圧倒されてる感じ。AIが成熟すれば、ボリュームを扱うのがもっと楽になって、良いツールができるかもしれないけど、今は善意のある人たちがやっても悪意のある行動から来てるように感じる。AIには確かに役立つところがあるし、これからも存在し続けるけど、ネットの利益になるところに達するまでみんな苦労しなきゃいけないと思う。投資してる人たちのハイプは全然役に立ってないけどね。

└

AIは生産性を装った受動的消費だよ。人間が何かをしなきゃいけない場所は、製品のバグだね。もちろん、実際に物を作りたい人たちにはダメージがあるよ。

「作家が幻覚の引用を使った」じゃなくて、捏造された引用だよ。今起こってることに対して、ちゃんとした正しい言葉があるんだから。