なんで両方が真実にならないの？どのLLMシステムから出てくる出力の質も、それを使う人間を通してフィルタリングされるんだよ。LLMが生成した「レポート」を問題管理システムにペーストするバカがいるからって、LLMから良い結果を引き出す方法を知ってる専門家の努力が否定されるわけじゃない。

両方とも真実だよ、違いはLLMを使ってレポートを生成するプログラムを作る人たちのスキルレベルだね。curlのバグバウンティプログラムで見かけるAIのゴミは、そもそもハッカーじゃない人たちから来てることが多い。逆に、著者のような人は明らかにセキュリティリサーチに熟練していて、確実に有効なバグを報告するだろう。同じことは、LLMを使ったエクスプロイト開発を行っている人たちにも言えるよ。アメリカではXbowがかなりのスキルを持った研究者を雇って、かなり期待できる開発をしてたしね。

もし役に立つなら、これを読んだのは（ここに来る前に）Halvar FlakeがTwitterでみんなに読むように言ってたからだよ。

エクスプロイトに関しては、試してみて、うまくいくかどうかだよね。攻撃者は成功したものがなぜうまくいったのかを分析することには特に興味がない。CVEレポートは、可哀想なメンテナーがそれを確認してトリアージしなきゃいけなくて、こっちの方がずっと大変だし、非対称的だよ。報告者は大量にスパムレポートを生成できるけど、各レポートは詳細な分析が必要だからね。

これらのエクスプロイトは、それぞれ50ドルのAPIクレジットがかかってたんだ。バグハンティングで100ドル使って5001件の問題を受け取ったとして、そのうちの一つが50ドルで、他の5000件がそれぞれ1セントだったら、完璧な文法と馴染みのあるサイバーセキュリティ用語を使っても、見た目では区別がつかないから、ダイヤモンドを見つけるのは難しいよね。

両方とも真実になり得るよ。各グループが自分たちの立場を支持するLLMの出力を選択的に提供するからね。要するに、この状況は「無限の猿定理」の一形態として考えられる。結果の範囲が「純粋にランダム」から「統計的に関連性が高い」へと大幅に縮小される感じ。上記の定理についての面白い概要はここを見てね。

LLMは良い出力と悪い出力を生み出す。ポイントは、どれがどれかを見極めることだね。良い出力が簡単に区別できるタスクでは彼らは優れている。例えば、バグのための小さな再現例を作るのにたくさん成功してる。巨大なコードの山から奇妙な挙動Aが出てきて、それを小さな例でどうやって引き起こすかを考えるんだ。多くの場合、うまくいくし、間違った場合はその例がAを実際にはやっていないから簡単に検出できる。無駄なバグ報告を送る人たちは、良い出力をチェックしてないんだよね。

両方とも正しいよ。エクスプロイトは非常に狭い問題で、成功の指標が明確なんだ。一方で、LLMの根強い持続性を自然に補完している。バグレポートは比較するとずっと曖昧で、オープンエンドの目標があって、プロンプターが知らないうちに宿題を手抜きするような感じになる。

確かにそういうこともあるよ（私の経験上）、LLMの使い方によって出力の質に大きな差が出るから。例えば、ブラウザでツールを使わずに「このプログラムの脆弱性を見つけて」とLLMに聞いたら、何かは出てくるけど、ほとんどが幻覚か無関係なものになる可能性が高い。でも、同じLLMモデルをエージェント経由で使って、成功を証明するための具体的なガイダンスと環境を提供すれば、良い結果が得られる可能性が高くなる。Claudeのコードのように、テスト環境を提供しないと、コーディングでミスをしがちで「大丈夫」と言ってくるけど、テストループを提供すれば、実際に動くまで繰り返してくれる。

使っているモデルによるね。OpusのバグレポートとGemma3のバグレポートは同じレベルじゃないよ。