ファイト・クラブの雰囲気を感じる。

サイバーセキュリティの雇用にとっては、確かに良いニュースだね！

イノベーションしなければ、誰か他の人がやる。これが人間であることの本質だよ。危険や挑戦に関わらず、私たちは山を登るんだから。

アラインメントや他の倫理基準を促進する必要がある。測定しないものは変えられないからね。頭の中には何も浮かばないけど。

サイバーセキュリティみたいなテーマでは、見ないことで勝つことは絶対にないよね。システムを守るためには、壊す方法をしっかり理解しておく必要がある。人間の専門家と向き合うときにこのジレンマがあるんだ。暗号化を更新する必要があるって教えてくれる政府の支援を受けた組織が、その情報を保持して、自分たちの都合で利用する可能性もあるからね。私たちと一致しない人たち（私たちの定義に関わらず）がAI研究を行うのを止めるのは絶対に不可能だから、最も合理的な進め方は、最前線にコンピュータリソースを割り当てて、主要なプロジェクトに合理的な開示を自動的に送ることだと思う。それ自体がかなり合理的な製品になるかもしれない。疑わしいセキュリティスキャンにお金を払って、その結果を公表するのと同じように、LLM企業が実際に高額なセキュリティレビューを提供して、プレビュー用のモデルを使って、それに応じて料金を取ることもできるよね。

サイバーセキュリティに関しては、プラトーはあり得ないと思う。RLはここでうまくスケールするし、Anthropicの外でも再現可能だからね（報酬が検証可能だから、トレーニング環境を設定するのにそれほど頭を使わなくて済む）。この投稿でも、モデルがサイバーセキュリティ専用にトレーニングされていなかったことが指摘されていて、それは副次的な結果に過ぎなかったから、まだまだ余地があると思う。怖いけど、慎重な楽観主義の余地もあるよね。今は、以前よりも多くの人が攻撃で数十億ドルの損害を引き起こせるけど、同じツールを防御的に使うこともできるから。そのため、セキュリティの緩和策については、バイオセキュリティのような他のリスク領域よりも楽観的なんだ。

まずは、ダイソンスウォームが捕らえた太陽のエネルギー出力があるね。それまでは順調に進む感じ。

Mythos Previewが、プロダクションのメモリ安全なVMMにメモリ破損の脆弱性を特定しました。この脆弱性はまだ修正されていないので、プロジェクト名も詳細も話しません。おはようございます。 > ここで何か変わったことはあるの？あんまり注目してないけど、数年前にはKASLRはLPEを防ぐためには基本的に役に立たないと考えられてたよ。いいえ。今も変わってないよ。ボーナスポイントとして、常に無料のKASLRリーク（プリフェッチサイドチャネル）があるけど、これって…なんて言えばいいのか分からない。投稿の段落をランダムに読んでみたけど、何これ？って感じ。

脆弱性の大半は、新しくコミットされたコードの中にあるんだ。これは何度も証明されてきたことだよね。マーケティングの観点から見ると、Anthropicは人間の時間やコストが効率的でも効果的でもないところで脆弱性を見つけるために「計算」を指向できることを示している。プロジェクトグラスウィングは、できるだけ多くの古い脆弱性を今解消しようとしているから、簡単に手に入るものはすでに取られちゃった。次世代のMythosや現実世界の脆弱性の悪用は、新しくコミットされたコードにあると思う。

ここには消化すべき情報がたくさんあるね。いくつかのページに分けると、もうちょっと読みやすくなるかも。システムカード自体は200ページくらいあるし。

いや、ここでの大きな問題は、悪意のある行為者でも、維持されているかどうかに関わらず、広く使われているソフトウェアの脆弱性を見つけやすくなったことだよ。維持されていないリモートアクセス可能なデバイスは、できるだけ早く廃棄すべきだ。善良な人たちがあなたのニッチだけど重要な未維持のソフトウェアに時間を割くのを待っているわけにはいかないからね。もしそれを利用する可能性があれば、必ずチェックされて悪用されるから。彼らが持っている脆弱性が善良な人たちにその穴を閉じるための追加の（法的にリスクのある）作業をさせるとは限らないから、そこは注意が必要だよ。

いや、そうでもないかも… サイモン・ウィリソンが報告してる『curl』のバグレポートのことを見てみて。AIに対して「クソみたいなものを出さないで！」から「おお、実際にたくさんのバグが見つかった、しかも[編集: 少なくとも一つ]は二人が見つけたバグだ！」って変わっていくのが面白いよね。