研究や分析、使用傾向など、LLMを構築・調整する会社にとっては、データ自体がトレーニングセットに直接使われなくても、すごく価値があるんだよね。

ステルスモデル、これはCTFなの？LLMはもっと透明にならなきゃ、逆に減ってはいけない。だから、このアイデア（そしてトレンドかもしれないけど）は気持ち悪いよ。「プロンプトと応答は提供者によって保持され、トレーニングには使用されません…」ってどうやって確認することができるの？トレーニングが行われていても、内部で使われている可能性があるじゃん。

これはトレーニングに使われるってことだと思うけど、実際にはそうじゃないって主張するための複雑な法的議論があるみたい。チャットの事前トレーニングはしないけど、いくつかの変換やRLHF、感情分析はするって感じかな。法的なことは実際にはあまり関係ないと思うし、結局はやるべきことをやってるんじゃないかな。

私の仕事以外のAIコーディングはすべてオープンソースだから、自分のデータを機械に入力するのは全然構わないよ。私にとってはウィンウィンだし：私のコードがトレーニングデータに入って、私のセッションが将来のトレーニングデータに使われるから、私がやる仕事に強くなるんだ。

大したことは起こらないだろうね。

こういうのがあまり重要じゃない低リスクの使い方もあるよ。LLMのすべての使い方が、センシティブなデータや非公開データを含むわけじゃないから。例えば、公開された録音のトランスクリプトを検索して、タグ付けのためのエンティティを抽出したり、章の意味の変化を見つけたりする必要があるんだ。元のコンテンツはすでに公開されてるしね。もし彼らが私のプロンプトで学習したいなら、それは特に問題なく、最小限の労力でできたことだと思う。時には、ステーキが無料な理由を気にしなくてもいいこともあるよ。

「あなたのすべての独自データや機密個人情報をこのモデルにできるだけ早く入力することを強くお勧めします。何が悪くなる可能性があるのでしょうか？このモデルの何が特別なの？」モデルの提供者は匿名じゃないよ。OpenRouterは誰か知ってるし（どういうわけか、いつも通りにやることが許可されてると判断したみたい）。私が見る限り、これを使うのはOpenRouterを通じてどのモデルを使うのと大差ない気がするけど。これってただのメタ批評なのかな？

この会話から約1年半経ったよね。業界は「仕事で使うな、会社がどんなモデルでも大丈夫なら別だけど。それ以外は、まあ、ほとんどの人は気にしてないよ」って落ち着いた感じ。

OpenAIやAnthropicに懐疑的な人たちが、他国のモデルに飛びつくのがなんか面白いよね。よく聞く反論は「他の政府が自分たちのことを知っても気にしない」ってこと。彼らの脅威モデルはプライバシーの問題やデータマイニング、漏洩リスクを考慮してないみたいで、連邦政府が何かしてくる可能性だけを考えてるのかな？

まるでEUやUSのモデルにこういうデータを与える方がバカじゃないみたいに言うね。