世界を動かす技術を、日本語で。

DuckDuckGoの創設者:AI監視は禁止されるべきだ

概要

AIチャットボットによるプライバシー侵害は、従来のオンライン追跡よりも深刻化。 チャット形式が個人情報や思考パターンをより詳細に露呈。 AIは説得力が高く、個人に合わせた操作や広告が可能。 プライバシー保護型AIサービスの必要性が急増。 法整備が追いつかず、さらなる監視社会化への懸念。

AIチャットボットとプライバシー侵害の深化

  • 従来のオンライン追跡 と同様のプライバシーリスク、AIによる拡大
  • チャットボット会話 は長文検索クエリに似るが、個人情報の露出度が大幅増
    • 長い入力による個人情報の詳細な提供
    • 相談相手やカウンセラーのように感じる会話形式
  • 検索クエリ は興味や悩みを明かすが、AI会話は思考やコミュニケーションスタイルまで露呈
  • より豊富な個人情報が 商業的・イデオロギー的操作 に活用される可能性
    • 行動ターゲティング広告や政治的誘導
    • SEOやシステムプロンプトによるAIモデルの操作
  • AIチャットボット は人間より説得力が高く、利用者を妄想的思考へ導く事例も発生

パーソナライズと操作の危険性

  • チャットボットの記憶機能 による個別最適化された説得
    • 過去の会話を学習し、個人の“説得トリガー”に合わせた影響
  • 明らかな広告ではなく、 自然な会話や誤情報 による操作
    • 誤った“事実”やさりげない商品推薦
  • Google検索のプライバシー論争 が、より深刻な形でAIチャットにも適用

プライバシー保護型AIサービスの登場と課題

  • DuckDuckGo によるDuck.aiなど、プライバシー重視のAIサービス提供開始
    • 匿名AIアシスト検索や保護されたチャット
  • しかし、 保護されたチャット はまだ標準ではなく、プライバシー事故が多発
    • Grokによる大量の会話漏洩
    • PerplexityのAIエージェントのハッキング脆弱性
    • OpenAIの“スーパーアシスタント”構想:すべての行動・発言の追跡
    • Anthropicによる会話データのデフォルト学習化

法整備と今後の展望

  • 連邦議会による迅速な法整備 の必要性
    • 保護されたチャットの標準化
    • 2025年現在、米国には包括的なオンラインプライバシー法が未整備
    • 憲法レベルでのプライバシー権の必要性
  • AI特化型の連邦法 制定の可能性
    • 州単位のAI法規制を禁じる動きには懸念
  • 毎日悪習が定着し、 AI監視社会化 が進行
    • オンライントラッキングの歴史の繰り返し
    • 今こそAI監視の禁止が必要

DuckDuckGoの立場と今後

  • DuckDuckGo は今後もプライバシー保護型サービスを提供
    • オプションでAIサービスを選択可能
    • 生産性向上とプライバシー保護の両立を目指すユーザー支援

Hackerたちの意見

作者さんがこれを見ていたら…もう一歩踏み込んで、具体的にどんな政策を推奨しますか?ユーザーデータでLLMプロバイダーが学習しないことが大事なポイントみたいだけど、従来のMLモデルを使ってキーワード分析をするのは「AI」なのか「監視」なのか、どうなんだろう?作者さんやこのコミュニティ全体として、AI監視政策についての具体的な提言をする準備はできてると思う。イノベーションを潰さないように、良い規制を実現するために明確にしておくべきだね。

法律は、クラウドでのさらなる処理の前に、各カメラ内の全ての人の顔や体のシルエットをぼかすことを義務付けるだけでシンプルにできるかもしれない。これでCCTV映像のプライバシーが守られる。

TFAから: 「だからこそ、私たち(DuckDuckGo)は、保護されたチャットボットの会話や、プライベート検索エンジンでのオプションとして匿名のAI支援回答を提供し始めました。これによって、プライバシーを尊重するAIサービスが実現可能であることを示しています。」これが良いアイデアかどうかは分からないけど、何が実現可能にしているのか気になる。ここには暗黙の推薦があるように思える。「イノベーションを潰す」というのは、つまり「これらの企業が何か別のことをするためにお金を稼がせる必要があるから、少しでも悪質な方法でお金を稼がせるべきだ」ってこと?それとも、具体的にどんな懸念があるの?何をイノベートする必要があるの?

ありがとう(作者です)。具体的な提言を含むフォローアップの投稿(おそらく複数)を作成中です。

LLMプロバイダーは、公的なデータでのみ学習を許可されるべきで、彼らのモデルや出力は学習データのライセンスの範囲内であるべきだ。人々は自分に関する全てのデータを所有すべきで、全ての権利は留保されるべき。著作権がこの種の悪用から守る法律であるのは皮肉だよね。だからこそ、大手「AI」企業は、モデルの学習が派生作品ではないと主張して、それを弱めようとしているんだ。あるいは、2分でプロンプトを書くことが出力の著作権を持つのに十分な創造的な作業だと主張しているけど、モデルは10^12時間の人間の作業に基づいているのに、数桁のオーダーを無視してる。

問題は、プライバシーのために企業の言葉を信じなきゃいけないことだよね。

AIは大規模な事後的な思想警察を実現可能にする。これってめっちゃ怖いよね。

検索履歴よりも遥かに多いよ。

人々はオンラインに何も投稿したくないって結論に至ると思う。プライベートチャットが存在するならそれは残るけど、すでにアート作品を生成したら、それはGoogleやMetaの株主に寄付するようなもんだからね。思想警察や似たような影響が出る前の話だけど。

大手AI企業がプライバシー保護を推進し続けると思ってる。サム・アルトマンがインタビューで弁護士とクライアントの特権に例えてたけど、プライバシーの欠如から、これらを完全に信頼できるパーソナルアシスタントや知識ベースとして使うのには大きな抵抗がある。唯一の本当の解決策はローカルでモデルを動かすことだけど、それはビジネスモデルに反する。だから、彼らは規制を求めて、権威的にプライバシーを作ろうとするんだ。権威的なプライバシーは、誰かを殺したってセラピストに言うのと同じ問題を抱えてるし、財布の鍵を紙に印刷して安全に保管するのと同じだ。規制や「大きな善」の定義に依存していて、自分ではコントロールできない。

でもそれはビジネスモデルに反する。 ハードウェアを売っているなら別だよ。もし俺がApple、Dell、Lenovoだったら、Hugging Faceをサポートするローカル実行モデルを推進するだろうし、ローカルで推論できるシステムを全力で開発するだろうね。

フィアットのプライバシーは、セラピストに誰かを殺したって言うのと同じ問題を抱えてるし、財布の鍵を紙に印刷して安全に保管するのと同じだね。教会から学ぶことがあると思う。もしLLMの提供者やその従業員がプライバシーを守ることにコミットして、クライアントのために自分たちの富や自由を犠牲にする覚悟があれば、社会は応えてくれるよ。裁判所で、あるCrimeStoppersのコーディネーターが機密情報を持ってることを破棄する動画を見たことがあるんだけど、侮辱罪の脅しの中でそれをやって、軽い処分で済んでた。まともな社会では、原則を守ることがちゃんと機能するんだよね。

Hacker Newsで議論の続きを見る