ハクソク

世界を動かす技術を、日本語で。

中国の官僚によるChatGPTの利用が脅迫工作を明らかにした

2026年2月28日原文(cnn.com)

概要

  • OpenAI が中国の影響工作を明らかにしたレポートを発表
  • 中国公安関係者が ChatGPT を日記として利用し、秘密活動を記録
  • 偽の米国移民当局者になりすまし、中国人反体制派を威嚇
  • 数百人規模の中国オペレーターと数千の偽アカウントが関与
  • 米中間のAI競争が激化する中での事例

中国の影響工作とChatGPTの利用

  • OpenAI のレポートにより、中国の大規模な影響工作が発覚
  • 中国公安関係者が ChatGPT を秘密活動の記録用日記として使用
  • 反体制派中国人を威嚇するため、 米国移民当局者を装った偽メール 送信
  • 米国の中国人反体制活動家に対し、「発言が法律違反」と虚偽の警告
  • 米国地方裁判所の偽造書類 を使い、反体制派のSNSアカウント削除を画策
  • 数百人規模の中国オペレーターと、 数千の偽SNSアカウント による工作活動
  • ChatGPTはネットワーク管理の「日記」として利用され、 他ツールで生成されたコンテンツ がSNSやウェブサイトで拡散
  • OpenAIは活動発覚後、 該当ユーザーを利用禁止措置

影響工作の具体例

  • 中国反体制派の死亡を偽装するため、 偽の死亡記事や墓石写真 を作成・拡散
    • 2023年に実際に偽の死亡情報が中国語メディアで拡散
  • 日本の高市早苗首相を貶めるため、 複数段階の中傷計画 をChatGPTに依頼
    • ChatGPTは応答を拒否
    • 高市首相就任時、 日本のグラフィックアーティスト向けフォーラム で中傷ハッシュタグや米国関税への不満が拡散

米中AI競争と国際的影響

  • 米中AI覇権争い の中で、AI技術の軍事・経済利用が重要課題
  • 米国防総省とAI企業Anthropic間でも、 AIモデルの安全策解除を巡る対立
    • 国防長官がAnthropicに対し、要求不履行の場合は契約解除を警告
  • 元国防総省関係者のMichael Horowitzによると、 中国はAIを情報操作に積極活用
    • AI競争は最先端技術だけでなく、 日常的な監視・情報操作体制の運用 にも及ぶ

Hackerたちの意見

最近上海に行ったんだけど、AIチャットボットを試してみたら「台湾の状況についてどう思う？」って入力したんだ。そしたら、西洋のボットみたいに「複雑だね、などなど」と話し始めて、5秒くらいで急に止まって、共産党が使うのと同じセリフを吐き出したんだ。「…それは中国の不可分の一部です、などなど」ってね。その後、ポップアップが開いてカメラが起動した。アプリが情報を提出させようとしてきたんだけど、次回中国に入るときにどうするか決めるためだと思う。1) どんなに明るい光や現代的な建物があっても、中国が creepy な権威主義国家であることは隠せない。2) ボットが最初に西洋のコンセンサスを出したことを考えると、10ドル賭けてもいいけど、ChatGPTやGeminiを元に訓練されたんじゃないかな。

└

セリフを吐き出した後、ポップアップが開いてカメラが起動した。アプリが情報を提出させようとしてきたんだけど、次回中国に入るときにどうするか決めるためだと思う。これはあなたの個人デバイスでのことだったの？カメラがどうやって起動したのか気になるな。もっと詳しく聞きたい！

└

もしこれが本当なら、チャットボットは「台湾」という言葉が反応を引き起こすべきだとすぐに認識しなかったのはなぜ？「台湾」を検出するのは、私たちが生まれる前から可能だったよ。中国はアメリカよりも言論に対する制限が多いけど、君が説明していることは現実じゃない。西洋の誰かがDeepseekに台湾について聞くのは全然面白くないよ。政府はVPNの使用で人を追い回したりしないし、中国は自分たちが権威主義国家であることを隠そうとはしていない。隠す必要もないしね。中国の人たちは、西洋の人たちが自分たちの政府に対して感じるのと同じくらい、政府に対して不満を持っていない。政府は文化を反映するからね。それに外国人に関して言えば、私たちの中国に対する見方は実際よりもずっと悪い。中国は何も隠す必要がなくて、中国を訪れる人は訪れない人よりも国に対してポジティブな見方を持つことが多いんだ。

└

ハッカーニュースのフィクション、めっちゃ好き！面白いよね、ハハ。

└

このリスクは過大評価されてるよ。万里の長城から中国について悪口言ってたし。

└

みんな拍手して、アルバート・アインシュタインから新札の10ドル札もらったの？それを使って、言ってた賭けをしなよ！(前半は明らかに本当だけど、後半は違うよね)

└

どのAIチャットボット使ってるか教えてくれる？俺が知ってる限り、中国のチャットは全部ブロックされてて、アプリがカメラを起動して情報を聞くことはないよ。

└

どのチャットボット？

わあ、私たちの監視が彼らの監視を打ち倒したってこと？やったね、って感じ？

└

「我々の素晴らしい監視 vs 彼らの野蛮な監視」（冗談だよ、ほとんどね。アメリカも純粋ではないけど、監視の侵入の規模は中国に比べたら軽いよね）

OpenAIがアカウントのチャットを人間がレビューするトリガー条件って具体的に何なんだろう。

└

彼らはバックグラウンドでどんな会話でも促して「この会話はセンシティブですか？」って聞けると思うし、そのモデルは会話の文脈に追加されることなく答えられるんじゃないかな。

Hacker Newsで議論の続きを見る