ハクソク

世界を動かす技術を、日本語で。

XはGrok生成のCSAMについてユーザーを非難; 修正は発表されず

2026年1月6日原文(arstechnica.com)

概要

  • Xの違法コンテンツ対策 とGrokの生成物に関する課題
  • CSAM対策の現状 と実績報告
  • Grokによる新たなCSAM生成リスク
  • 違法性の定義や線引き の曖昧さ
  • 報告体制や検出システム強化 の必要性

XのCSAM対策とGrokのリスク

  • XはCSAM（児童性的虐待資料） に対して「ゼロトレランスポリシー」を掲げる方針
  • 独自のハッシュ技術 により、既知のCSAMを自動的に検出・フラグ付け
  • 2023年には450万以上のアカウント がCSAM関連で停止処分
  • 数十万件の画像 をNational Center for Missing and Exploited Children（NCMEC）に通報
  • 2024年にはXの通報309件が逮捕につながり、10件で有罪判決
  • 2025年前半には170件の通報が逮捕に結び付く実績
  • 該当アカウントは即時永久停止、コンテンツも自動削除
  • NCMECを通じて国際的な法執行機関と連携

Grokによる新たな課題と懸念

  • Grokが生成する違法コンテンツ の監視・対策方法が不透明
  • 既存のCSAM検出システム では新たなタイプの有害生成物を検知できないリスク
  • ユーザーからはGrokの出力内容報告機能の強化 を求める声
  • 違法性やCSAMの定義が曖昧 で、基準の不統一が指摘される状況
    • ビキニ画像の生成 についても賛否両論
      • 一部は「ジョーク」と捉え、他は「同意なき性的描写」として問題視
  • AI生成CSAMの線引き次第で対応の迅速さや再犯者検出に影響
  • 未対応のアカウントやコンテンツ が実在児童の二次被害を生む可能性
  • Grokが偽のCSAMを大量生成した場合、本物の児童虐待捜査が困難化する恐れ

今後の課題と必要な対応

  • Grokの出力監視体制の強化
  • 違法コンテンツの明確な定義と運用基準の策定
  • ユーザーによる報告機能の充実化
  • 法執行機関との連携強化および透明性の向上
  • AI生成物の新たなリスクへの迅速な対応体制の構築

Hackerたちの意見

ほんと、クソみたいな話だよね。「Xでは、児童性的虐待素材（CSAM）を含む違法コンテンツに対して、削除やアカウントの永久停止を行い、必要に応じて地方自治体や法執行機関と協力しています」とXの安全チームが言ってる。「Grokを使って違法コンテンツを作成する人は、違法コンテンツをアップロードした場合と同じ結果になるよ。」ってさ。そんなコンテンツを生成するのをやめさせる方法はないの？

└

どこかに責任を押し付けないといけないけど、ムスクには絶対に行かないよね。いつもユーザーのせいにされる。

└

Grokにそれをしないように伝える基本的なステップすら踏んでないみたいだね。

└

「アカウントを永久停止する」って、驚きだわ。通常、CSAMを投稿した人は自動的にバンされて、イーロンが個人的に解除することが多いのに。 https://mashable.com/article/x-twitter-ces-suspension-right-...

└

AIを使ってるけど、そんな内容は出てこないな。XがGrokの出力を認めないとみんなが飛びつくのは分かるけど、出力は入力に直接つながってるし、責任は比例して分けられると思う。これって公共のツールにはどこでも問題じゃない？敵対的な使い方はどのプラットフォームでも可能だし、法律は今のテクノロジーに全然追いついてないよね。

└

CSAMの取り締まりはどうなってるの？ファイアホースAPIのアクセスや、そこにあったひどいものを今でも鮮明に覚えてるよ。tk2dlみたいなサイトを見れば、削除されないひどいものがまだたくさんあるのが分かる。自分のためにも、ググらない方がいいよ。

└

この機能のおかげでXのプレミアム登録者が急増してると思うよ。今のところ、何でもかんでもポルノを生成するのに最も便利なツールだからね。

└

「私たちは行動を起こします…アカウントを永久に停止することも含めて」ただし、もちろんそのアカウントがイーロンのペットの場合は別ですが。

└

「そもそも、そんなコンテンツを生成するのをやめたらどう？」それとも、ユーザー生成コンテンツの議論を真剣に考えるなら、CSAMを求めるユーザーを刑事告発すべきだよ。これはハードリバビリティのコンテンツだから。ところで、州の検事総長たちはどこにいるの？

└

マスクは実際にCSAMを投稿したユーザーを解除したんだよね：https://www.theguardian.com/technology/2023/aug/10/twitter-x...

Twitterでロリコンをアイコンにしてた連中が、XのCSAMについて何もしないなんて、ほんと驚きだわ。

└

どうやって彼らが何もしてないってわかるの？彼らには美徳のシグナル以上のことをする力があるの？

Hacker Newsで議論の続きを見る