概要
- MetaがAI生成の児童性的虐待素材(CSAM)を含む広告を複数配信
- これらの広告は米国、英国、欧州各国で表示
- Tech Transparency Project(TTP)が50件以上の問題広告を発見
- 広告はMetaの審査を通過し、数千アカウントに到達
- 問題発覚後、Metaは広告を削除し対策強化を発表
MetaプラットフォームにおけるAI生成児童虐待広告の発見
-
Tech Transparency Project(TTP)が Metaの広告ライブラリ で50件以上の AI生成児童性的虐待素材(CSAM) を含む広告を発見
-
広告は Facebook、Instagram、Messenger、Threads などで配信
-
一部広告は nudifyアプリ (服を脱がせる加工アプリ)へのリンクを含む
-
米国、英国、フランス、ドイツなど欧州各国で配信実績
-
広告は Metaの審査を通過 し、表示・配信が許可された事例
- 広告の内容例
- 子どもの画像に「Generation AIで深いファンタジーを実現」などの文言
- サムネイル画像の子どもの顔を性的動画に合成
- 「もっと見せてあげる」などの性的誘導テキスト
- 広告の内容例
-
一部広告は 2,563アカウント以上 に到達
- Metaの広告データベースでは全体のリーチ数は不明
-
TTPは発見後、 National Center for Missing and Exploited Children(NCMEC) のCyberTiplineに即時通報
Metaの対応と今後の課題
-
WIREDの取材後、 Metaは違反広告を削除
-
Meta広報コメント
- 「性的搾取は極めて深刻な問題であり、徹底的に排除する」
- 「多くの広告はリーチが少なく、WIREDから指摘前に既に無効化されていた」
- 「最近導入した新AI技術で違反広告の検出・ブロックを強化」
- 「昨年は3,600万件以上の児童性的搾取コンテンツを削除」
- 「nudifyアプリ開発者への法的措置も継続」
-
Metaの広告審査体制の課題
- AI技術の進化により違反広告の巧妙化
- 審査プロセスの抜本的な見直しと透明性向上の必要性
- 第三者機関との連携強化
-
今後の注目点
- AIによる違反広告検出システムの効果
- 被害拡大防止策の実効性
- プラットフォーム運営企業の社会的責任