世界を動かす技術を、日本語で。

AI生成の児童性的虐待画像を含むMetaのラン広告

2026年8月6日原文(wired.com)

概要

  • MetaがAI生成の児童性的虐待素材(CSAM)を含む広告を複数配信
  • これらの広告は米国、英国、欧州各国で表示
  • Tech Transparency Project(TTP)が50件以上の問題広告を発見
  • 広告はMetaの審査を通過し、数千アカウントに到達
  • 問題発覚後、Metaは広告を削除し対策強化を発表

MetaプラットフォームにおけるAI生成児童虐待広告の発見

  • Tech Transparency Project(TTP)が Metaの広告ライブラリ で50件以上の AI生成児童性的虐待素材(CSAM) を含む広告を発見

  • 広告は Facebook、Instagram、Messenger、Threads などで配信

  • 一部広告は nudifyアプリ (服を脱がせる加工アプリ)へのリンクを含む

  • 米国、英国、フランス、ドイツなど欧州各国で配信実績

  • 広告は Metaの審査を通過 し、表示・配信が許可された事例

    • 広告の内容例
      • 子どもの画像に「Generation AIで深いファンタジーを実現」などの文言
      • サムネイル画像の子どもの顔を性的動画に合成
      • 「もっと見せてあげる」などの性的誘導テキスト
  • 一部広告は 2,563アカウント以上 に到達

    • Metaの広告データベースでは全体のリーチ数は不明
  • TTPは発見後、 National Center for Missing and Exploited Children(NCMEC) のCyberTiplineに即時通報

Metaの対応と今後の課題

  • WIREDの取材後、 Metaは違反広告を削除

  • Meta広報コメント

    • 「性的搾取は極めて深刻な問題であり、徹底的に排除する」
    • 「多くの広告はリーチが少なく、WIREDから指摘前に既に無効化されていた」
    • 「最近導入した新AI技術で違反広告の検出・ブロックを強化」
    • 「昨年は3,600万件以上の児童性的搾取コンテンツを削除」
    • 「nudifyアプリ開発者への法的措置も継続」
  • Metaの広告審査体制の課題

    • AI技術の進化により違反広告の巧妙化
    • 審査プロセスの抜本的な見直しと透明性向上の必要性
    • 第三者機関との連携強化
  • 今後の注目点

    • AIによる違反広告検出システムの効果
    • 被害拡大防止策の実効性
    • プラットフォーム運営企業の社会的責任

Hackerたちの意見

彼らの罰金は単なるビジネスコストで、罰金が痛手にならない限り、やり方は変わらないんだよね。

ほんとにその通り。10億人のユーザーがいると、数億人失っても全然影響ないからね。政府を巻き込んで規制するしかないし、彼らの利益に本当に響くような巨額の罰金を叩き続けるしかない。多くの人にとって、こういう政府の規制は望ましくないけど、どのタイミングで誰かが手を打たないといけないんだろう?

その通りだね。問題を解決するコストが、その問題が社会に与えている実際の害よりも大きいなら、直さなくていいと思う。罰金の額もそれに合わせて設定すればいいんじゃないかな。ただ、実際にそういう罰金を設定するかは疑問だけどね。この問題は、 reputational damage のせいで罰金がなくても解決されるかもしれないけど、一般論として話してるよ。

だから年齢確認、つまりID確認を推進してるってわけ?

年齢確認は、ID確認とは違うよ。Metaは両方にロビー活動をしてるかもしれないけど、特定の(たいていはあまり良くない)年齢確認の形を推進して、 - 人をよりよく監視できるように - 新しい代替手段が高いハードルや初期投資を必要とするように法律を設計して、結局どこにも行けなくなるんだ。

Metaは年齢確認を推進してるのは、オープンウェブに対する彼らの制度的な防壁を提供するためだよ。

こういうことを大企業に報告して、実際に行動を起こしてもらうまでにどれだけ時間がかかるか、ほんとにびっくりだよ。10年前にGiphyの広告を同じ理由で報告したけど、行動を起こすまでに数ヶ月かかったのを覚えてる。

Metaは全然気にしなくていいんだよ、だって彼らは巨大企業だから。小さなプロバイダーは必死にならざるを得ない、だって一度の失敗で壊滅的な打撃を受けるから。

ちょっと興味本位で、Facebookでこういう実験をしてみたんだ。結果はこんな感じ:

  • メッセージを報告しても、利用規約に違反してる内容でも何も起こらない。報告したメッセージは、数分で「アクションなし」で返ってきた。
  • でも、最初の「アクションなし」の返事の後に使える「再審査をリクエスト」機能は、実際に効果があるみたい。これがどれくらい早く効果が出るかはバラバラで、1日から数週間かかることもあったよ。

彼らの顧客は広告主であって、私たちじゃないって考えると、別におかしくないよ。顧客を満足させて、もっと広告を買ってもらいたいんだから。

ステップ1: 「問題に対処する」ためのプロセスとビジネスユニットを設立する。ステップ2: ニュースサイクルから外れるのを待つ。ステップ3: 自分たちを批判した政治家の反対派にロビー活動を通じて多額の寄付をする。ステップ4: 問題に「一生懸命取り組んでいるチームがいる」と言うのに嘘にならない程度までユニットの資金を削減する。例えば、発展途上国の人たちに月1ドルで雇うとか。

これって、地元の新聞の方がマシなんじゃないかって思い始めてる。編集者が全コンテンツを監視してるし…

Hacker Newsで議論の続きを見る