ハクソク

世界を動かす技術を、日本語で。

警察がAI顔認識を使用し、ノースダコタ州の犯罪でテネシー州の女性を誤って逮捕

57日前原文(cnn.com)

概要

  • テネシー州の祖母Angela LippsがAI顔認識誤認で5か月以上拘束
  • Fargo警察が他州のAIシステム情報を誤用し、操作ミスを認める
  • AI技術の導入急増と誤認逮捕のリスクが浮き彫りに
  • Lippsは無実を証明し釈放、警察は今後の運用改善を約束
  • 類似事例やAI運用の課題、専門家の指摘も紹介

テネシー州の祖母がAI顔認識誤認で誤逮捕

  • Angela Lipps（50歳） がノースダコタ州の犯罪容疑でテネシー州にて逮捕、5か月以上拘束
  • Fargo警察が AI顔認識ツール を利用し、Lippsを犯罪の容疑者と誤認
  • Fargoから1,600km以上離れた自宅で突然の逮捕
  • Fargo警察は「いくつかの誤り」を認め、運用改善を約束
  • 直接の謝罪は行わず、今後の対応に言及

AI顔認識技術と捜査の経緯

  • West Fargo警察がClearview AIの顔認識システムを導入
  • Clearview AIはインターネットから収集した 数十億枚の写真 をデータベース化
  • West Fargo警察がLippsに類似した容疑者を特定し、Fargo警察に情報共有
  • West Fargo側は証拠不十分で起訴せず
  • Fargo警察はAIの結果と他の調査結果をもとに起訴状提出

拘束から釈放までの経緯

  • 2023年7月1日、ノースダコタ州の裁判官が全国的な身柄引渡し令状を発行
  • 7月14日、テネシー州で逮捕、3か月以上現地の拘置所で拘束
  • 10月、ノースダコタ州当局がLippsの身柄引渡しを確認
  • Lippsは複数の重罪容疑で起訴されるも、弁護人が無実を証明する銀行記録を提出
  • 12月23日、証拠不十分で起訴取り下げ、12月24日に釈放

AI誤認による被害と警察の対応

  • Lippsは「恐怖と屈辱、疲労」をGoFundMeで告白
  • 拘束中の精神的・社会的ダメージが深刻
  • 弁護団は「基本的な捜査不足」や「AIへの過度な依存」を批判
  • Fargo警察は今後、他機関のAI情報利用を禁止し、操作手順を見直し
  • 顔認識の利用は毎月監督者が精査する体制に変更

AI導入のリスクと社会的な議論

  • AI顔認識による誤認逮捕は全米で複数発生
  • 例：Baltimore CountyでAIが生徒の空袋を銃と誤認し、警察が生徒を拘束
  • South Carolina大学のIan Adams准教授は「AI導入は急速で、効果検証が不十分」と指摘
  • 多くの誤認は「技術と人間の運用ミスの複合」と解説
  • AIの結果を盲信せず、捜査官による慎重な確認の重要性を強調

今後の課題と展望

  • Fargo警察はAI利用の監督強化や、他機関との連携体制の見直しを実施
  • 州・連邦レベルの情報センター活用による精度向上を目指す
  • Lippsの弁護団は民事訴訟の可能性を検討中
  • AI技術の普及に伴う プライバシー保護 と 捜査適正化 の両立が課題
  • 今後もAIと捜査現場の適切なバランスが社会的な議論の焦点

Hackerたちの意見

AIは問題が起きるのを待っている負債のようなものだよね。これもその一例だ。

└

これは道具なんだ。使い方を間違えるとエラーが起きる。ハンマーみたいに、使い方を間違えれば指を叩いちゃうこともあるしね。

└

逆だよ、責任からの免除だ。「AIがやった」ってのは、責任や結果を受け入れないための究極の言い訳だ。

以前の議論（405件のコメント）： https://news.ycombinator.com/item?id=47356968

記事に引用されていた誰かの名言：「それは技術の問題だけじゃなく、技術と人の問題なんだ。」もう無理、ほんと無理。

└

最近「それはただの…じゃなくて、これは…だ」とか言われるのをよく聞くけど、個人的にはこれがAIのサインだと思うんだ。人間の思考のショートカットを示していて、AIがそれを真似してるからね。でも、もしAIがこの記事を書いて、その特定の名言を妄想したら面白いよね。

AIの部分を見なくても、ひとつだけ質問があるんだ：誰か調査したの？それだけ。AIが彼女をフラグしたのか、目撃者がいたのか、彼女のIPアドレスがログに出てきたのか。誰か「7月10日の午後3時から4時の間、どこにいたの？」って聞いた人いる？でも実際は、データを見て「捕まえた」って言っただけなんだよね。で、物語の最悪な部分は、> 彼女の苦境の後、彼女はその州に戻るつもりはないと言ったことだ。「終わってホッとしてる」とWDAYに語った。「ノースダコタには二度と戻らない。」これが教訓？ノースダコタには戻らないこと？いや、システム全体に挑戦しなきゃ。数年前は万引きの疑いをかけられた子供がいたし[0]、その後は家族が泣いている中で引きずられた男性もいた[1]。私たちが反撃しない限り、私たちは全員、無罪が証明されるまで有罪なんだ。[0]: https://www.theregister.com/2021/05/29/apple_sis_lawsuit/ [1]: https://news.ycombinator.com/item?id=23628394

└

重要なポイントをいくつか見逃してると思うよ。「トラウマ、自由の喪失、 reputational damage（名誉の損失）は簡単には修復できない」とLippsの弁護士がCNNにメールで言ってる。これは損害賠償を訴える前の声明みたいに聞こえるし、「彼女の弁護士たちは市民権の請求を検討しているが、まだ訴訟は起こしていない」とも言ってる。彼女は普通の生活に戻りたいだけで、彼女を地獄に追いやったことに対してお金が欲しいんじゃないかな。彼女は今まで飛行機に乗ったことがないから、あなたが言うようにシステム全体に立ち向かうとは思えない。システム全体に「挑戦する」って言うのは簡単だけど、具体的にはどういう意味なの？

これはAIについての弱い、もしくは誤解を招く話だね。まず、探偵はFaceSketchIDシステムを使ったんだけど、これは2014年頃からあるものなんだ。新しいものでも、現代のAIに特有のものでもない。次に、そのシステムは可能性のある一致を提案するだけなんだ。実際に調査を進めて起訴するかどうかを決めるのは探偵次第だし、令状を出すのは裁判所の仕事。彼女が4ヶ月も拘留されていた理由が本当に知りたい。それが理解できない。私の理解では、30日以内に被告を引き渡さなきゃいけないっていう制限があるはずなんだ。関係者のアンジェラ・リップスは以前に逮捕されたことがあるらしいから、保護観察中だった可能性もある。だから、もしかしたらそのせいで拘留されてたのかな？そのプロセスがどうなってるのか、誰か教えてくれない？

└

アメリカでは、権力を持つ人が手続きや法律、規則を守らなくても何の結果もないんだよね。違法なことをやめるように言われるだけで、最終的に訴えられる可能性があるけど、それも税金で払われることになるし。

└

リンクを見つけられたらいいんだけど、彼女は「AI」が彼女をフラグしたこととは無関係に、保護観察違反で刑務所にいたと思う。

└

さらなる調査を行い、起訴するかどうかを決めるのは探偵次第だ。そして、令状を発行するのは裁判所の役割だ。これが正しい流れだけど、AIリスクの文脈でこれらの失敗を議論することは重要だと思う。AIの最大の現実的な危険の一つは、しばしば自信を持って間違っていることで、これは人間の要因に関してはひどい状況だ。多くの人は、認識された自信がそのまま扁桃体を突き抜けて、無条件に信頼する傾向があるんだよね。

これ、また「The Sort」が動いてる感じだね。IQ100未満のアメリカ人の50%も仕事が必要なんだよね。AIが高知能の仕事から人を追い出してるから、警察官や小売の薬剤師みたいな仕事に賢い人たちが大量に入ってくるかもしれない。今のところ、彼らはテキストを読むのも指示に従うのもやっとだし、実際、ほとんどの人は機能的に読み書きができない状態で、プログラムを通過させるために罰せられるシステムに頼ってる。平均的な警察官は、平均的な事件報告書に頭を悩ませることになるよ。「偽陽性」って言葉を説明するのは、マウスに微積分を教えるようなもんだね。

└

警察官に学士号を求めるのは結構一般的じゃなかった？それとも準学士号？最近は緩和されてきたけど、絶対に必要だった場所に住んでたこともあるから、あなたが言うほど彼らがバカだとは思わないよ。

彼らが使った業者、Clearview AIは、法律でデータ削除を義務付けている州に住んでいない限り、データ削除のリクエストを受け付けてくれないんだ。https://www.clearview.ai/privacy-and-requests 突然、ニューヨークのS1422生体情報プライバシー法に非常に興味を持つようになったよ。

└

残念ながら、今のところこれが唯一の手段なんだよね。削除リクエストをひたすら送り続けるしかない。削除されても、結局またデータベースに戻ってきちゃうからさ。

これ、HNで少なくとも2回は投稿されてるよ。

この分野では本当にバカなことが多いよね。もし賢い警官が一人でもいれば、こんなことは防げたはず。2023年の例を一つ紹介するね。 https://youtu.be/lPUBXN2Fd_E