概要
- Axon Enterprise のDraft Oneは、警察のボディカメラ音声からAIが報告書を自動生成する製品
- 監査や透明性 を意図的に回避する設計が判明
- AIと人間がどの部分を書いたか 特定不可能
- 記録や履歴保存がほぼ存在せず、検証や責任追及が困難
- 監査機能が極めて限定的 で、利用状況の把握も困難
Draft Oneの透明性と監査回避設計
- Draft Oneは、 警察官のボディカメラ音声 からAIが報告書を自動生成する製品
- EFFの調査で、 監査や説明責任を回避する設計 であることが判明
- 公開記録やマニュアルの調査でも、 AI生成部分と警察官記述部分の判別が不可能
- AI生成文には 角括弧のプレースホルダー があり、警察官が追加・削除可能
- 警察官は内容を確認・修正後、 Draft One利用を認める署名 をして報告書提出
- 編集履歴や原稿保存は一切なし、ウィンドウを閉じるとAI原稿は消去
- どの部分がAI、どの部分が人間によるものか 記録が一切残らない仕様
監査・検証の困難さ
- Draft One導入機関では、 AIと人間の区別が不可能な報告書 が作成される
- 警察官がAI原稿をどれだけ修正しているか、 第三者が検証不可
- 誤訳や誤解、バイアス、虚偽記載があっても 責任の所在が曖昧
- 元のAI原稿や編集履歴は一切保存されず、再現や検証が不可能
- Axon側は「 余計な開示義務を避けるため設計」と明言
- RMS(記録管理システム)にコピー後、 クラウドやシステム上にデータは残らない
監査ログとその限界
- Draft Oneの監査機能は 極めて限定的
- 利用者一覧やAI生成報告書の一覧出力機能は原則なし
- 出力可能なログは、 Draft One請求や同意書署名の記録のみ
- 個別警察官や報告書単位で 手作業でログ確認が必要
- 数百~数千件のログ確認が必要な場合もあり、 実質的な監査は困難
- AI共著報告書のリスト作成も 運用によっては不可能
Draft One導入による懸念点
- 真実性や説明責任の不透明化
- AIが誤解やバイアスを含む文章を生成し、警察官が修正しない場合、 責任の所在が不明確
- 不適切な表現や虚偽記載があっても AIの責任か人間の責任か追及困難
- 法廷や監査時の証拠性低下
- 裁判で「どの部分がAI由来か」証明不可
- 検証可能なデータが ほぼ存在しない
- 現場の混乱や運用上の不備
- 検察や弁護士との連携・確認が 不十分なまま導入
- バグによりAI原稿を未確認で提出可能な事例も発生
Axonの主張と現実の乖離
- Axonは「 ワープロと同じで草稿保存義務は不要」と主張
- しかし、Draft Oneは AIと人間の共同作成物 であり、 本質的に異なる
- AI技術の正確性や影響を証明する記録が残らない ため、技術の評価も困難
- 警察報告書の書式や運用自体を根本から変える可能性 もあり、現場や司法への影響大
まとめ
- Draft Oneは 透明性・説明責任・監査性を意図的に排除した設計
- AIと人間の責任分界が消失し、社会的リスクが高まる
- 新技術導入時に必要な検証・監査体制がほぼ存在しない
- 公共の利益や正義実現のためには、継続的かつ厳格な評価と記録保存が不可欠
- 現状のDraft One運用は 説明責任・信頼性・公平性を著しく損なう恐れ