英国警察の顔認識システムは最大98%の確率で誤認識

画像クレジット: ビッグブラザーウォッチ — （画像提供：ビッグブラザーウォッチ）

「監視国家の撤回に取り組む」英国の公民権団体ビッグ・ブラザー・ウォッチ（BBW）は、英国警視庁の実験的な顔認識システムは98％の確率で誤認識をしており、実質的に役に立たないことを明らかにする報告書を発表した。

AIと誤検出率

ここ数年、顔認識、コンテンツフィルタリング、マルウェア対策など、人工知能（AI）システムの精度が驚くほど高いと主張する企業が数多く見られました。しかし、これらの企業が言及していないのは、高い成功率を実現するために、事前に選択されたデータポイントでシステムをテストしているという事実です。

例えば、コンテンツフィルタリングAIシステムの開発者は、ウェブ上のテロ関連コンテンツを高い確率で識別できると主張するかもしれません。しかし、それは分析対象のコンテンツがテロ関連コンテンツであることを既に知っている場合に限られます。このシステムを、他の多くのコンテンツの中からテロ関連コンテンツを識別するために使用すると、成功率が低くなるだけでなく、他のコンテンツをテロ関連コンテンツと誤認し、誤検知率も高くなる可能性があります。

警察の自動顔認識システム

ロンドン警視庁の顔認識システムでも、基本的に同じようなことが起こりました。BBWは50件の情報公開請求を通じて、顔認識システムの「一致」のうち、実に平均95%が無実の人物を誤って特定していたことを発見しました。

ロンドン警視庁の顔認識システムは、照合精度がわずか2%、誤認率が98%と、最悪の実績を誇っています。正しく認識できたのは2人だけで、いずれも指名手配犯ではありませんでした。1人は監視リストに誤って登録されており、もう1人は精神衛生関連の監視リストに載っていました。ロンドン警視庁は、自動顔認識システムを用いて逮捕者を出していません。

サウスウェールズ警察の顔認識システムは、一致した人物の91%を誤認しました。このシステムにより、一致した人物全体の0.005%に相当する15人が逮捕されました。31人の無実の人物が誤認され、身元と無実を証明するよう求められました。顔が自動的に分析された2,451人全員が12ヶ月間保存されましたが、これは捜査権限法（スヌーパー法）に基づいて制定された方針であり、違法である可能性が高いです。顔が自動的にスキャンされた人々の大多数は、警察システムが彼らをターゲットとして「一致」させたことを通知されていませんでした。