2018年7月30日午前6時55分（太平洋標準時）更新：
Amazon Web Services（AWS）の人工知能担当ゼネラルマネージャーであるマット・ウッド博士は、ACLU（アメリカ自由人権協会）がRekognitionサービスの設定を誤っていると批判する投稿を公開しました。ウッド博士によると、ACLUが使用したデフォルトの80%の信頼度は、ソーシャルメディアの有名人や家族写真の人物特定には十分かもしれませんが、公共安全のユースケースでは99%の信頼度設定を推奨しています。そうでなければ、誤検知が多発することが予想されます。ウッド博士はまた、法執行機関向けのドキュメントでも99%の信頼度設定を推奨していると述べています。
さらに、AmazonのAI責任者は、法執行機関に対し、Rekognitionの結果を他の入力情報と比較検討するための一つの情報としてのみ使用し、対象範囲を絞り込み、人間のエージェントが判断を下す前に選択肢を検討できるようにすることを推奨していると述べた。しかし、機械学習が進歩するにつれて、将来的には人間の要素がプロセスから排除されるようになる可能性もある。
オリジナル記事、2018年7月26日午前8時15分（太平洋標準時）
ACLUが最近、アマゾンの顔認識サービス「Rekognition」を使用して実施したテストで、非営利団体は、ソフトウェアが28人の国会議員の顔を逮捕された犯罪者の顔写真と誤って照合していることに気付いた。
ACLUはこのテストで、AmazonのRekognitionソフトウェアは、法執行機関による悪用の可能性から人権の観点から危険であるだけでなく、警察の標的を識別する際に完全に間違っている可能性もあることを証明しようとしていた。
Amazon 認識エラー
ACLUは、このテストで、全米各地から共和党と民主党の議員、男女問わず、あらゆる年齢層、そして有色人種の議員を選出しました。その結果、28人の議員が逮捕された犯罪者として特定されました。
誤ってマッチングされた議員のほとんどは有色人種で、その中には黒人議員連盟の6名も含まれていました。その一人は、公民権運動の巨匠であるジョン・ルイス下院議員（ジョージア州民主党）でした。Amazon Rekognitionシステムは、ルイス議員を正しく識別できるはずでしたが、そうではありませんでした。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
ACLUは、公開されているものと同じRekognitionサービスを使用し、テスト全体の費用はわずか12.33ドルだったと述べています。同団体は、公開されている逮捕時の写真2万5000枚のデータセットを使用し、全議員の公開写真と照合しました。
認識論争は続く
最近の書簡で、黒人議員連盟は、法執行機関が黒人、移民、抗議者に対してアマゾンのRekognitionサービスを使用した場合、「予期せぬ重大な悪影響」をもたらす可能性があると警告した。
ACLU（アメリカ自由人権協会）は、このテストがそれらの懸念を裏付けるものだと考えています。ソフトウェアは議員を誤って犯罪者と判定しましたが、これは一般人も同じように簡単に犯罪者と判定される可能性があることを意味します。さらに、有色人種は白人に比べて犯罪者と関連付けられる割合が2倍高いことが判明しました。
ACLU（アメリカ自由人権協会）は、AmazonのRekognitionのエラー率が非常に高いという事実自体が、米国における警察と有色人種の間の緊張を悪化させ、人々の自由、あるいは命さえも奪う可能性があると指摘した。同団体は、これは単なる理論ではなく、サンフランシスコをはじめ、日常的に起こっていることだと改めて訴えた。
サンフランシスコで最近起きた事件は、その危険性を如実に物語っています。警察は車を止め、高齢の黒人女性に手錠をかけ、銃を突きつけてひざまずかせました。これはすべて、自動ナンバープレート読み取り機が彼女の車を盗難車と誤認したためです。
アマゾンは中立的な立場を取らない
ACLU（アメリカ自由人権協会）は以前、Amazonが顔認識技術を誰でも利用できるようにしただけでなく、法執行機関や政府機関との契約獲得に積極的に取り組み、Rekognitionが犯罪者逮捕に役立つと売り込んでいるとして非難してきた。Amazonはこれを否定しておらず、法執行機関によるこの技術の活用が最終的に社会をより良い場所にすると考えている。
ACLU（アメリカ自由人権協会）は、顔認識技術の乱用は言論の自由を抑圧し、宗教の実践を脅かすだけでなく、移民を政府によるさらなる虐待にさらす可能性があると警告した。同団体は、法執行機関による顔認識技術の使用に伴うあらゆる危険性が十分に検討されるまで、法執行機関による顔認識技術の使用を一時停止するよう議会に要請した。
ルシアン・アルマスは、Tom's Hardware USの寄稿ライターです。ソフトウェア関連のニュースやプライバシーとセキュリティに関する問題を取り上げています。
