2週間前、ACLU（アメリカ自由人権協会）は、Amazonが法執行機関に利用を推奨している顔認識サービス「Rekognition」によって「監視事業に正式に参入した」という証拠を入手したと主張した。Amazonは現在、同社の技術は実際には善意の目的で使用されており、法執行機関がRekognitionソフトウェアを悪用した証拠は確認していないと主張している。
Amazon Rekognitionが「社会に貢献」
AWSの人工知能担当ゼネラルマネージャー、マット・ウッド博士は最近、Amazonの顔認識サービスについてブログ記事を執筆し、Rekognitionは実際に「社会に利益をもたらす」ために活用できると主張しました。ウッド博士は、この技術が人身売買の防止、児童搾取の抑制、行方不明の子供の家族との再会、そして子供向けの教育アプリの開発に役立つ可能性があると指摘しました。
ウッド氏はまた、多要素認証を通じて組織のセキュリティを強化したり、荷物の盗難を防いだりできると主張した。さらに、画像・動画分析は公共部門や法執行機関でも活用されれば「社会貢献の原動力」となり得ると付け加えた。
ウッド氏は、Amazon Rekognitionの不正利用は報告されていないと主張し、同社には「違法な活動、他者の権利を侵害する活動、または他者に危害を及ぼす可能性のある活動」にサービスを使用することを禁じる利用規約（AUP）があると主張した。ウッド氏はさらに、これには憲法修正第4条、第5条、第14条などの権利の侵害も含まれると付け加えた。顧客がAUPに違反した場合、Amazonはサービスの利用を制限することを約束している。
ウッド氏の最後の主張は、同社の技術は中立的であり、あらゆる技術と同様に良いことにも悪いことにも使われる可能性があるが、今回のケースでは、Rekognition 技術の利点が欠点をはるかに上回ると考えている、ということだ。
ACLUの対応
Amazon の反論について ACLU と議論した際、この非営利団体は、Amazon が法執行機関に Rekognition を容易に悪用につながるような方法で使用させることを奨励しているという立場を改めて強調した。
ACLUの広報担当者はTom's Hardwareに次のように語った。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
「アマゾンは政府に、権威主義的な濫用を目的とした監視システムを渡している。レコグニションは、政府が数千万人の顔をリアルタイムで検索することを可能にし、抗議活動者の追跡、移民の標的化、地域全体の監視に利用できる。」
顔認識はアフリカ系アメリカ人や女性を誤認させ、差別的な警察活動の歴史に基づいて構築されたデータベースとアルゴリズムに依存していることは周知の事実です。顔認識は地域社会の安全を高めるどころか、差別的な監視と警察活動をさらに強化するだけです。
ACLUは、Amazonが法執行機関と協力して、市街地の監視カメラや警察のボディカメラにRekognitionソフトウェアを統合していることを示す入手した文書を公開した。また、警察のボディカメラへの統合を約束するAmazonのマーケティング資料についても指摘した。ACLUによると、このマーケティング資料は、非営利団体がAmazonに質問を開始した後、Amazonのサイトから削除されたという。
現在、Rekognition サービスが宣伝されている Amazon の AWS サイトでは、このソフトウェアの「人物追跡」機能について以下のように説明されています。
Rekognition Videoを使えば、ショット内だけでなく、ショットをまたいで映像全体を通して各人物を追跡できます。Rekognition Videoはカメラが動いているときでも人物を検出し、各人物の境界ボックスと顔、顔の属性、タイムスタンプを返します。小売業のアプリケーションでは、これにより、ショッピングモール内の顧客の動きやレジ待ち時間など、顧客に関するインサイトを生成できます。
注目すべきは、ACLUがこれまで警告してきたのは、この技術がもたらす機能の種類が悪用される可能性についてのみであるということです。これらの機能には、警察が抗議活動参加者を特定したり、誰かが移民であるかどうかを特定したり、特定の公共の場で危険な犯罪者を特定したりすることが含まれます。
警察がアマゾンの顔認識システムから得た知識をどのように活用するかによって、この技術が悪用されるかどうかが決まる。もし警察がこれを悪用するならば、アマゾンが、悪用する部署へのアクセスを制限するという約束を守ることを期待するしかない。
