株主グループ、人権団体、そして15万人以上の消費者が、政府による悪用の可能性を懸念し、アマゾンに対し、顔認識技術を法執行機関に販売するのをやめるよう求める書簡や嘆願書に署名した。
アマゾンの創業者兼CEOジェフ・ベゾス氏宛ての書簡の中で、19人の株主がアマゾンの顔認識技術「Rekognition」が法執行機関に利用されていることへの懸念を表明した。彼らによると、この技術は顧客のプライバシーを侵害するだけでなく、アマゾンの株価と投資家にもリスクをもたらすという。
株主たちは、Rekognitionが法執行機関の合法的な活動を支援するために利用される可能性がある一方で、人権侵害にも利用される可能性があることを懸念している。この書簡は、トランプ政権が移民の子どもを親から引き離すスキャンダルに巻き込まれているさなかに出された。ACLU（アメリカ自由人権協会）は以前、AmazonのRekognitionが移民の身元を特定し、米国政府が彼らを一斉検挙して国外追放するために利用される可能性があると警告していた。
株主らはまた、顔認識技術の精度が不十分で、人物を特定する際に多くの間違いを犯している、あるいは白人の特定には概ね正確だが有色人種の特定にはそれほど正確ではないという最近の報告書をいくつか引用した。誤認は、システムによって誤認された人々にとって非常に厄介な問題となる可能性がある。
2018年4月、米国の40を超える主要な民事・人種正義団体の連合は、アクソスが開発した顔認識技術は「導入するのは明らかに非倫理的」であり、「一部の無実の民間人を容疑者と誤認してしまうことは避けられない」と述べた。
アクソン宛の手紙には次のようにも書かれていた。
さらに、研究によれば、顔認識技術は完璧に正確で信頼できるものではなく、対象者の人種や性別によって精度が異なる可能性が高いことが示されています。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
したがって、リアルタイムの顔認識は、必然的に無実の民間人を容疑者と誤認することになる。こうした誤りは致命的な結果をもたらす可能性があり、その影響は特定の集団に不均衡に及ぶことになる。
リアルタイム顔認識は、警察官が人物を実際よりも危険だと認識し、状況に必要以上の力を使用する可能性もある。いかなる政策や安全策も、これらのリスクを十分に軽減することはできず、リアルタイム顔認識が市場価値のあるものになることはあり得ない。」
アマゾンの株主は、Rekognitionソフトウェアの販売が非民主主義国に拡大し、それらの国政府が民主主義を訴える人々を投獄し、拷問するために利用することを懸念している。株主は、取締役会が顧客、株主、その他の市民の権利を守るための適切なガイドラインとポリシーを策定するまで、アマゾンに対し、すべての政府への「Rekognitionの拡大、さらなる開発、および販売を直ちに停止する」よう要求した。
これに先立ち、アマゾンは、同社の顔認識技術が法執行機関に悪用されるという主張を否定し、むしろ「社会に利益をもたらす」と主張していた。
公民権団体も呼びかけに加わる
ACLU、Demand Progress、CREDO、およびCongressional Black Caucusも株主に加わり、Amazonに対し、Rekognitionテクノロジーを法執行機関に販売するのをやめるよう求めている。
カリフォルニア州ACLUのテクノロジーおよび公民権担当ディレクターのニコール・オザー氏は次のように述べた。
「本日、株主、15万人以上の消費者、そして全国規模の連合からアマゾンに送られたメッセージは明確です。もしアマゾンが本当に顧客中心主義を貫き、政府の秘密監視に反対する企業であるならば、抗議活動者への攻撃、移民への標的設定、近隣地域へのスパイ活動に利用される可能性のある危険な顔認証技術を政府に販売するのをやめるべきです。」
