マイクロソフト、カリフォルニア州警察への顔認識技術の販売を拒否

ロイター通信は今週、マイクロソフトがカリフォルニア州警察官の車両とボディカメラに顔認識技術を搭載する契約を拒否したと報じた。報道によると、同社はカリフォルニア州の司法当局（名前は伏せられている）が人権を侵害する形で技術を使用するのではないかと懸念していたという。

顔認識と人権侵害

テクノロジー業界の他の企業とは異なり、マイクロソフトは、自社の監視技術によって女性やマイノリティが不当に多く尋問されるようになることを懸念していました。その理由は単純で、顔認識AIの訓練に用いられる警察データベースには、白人男性の顔がほとんど含まれていたからです。一般的に、機械学習システムの訓練に用いるデータが多ければ多いほど、システムの精度は向上します。しかし、それでも100%の精度は保証されません。さらに、意図した目標に対して高い精度でAIモデルを訓練するためのデータが不足している場合は、状況はさらに悪化します。

ここ数年、同社をより人権重視の方向に導いてきたマイクロソフト社長のブラッド・スミス氏は、スタンフォード大学で開催された「人間中心の人工知能」に関する会議で、カリフォルニア州警察が職務質問した全員の顔認証技術の導入を希望していると述べた。同社は契約を断り、警察関係者に対し、この技術は解決策ではないと伝えた。

スミス氏は会議で、マイクロソフトが、非営利団体フリーダム・ハウスが自由ではないと判断した、名前を伏せた国の首都に顔認識システムを設置するという別の提案も拒否したと付け加えた。ロイター通信によると、スミス氏は、この技術は集会の自由を阻害するだろうと述べた。

スミス氏は会議で、企業は人権保護に真剣に取り組む必要があるとも述べた。急速な技術進歩により、政府が全面的な監視を実施したり、自律型殺人ロボットを配備したり、元に戻すのが不可能ではないにせよ困難なその他の措置を講じることができるようになるため、人権保護はますます重要になっているとスミス氏は考えている。