2024年の『1984年』：マイクロソフト社長の顔認識に関する悲惨な警告

マイクロソフト社長のブラッド・スミス氏は今週、政府が顔認識ソフトウェアの一般利用を規制しなければ、2024年はジョージ・オーウェルの小説『1984年』の架空の年1984年と同じくらいディストピア的な状況になる可能性があると警告した。

顔認識の危険性

Facebook、Google、Amazonなどのテクノロジー企業や、複数のスタートアップ企業は、写真のタグ付け、顔フィルター、デバイスのロックを解除するためのFace IDのような生体認証システムなど、現時点ではほぼ無害と思われる用途で、すでに顔認識ソフトウェアの導入を開始しています。

しかし、Recodeの報道によると、ポルトガルで開催された技術カンファレンス「Web Summit」でスミス氏は、将来、顔認識ソフトウェアの利用ははるかに無害なものになる可能性があると警告した。例えば、小売業者は、顧客が店内で行ったあらゆる行動、つまり手に取った商品、購入した商品、最後にいつ来店したかなどを追跡できるようになるだろうと彼は指摘した。しかし、それも将来の政府の監視能力に比べれば取るに足らないものだ。

「世界は初めて、政府が誰をどこにいても、誰をどこにいても追跡できる技術の瀬戸際に立っています。政府は、あなたがどこへ向かっているのか、どこにいたのか、そして昨日どこにいたのかを正確に把握できるかもしれません。そして、これは民主主義社会が依拠する基本的市民的自由権にさえ、深刻な影響を及ぼす可能性があります」とスミス氏は述べた。 

「目覚めたら2024年が小説『1984年』のようになっていたなんてことになる前に、どんな世界を創りたいのか、この技術を使う上で企業と政府にはどんな安全策や制限があるのか​​を考えてみましょう。」

スミス氏：規制は必要

スミス氏は今年初め、企業や政府機関によってユーザーの権利が将来的に頻繁に侵害されることがないよう、政府に顔認識技術の使用を規制するよう求めた。

さらに事態を悪化させているのは、技術自体が依然として偏っており、完璧とは程遠いことです。Amazon Rekognitionやロンドン警察の顔認識技術は、控えめに言っても不完全であるとの報告があります。しかし、高いエラー率にもかかわらず、法執行機関は導入を継続しており、米国国土安全保障省も航空会社に対し、空港での顔認識ソフトウェアの導入を推奨し始めています。 

顔認識ソフトウェアの誤認識によって、当局が無実の人々を武装した危険な犯罪者と誤認する事態に陥らせる可能性があります。スミス氏は、顔認識技術は完璧だと信じられている時に最も危険だと警告しました。なぜなら、その時点で政府は顔認識結果を検証しなくなり、犯罪者の特定に完全に依存してしまう可能性があるからです。

スミス氏は、政府は人々の権利を侵害しない方法で顔認識技術を利用するための強力な枠組みを導入すべきだと考えている。小売業者も、店舗内で顔認識ソフトウェアによる追跡を行う際に顧客の同意を求めることを義務付ける規制が必要になるかもしれないと、スミス氏は主張する。 

マイクロソフトの社長は以前、顔認識技術の危険性を評価し、規制の枠組みを提案できる独立委員会を米国議会に設置するよう提言しました。ニューヨークの世界貿易センタービルへの9.11同時多発テロの後にも、同様の専門委員会が設立されました。それ以来、災害時の児童保護や米軍の将来など、様々な問題について28の専門委員会が設立されました。

ルシアン・アルマスは、Tom's Hardware USの寄稿ライターです。ソフトウェア関連のニュースやプライバシーとセキュリティに関する問題を取り上げています。