Facebook、悪質なリンク「クローキング」対策にAIを活用

Facebookは、正当な広告やウェブページを装った悪質なコンテンツをAIで検出すると発表した。この取り組みは、悪質な人物がレビュー担当者の監視を逃れ、Facebookのサービスを利用する10億人以上のユーザーを欺いたり、損害を与えたりすることを阻止するのに役立つはずだ。

クローキングは、Facebookのレビュアーにはある情報を表示し、Facebookのエンドユーザーには別の情報を表示することで機能します。Facebookは、レビュアーをレシピサイトに誘導するリンク（これはFacebookの広告ポリシーやコミュニティガイドラインには違反していません）がある一方で、ユーザーを「画期的なダイエットピル」のページへ誘導するという例を挙げました。これらのサイトに加え、ポルノ、筋力増強詐欺、その他の悪質なコンテンツを掲載するサイトも、Facebookのルールに違反しています。

これはFacebookにとって問題です。Facebookは不正行為者を即座に阻止することが期待されていますが、不正行為の痕跡が巧妙に隠蔽されている場合、それは困難です。そのためFacebookは、いわば透明マントの背後にあるものを探り、他の企業と協力して「不正行為者に対抗し、罰する新たな方法を見つける」ことを決定しました。Facebookはブログ投稿で、どのようにプロセスを改善し、その改善がどれほど効果があったかを説明しています。

私たちは人工知能を活用し、人間によるレビュープロセスを拡張することで、クローキングを特定、捕捉、検証できるようにしました。これにより、アプリ利用者に提供されるコンテンツの種類の違いを、社内システムと比較してより正確に観察できるようになりました。[...] 過去数ヶ月で、これらの新たな対策により、数千もの違反者を排除し、人々を欺く彼らの経済的インセンティブを断つことができました。

Facebookは、これらの変更は、正当な組織がFacebookサービスへの広告掲載やコンテンツの共有を行う活動に影響を与えるものではないと述べた。同社はまた、クローキングを「意図的かつ欺瞞的」と見なし、「Facebookでは容認しない」と述べた。こうした悪質な行為が発覚したページは、サイトから削除される。（スパマーや詐欺師がよくやるように、おそらく再アクセスを試みるだろうが、少なくともしばらくの間は阻止されるだろう。）

プラットフォームのルール適用は近年ますます困難になっています。例えば、UberがiPhoneのフィンガープリンティングをAppleから隠蔽していたという報道を考えてみてください。Appleは企業によるiOSデバイスへの永続的な識別子のインストールを禁止しています。AppleはApple本社の周囲にジオフェンスを設置したと言われています。フェンスの内側ではアプリはデバイスのフィンガープリンティングを行わなかったため、Appleの審査担当者は何も気づきませんでした。一方、フェンスの外側ではフィンガープリンティングは問題なく実行されました。

他の企業も同様の戦術を用いるのは必然です。FacebookやiOSのような、潜在的に利益を生むプラットフォームにルールが存在する限り、誰かが利用可能なあらゆるツールを使ってそれらを回避しようと試みるでしょう。少なくとも今のところ、企業はこうしたルール違反者を捕まえるための取り組みを強化しているようです。例えば、詐欺師が減量薬を販売することを困難にしたり、企業のセキュリティチームを軽視しないよう警告したりしています。