3,000人以上のGoogle従業員が署名した社内文書は、CEOのサンダー・ピチャイ氏に対し、戦争技術の開発につながる可能性のあるすべてのプロジェクトを中止するよう要請した。同時に、50人以上の学者やトップクラスのAI専門家からなるグループは、年末までに「キラーロボット」とも呼ばれる自律型兵器の開発を計画している韓国科学技術院（KAIST）へのボイコットを呼びかけている。
Googleと国防総省の秘密プロジェクト
先月の報道によると、Googleは国防総省（Googleの元CEOでAlphabetの会長であるエリック・シュミットが過去2年間勤務していた）と秘密裏に提携し、ドローン運用のための人工知能の開発を支援していたことが明らかになった。
Googleは国防総省と共同で、アルゴリズム戦クロスファンクショナルチーム（AWCFT）としても知られるプロジェクト「Project Maven」に取り組んでいました。国防総省は2017年4月にこのプロジェクトを立ち上げ、軍の機械学習能力の向上、より具体的にはドローン映像から「物体」（人間も含む）をより容易に識別することを目指しました。
Google の Project Maven への関与は先月になって初めて明らかになり、その詳細が社内のメーリング リストから入手可能になり、その後マスコミに漏洩された。
従業員がGoogleに「邪悪になるな」と注意喚起
Google社員の中には、同社が軍事目的や監視目的の拡大にリソースを提供していることに憤慨している者もいるようだ。また、同社のAI技術の利用に関する倫理性に疑問を呈し始めた者もいる。
Googleの親会社であるAlphabetは以前、AI倫理委員会を設置していましたが、委員会メンバーを公衆に公開するよう求める声を拒否しました。委員会には公的な説明責任がないため、正しいことを行う代わりに、会社がやりたい放題、あるいは利益を動機に何でもできるという主張もありました。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
3,000人を超える従業員がピチャイ氏に次のように伝えた。
Googleは戦争ビジネスに関与すべきではないと私たちは考えています。したがって、Project Mavenを中止し、Googleとその請負業者が戦争技術を開発することは決してないという明確な方針を策定し、公表し、施行するようGoogleに求めます。
Googleの取締役であるダイアン・グリーン氏は最近、憤慨した従業員に対し、Googleの技術は「ドローンを操作したり飛行させたりすることはなく」、「兵器の発射には使用されない」と述べた。しかし、書簡の中では、Googleの従業員はこの発言に懐疑的な姿勢を示している。たとえGoogleの経営陣が限られた用途に限定してこの約束を維持できたとしても、その技術が軍に提供されれば、政府の判断で自由に再利用される可能性があるのだ。
従業員らはまた、グーグルが軍事請負業者になるという決定は、同社に対するユーザーやプログラマーの信頼に取り返しのつかない損害を与える可能性があると警告した。
この計画は、Googleのブランドと人材獲得競争能力に回復不能なダメージを与えるでしょう。偏向したAIや兵器化されたAIへの懸念が高まる中、Googleはすでに国民の信頼を維持するのに苦労しています。この契約を締結することで、GoogleはPalantir、Raytheon、General Dynamicsといった企業の仲間入りをすることになります。MicrosoftやAmazonといった他の企業も参加しているという主張は、Googleにとってのリスクを軽減するものではありません。Googleのユニークな歴史、そのモットーである「Don't Be Evil（邪悪になるな）」、そして数十億人のユーザーの生活に直接関わっていることが、Googleを際立たせています。私たちは、自社の技術に関する道徳的責任を第三者に委託することはできません。Googleが表明している価値観はこれを明確に示しています。「ユーザー全員がGoogleを信頼しています。決してそれを危険にさらしてはいけません。決してです。」この契約はGoogleの評判を危険にさらし、私たちの中核的価値観に真っ向から反するものです。この技術を米国政府の軍事監視を支援するために構築することは、そしてそれが潜在的に致命的な結果をもたらすことは、受け入れられません。
KAISTの「キラーロボット」をボイコットする学者
ケンブリッジ大学、コーネル大学、カリフォルニア大学バークレー校、その他30カ国52の機関から、50名を超えるAI専門家や学者が、KAISTが韓国の兵器メーカー、ハンファシステムズと共同で自律型兵器研究センターを開設したことを受け、KAISTとのあらゆる接触をボイコットすると発表した。このボイコットは、来週月曜日にジュネーブで開催される123カ国による国連総会に先立ち発表された。この総会では、加盟国がますます懸念される殺人ロボットの問題について議論する予定だ。
KAISTは英国のタイムズ・ハイアー・エデュケーション誌のウェブサイトへの声明で次のように述べた。
このセンターは、効率的な物流システム、無人航行、航空訓練システムに関するアルゴリズムの開発を目指しています。KAISTは研究者への教育とコンサルティングを担当します。
シドニーのニューサウスウェールズ大学のウォルシュ教授は、このボイコットを組織し、KAISTのパートナーであるハンファシステムズが、国連条約で禁止されている「クラスター爆弾」の製造でブラックリストに載っていると同誌に語った。しかし、韓国は国連条約に署名していない。
彼はこう付け加えた。
ハッキングできないプログラムなど存在しません。私たちがどんな安全策を講じても、北朝鮮のような悪意ある者によって解除されてしまうでしょう。
昨年、ウォルシュ氏やテスラおよび非営利団体OpenAIの共同創設者であるイーロン・マスク氏を含む100人以上の専門家が公開書簡で自律型兵器の全面禁止を要求した。
自律型致死兵器は、戦争における第三の革命となる恐れがあります。開発されれば、かつてない規模で、そして人間の理解を超えるスピードで、武力紛争が勃発するでしょう。これらはテロ兵器、独裁者やテロリストが無実の民衆に対して使用する兵器、あるいはハッキングによって望ましくない動作をするように改造された兵器となる可能性があります。私たちに残された時間は長くありません。このパンドラの箱が一度開けられれば、閉じることは困難でしょう。
自律型兵器の禁止を目指す別の国際連合「キラーロボット阻止キャンペーン」も、国連の特定通常兵器使用禁止制限条約で、自律型兵器が悪意のある者によってどのように使用される可能性があるかを示すビデオを上映した。
ルシアン・アルマスは、Tom's Hardware USの寄稿ライターです。ソフトウェア関連のニュースやプライバシーとセキュリティに関する問題を取り上げています。
