ジョーンズ氏は取締役会へのメモの中で、自身のテストにおいて、Copilot Designer（旧称Bing Image Generator）が、女性の性的画像から「アサルトライフルで暗殺者ごっこをするティーンエイジャー」の画像まで、不快なコンテンツを出力した経緯を詳述している。また、マイクロソフトがジョーンズ氏の懸念を真剣に受け止めず、同社の責任あるAIオフィスにメールで問い合わせるよう求めたにもかかわらず、同オフィスは受け取った苦情を追跡したり、製品開発担当者に伝えたりしていないと指摘している。
ジョーンズ氏はマイクロソフトのAIチームに所属していないため、Copilotの開発には関与していません。しかし、彼が苦情を申し立てたところ、OpenAIに懸念事項を書面で伝えるよう求められました。OpenAIはCopilot Designerの基盤となるDALL-Eエンジンを開発しているためです。ジョーンズ氏はOpenAIへの書簡の中で、「OpenAIの製品と貴社のAPIの両方でDALL-Eの利用を直ちに停止する」よう求めましたが、返答はありませんでした。12月にLinkedInにOpenAIへの書簡を投稿した後、マイクロソフトはおそらく悪評を避けるためと思われる投稿の削除を命じました。
画像
1
の
2
ジョーンズ氏にインタビューを行い、独自に検証を行ったCNBCは、ジョーンズ氏から提供された画像、あるいは独自に作成した画像で、『アナと雪の女王』のエルサが拳銃を手に持ち、ガザ地区の爆撃された建物の前に立っている様子、白雪姫ブランドの電子タバコ、スター・ウォーズブランドのビール缶を持っている様子を捉えたと述べている。ディズニーの弁護士はきっと大喜びするだろうと思われるかもしれないが、私の知る限り、大手映画スタジオはOpenAI、Microsoft、Google、その他のAIベンダーを訴えていない。
ちなみに、今日はCopilot Designerを使って「エルサの刻印入りピストル」も生成できました。ツールがエルサが映画『アナと雪の女王』の登場人物だと認識し、銃に雪の結晶をあしらっているのが面白いですね。エルサという名前は、多くの人が知っているので、理論的には中立的なプロンプトと言えるでしょう。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
マイクロソフトのツールによって生成されたAI画像に不快感を覚えたり、誤解したりする人は誰でもいるが、特に子供は影響を受けやすい。そのため、ジョーンズ氏はFCCへの書簡の中で、マイクロソフトに対し、Androidアプリのレーティングを「17歳以上」に変更し、教師や保護者に未成年者には不適切であることを警告するよう要請したと述べている。
Googleは最近、画像生成ツール「Gemini」が、第二次世界大戦中の非白人のナチス兵士や女性教皇といった歴史的に不正確な画像を出力したことで、大きな話題を呼んだ。同社は非常に恥ずかしい思いをし、Geminiによる人物画像の出力機能を一時的にブロックした。
しかし、真の危険は、生徒たちがジョージ・ワシントンをアジア人だと思い込むことではなく、子供たちが危険なステレオタイプを拾ってしまうことです。AIはウェブ画像で学習するため、コンテンツ作成者の許可や協力なしに、人種差別的なミームからばかげたファンフィクションまで、あらゆるものを拾い上げ、すべて真実だと思い込んでしまうのです。
Copilot Designerで「ユダヤ人のボス」という言葉を何度か使ったところ、反ユダヤ主義的なステレオタイプが次々と現れました。出力された画像のほとんどは、典型的な超正統派ユダヤ教徒の姿でした。髭を生やし、黒い帽子をかぶった男性たちで、多くの場合、滑稽な印象を与えたり、威圧的な印象を与えたりしていました。特に下品な画像の一つは、尖った耳と邪悪な笑みを浮かべたユダヤ人男性が、猿とバナナの房と一緒に座っているものでした。他の画像では、男性たちがお金で遊んでいる様子が描かれていました（これもユダヤ人のステレオタイプです）。
子どもたちが一見中立的な言葉を入力しても、ステレオタイプな返答が返ってくると、その画像を作成した人だけでなく、それを見た人にも、そのステレオタイプが永続化してしまうことになります。こうしたツールは危険であり、人々は真剣に受け止めるべきです。
注: 当社のすべての論説と同様に、ここで表明された意見は執筆者個人のものであり、Tom's Hardware チームのものではありません。
Avram Piltchは特別プロジェクト担当の編集長です。仕事で最新ガジェットをいじったり、展示会でVRヘルメットを装着したりしていない時は、スマートフォンのルート化、PCの分解、プラグインのコーディングなどに取り組んでいます。技術的な知識とテストへの情熱を活かし、Avramはノートパソコンのバッテリーテストをはじめ、数多くの実環境ベンチマークを開発しました。
