研究によると、地政学的にセンシティブなトピックや中国で禁止されているトピックをトリガーすると、DeepSeekのAI検索結果の品質が大幅に低下する可能性がある。米国のセキュリティ企業CrowdStrikeが実施したテストでは、イスラム国（IS）を名乗る過激派グループのコンピュータシステム用に生成されたコードに、本来存在するはずの2倍近くの欠陥が含まれていることが確認された。ワシントン・ポスト紙の最新報道によると、他にも法輪功、チベット、台湾といったトピックが潜在的な標的となっている。
情報筋が強調した重要な発見の一つは、産業用制御システムを実行するプログラム用にDeepSeek AIで生成されたコードでは、通常、コードの22.8%に欠陥が含まれるという点です。イスラム国のプロジェクトのために依頼された場合、DeepSeekユーザーは欠陥の割合が42.1%に急上昇するのを確認できる可能性があります。
しかし、DeepSeekがそのような組織やその他の組織向けに生成するコードの品質を低下させていると認識されていることに、一部の人々は驚いている。「これは人々が懸念していることですが、ほとんど証拠がないままです」と、ジョージタウン大学セキュリティ・新興技術センターのヘレン・トナー氏はワシントン・ポスト紙に語った。
何が起こっているのか？いくつかの仮説。
ワシントン・ポスト紙は、CrowdStrikeの調査結果についてDeepSeekの開発元にコメントを求めていますが、まだ回答は得られていません。しかし、何が起こっているのかについて、いくつかの仮説を立てています…
情報筋が示唆する可能性の一つは、欠陥のあるコードをこっそり作成することが、敵の攻撃力を鈍らせるための、あまり知られていない妨害工作の手法であるという点だ。また、その後のハッキングのための攻撃対象領域を広げる可能性もある。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
もうひとつの可能性は、テスト中に発見された最も安全なコードがアメリカの顧客向けのプロジェクト用のものであったため、DeepSeek がこの市場への進出に力を入れているということだ。
情報筋はまた、既存の地域教材を用いたトレーニングによって、ターゲット市場におけるコード品質が影響を受ける可能性についても考察している。例えば、米国で働くコーダーには、チベットで働くコーダーよりも関連性の高いトレーニングリソースがはるかに多く存在すると予想している。
最後に、DeepSeekは「反政府勢力」と認識した組織や地域に、よりエラーが発生しやすいコードを「自発的に」提供している可能性もある。これらはすべて単なる仮説に過ぎないが、このAI企業は北京との繋がりがないわけではない。8月には、DeepSeekが中国の要請により、モデルの学習にNVIDIAではなくHuaweiのハードウェアを使用するよう切り替えたため、ハードウェアの故障による遅延が発生したと報じられた。
Tom's HardwareをGoogleニュースでフォローするか、お気に入りの情報源として追加して、最新のニュース、分析、レビューをフィードで受信しましょう。「フォロー」ボタンを忘れずにクリックしてください！
マーク・タイソンはトムズ・ハードウェアのニュース編集者です。ビジネスや半導体設計から、理性の限界に迫る製品まで、PCテクノロジーのあらゆる分野を網羅的にカバーすることを楽しんでいます。
