中国とイランのハッカーはChatGPTとLLMツールを使用してマルウェアやフィッシング攻撃を作成しています。OpenAIのレポートでは、ChatGPTを使用して作成された20件以上のサイバー攻撃が記録されています。

AIが価値よりも問題が多いことを示す兆候があるとすれば、OpenAIは20件以上のサイバー攻撃が発生しており、それらはすべてChatGPTを介して作成されたことを確認しています。この報告書は、生成AIがスピアフィッシング攻撃の実行、マルウェアのデバッグと開発、その他の悪意のある活動に使用されたことを確認しています。

この報告書は、生成AI ChatGPTを使用した2件のサイバー攻撃を確認しています。最初の攻撃はCisco Talosが2024年11月に報告したもので、アジアの政府を標的とした中国の脅威アクターによって使用されました。この攻撃では、「SweetSpecter」と呼ばれるスピアフィッシング手法が使用されました。これは、悪意のあるファイルを含むZIPファイルを含んでおり、ダウンロードして開くと、ユーザーのシステムに感染チェーンを形成します。OpenAIは、SweetSpecterが複数のアカウントを使用して作成され、ChatGPTを使用してスクリプトを開発し、LLMツールを使用して脆弱性を発見していたことを発見しました。