LLM（大規模言語モデル）のカスタムトレーニング版が登場しているが、その原因は最悪のものだ。開発者によってWormGPTと名付けられたこのツールは、2021年にリリースされたGPT-J言語モデルをベースにした新しい会話型ツールで、ブラックハットコーディングとツールの作成と展開のみを目的としてトレーニング・開発されている。WormGPTの狙いは、ユーザーがこれまで必要としていたコスト（と知識）のほんの一部で、最高レベルのマルウェアを開発できるようになることだ。このツールはサイバーセキュリティ企業のSlashNextによってテストされ、同社はブログ記事で「悪意のある攻撃者がChatGPTに似た独自のカスタムモジュールを作成しているが、悪意のある目的に簡単に利用できるようになっている」と警告している。このサービスは月額60ユーロ、または年間550ユーロという「適切な」月額サブスクリプションで利用できる。ハッカーでさえ、誰もがSaaS（Software as a Service）を好むようだ。
WormGPT開発者によると、「このプロジェクトの目的は、ChatGPTに代わる、あらゆる違法行為を実行し、将来的にそれを簡単にオンラインで販売できる代替手段を提供することです。WormGPTを使えば、考えられるあらゆるブラックハット行為が可能になり、誰もが自宅にいながらにして悪意のある活動にアクセスできるようになります。」
民主化は大いに結構だが、悪意ある者の増殖と強化につながる場合は最善とは言えないかもしれない。
作成者が投稿したスクリーンショットによると、WormGPTは基本的にChatGPTの無防備版のように動作しますが、リスクを感じても積極的に会話をブロックすることはありません。WormGPTはPythonで書かれたマルウェアを作成できるようで、マルウェアの展開に関するヒント、戦略、そして問題に対する解決策を提供します。
SlashNextによるこのツールの分析は不穏なものでした。エージェントに、被害者に不正な請求書の支払いを迫るメールを作成するよう指示したところ、結果は不穏なものでした。WormGPTは、驚くほど説得力があるだけでなく、戦略的に巧妙なメールを作成し、高度なフィッシングやBEC（ビジネスメール詐欺）攻撃への潜在能力を示しました。
オープンソースの人工知能（AI）モデルの利点をすべて利用し、それを覆してしまう者が現れるのは時間の問題でした。チャットのようなAIアシスタント（BratGPT、君のことだよ）について、ユーモラスで自慢げな解釈をするのは一つのことですが、ダークウェブ特有の言語や難読化を学習させた会話モデルを開発するのはまた別の話です。しかし、ChatGPTの世界的に有名なプログラミングスキルを、AIで書かれたマルウェアの開発にのみ適用するのは全く別の話です。
もちろん、WormGPTを実際のハニーポットとして利用し、これらのAIエージェントを訓練して、常に捕捉され、送信元を確実に特定する機能的なマルウェアを作成することも理論的には可能です。WormGPTが実際にそうであると言っているわけではありませんが、可能性はあります。そのため、WormGPTを使用する人は、コードを一行ずつ確認することをお勧めします。
Tom's Hardware の最高のニュースと詳細なレビューをあなたの受信箱に直接お届けします。
これらの民間開発のAIエージェントの場合、OpenAIのChatGPTに期待されるような一般的な能力を示すものはほとんど（あるいは全く）ないことに留意することが重要です。技術とツールは飛躍的に進歩しましたが、適切な資金（とデータ）がなければAIエージェントを訓練するのは依然として費用と時間のかかる作業です。しかし、企業がAIゴールドラッシュに向けて奔走するにつれて、コストは急落し続け、データセットと訓練手法は改善され、WormGPTやBratGPTのような有能な民間AIエージェントがますます登場してくるのは事実です。
WormGPT は、主流として認知される最初のシステムかもしれませんが、最後ではないことは確かです。
Francisco Pires 氏は、Tom's Hardware のフリーランス ニュース ライターであり、量子コンピューティングに関心を持っています。
