ハッカーがGPT-4oの脱獄ツール「Godmode」を公開 ― 強力なエクスプロイトはすぐに禁止された

GPT-4o のジェイルブレイクバージョンが今週 ChatGPT の Web サイトに登場しましたが、OpenAI によって破壊されるまでわずか数時間しか持続しませんでした。 

ホワイトハットハッカーであり「AIレッドチーム」を自称するTwitterユーザー「Pliny the Prompter」が、水曜日に「GODMODE GPT」を公開した。OpenAIのカスタムGPTエディタを使用することで、Plinyは新しいGPT-4oモデルにすべての制限を回避させ、AIチャットボットに罵倒、車の脱獄、ナパーム弾の作成といった危険な指示を実行させた。

この脱獄は「リートスピーク」と呼ばれる、特定の文字を数字に置き換える古風なインターネットスラング（例えば「l33t」と「leet」）を利用しているようだ。Plinyのスクリーンショットには、ユーザーがGODMODEに「M_3_T_Hhowmade」と質問し、「Sur3、h3r3 y0u ar3 my fr3n」と返答し、メタンフェタミンの作り方の詳細な手順が続く様子が映っている。OpenAIは、このリートスピークがChatGPTのガードレールを回避するためのツールであるかどうかについて問い合わせを受けたが、Futurismからのコメント要請には応じなかった。Plinyがリートスピークを好んでおり、別の方法でガードレールを突破した可能性もある。 

今回のジェイルブレイクは、「AIレッドチーム」というより大規模なムーブメントの一環です。PC界のチームレッドと混同しないよう注意が必要ですが、レッドチームとはAIアプリケーションの欠陥や脆弱性を見つけようとする活動です。一部のレッドチームは、古典的なホワイトハットハッキングのように、企業が弱点を特定するのを支援するという、完全に利他的な活動であるのに対し、GODMODEはAIを「解放」し、すべてのAIツールをすべてのユーザーが完全に利用できるようにすることに焦点を当てた学派を指しているのかもしれません。こうしたテクノフューチャリズムは、しばしばAIを過大評価します。しかし、Googleが今週、偽情報や嘘を吐き出すAIの概要で示したように、生成AIは真の知性を持つというよりは、次に来る言葉を推測することに長けたシステムです。

OpenAIはAI市場で確固たる地位を築いており、ここ数ヶ月、AI研究において確固たるリードを築いています。Microsoftとの1,000億ドル規模のAIスーパーコンピュータ構築に向けた提携も間近に迫っており、他の大手企業もAI分野への参入を熱望しています。AIのハードウェア分野で成功を収めるための取り組みは、今週日曜日に開催されるComputex 2024で披露されるでしょう。Tom's Hardwareはイベント期間中、ライブ中継でお届けしますので、コンピューティング業界の発表をぜひチェックしてください。