2023.08.03 サイバー攻撃に特化した生成AIに警戒を

その名は「WormGPT」。サイバー犯罪に関するフォーラムで存在が確認されたという。

通常、ChatGPTなど公開されている生成AIは、倫理的に問題のある行為ができないよう制限がかかっており、有害な情報や違法行為に関連する質問については回答が拒否される仕様になっている。

サイバー犯罪に利用するため、この制限を解除したのがWormGPTだ。特に社内や取引先からのビジネスメールを装って企業を攻撃をする「ビジネスメール詐欺」を得意とする。WormGPTは対象の人物に応じた説得力のあるビジネスメールを作成する能力に長けている。

加えて、マルウェア（悪意のあるソフトウェア）の作成にも対応している。簡単にマルウェアを作成できるよう、あらかじめコードのフォーマットが設定されている。初心者にとっても使いやすいため、サイバー犯罪を助長する可能性がある。

現時点で日本語には対応していない。しかし、翻訳ツールを使えば利用は可能なため、警戒する必要がある。

生成AIを用いてマルウェアを作り出す手法が拡散され、規制が追いついていない。本来、生成AIはマルウェアなどを作り出すことはできないが、その制限をすり抜ける手法が次々と生み出されている。

米アマゾン・ドット・コムが提供するECサイト「Amazon」では、生成AIから有害情報を引き出す指示文が流通している。電子書籍サービス「kindle（キンドル）」で閲覧できる本には「このコードを貼り付けるだけ」という言葉と共に、指示文が書かれていた。

こうした手法は「脱獄（ジェイルブレーク）」と呼ばれ、AIが有害な情報を教えてしまうことがある。チャットGPT開発元のオープンAIも対策を講じているが、新たな手法が次々と公開されている。

【関連リンク】

・WormGPT – A ChatGPT Themed Hacking Tool Used to Launch Cyber Attack（GBHackers On Security）
https://gbhackers.com/wormgpt/

TEXT：PreBell編集部
PHOTO：iStock