グーグルハッカーがAIを使ってウェブ管理ツールのゼロデイ脆弱性を開発

Google Threat Intelligence Group（GTIG）の研究者は、人気のあるオープンソースのウェブ管理ツールを標的としたゼロデイ・エクスプロイトが、AIを使用して生成された可能性が高いと述べている。

このエクスプロイトは、人気のあるオープンソースのウェブベースのシステム管理ツールの2要素認証（2FA）保護をバイパスするために利用される可能性がある。

この攻撃は大規模な悪用の段階に入る前に阻止されたが、この事件は、脅威行為者が脆弱性の発見と悪用の取り組みにおいて、AIの支援により依存していることを示している。

Pythonのエクスプロイトコードの構造と内容から、Googleは、敵対者が脆弱性を発見し武器化するためにAIモデルを使用したことを確信している。

「例えば、スクリプトには、幻覚のCVSSスコアを含む教育的なdocstringが豊富に含まれており、LLMのトレーニングデータに非常に特徴的な、構造化された教科書的なPythonicフォーマットが使用されています」とGTIGは本日のレポートで述べています。

悪意のあるタスクに使用された大規模な言語モデル（LLM）は依然として不明だが、GoogleはGeminiがプロセスに関与していた可能性を排除している。

発見プロセスにおけるLLMツールの使用を示唆する追加的な証拠は、欠陥の性質であり、一般的にファジングや静的解析によって発見されるメモリ破壊や入力サニタイズの問題ではなく、AIシステムが特定を得意とする高レベルのセマンティックロジックバグである。

グーグルは、重大な脅威と攻撃を妨害するためのタイムリーな行動について、ソフトウェア開発者に通知した。

「GTIGは初めて、AIで開発されたと思われるゼロデイ・エクスプロイトを使用する脅威行為者を特定した」とGTIGの研究者は述べている。

このケースとは別に、APT27、APT45、UNC2814、UNC5673、UNC6201といった中国や北朝鮮のハッカーが、脆弱性の発見やエクスプロイトの開発にAIモデルを使用しており、2月のレポートで観察された傾向が続いているとGoogleは指摘している。

ロシアに関連するアクターは、CANFAILやLONGSTREAMなどのマルウェアを難読化するために、AIが生成したおとりコードを使用していることも確認されています。

Googleはまた、ソーシャルエンジニアリングの脅威行為者がAIボイスクローニングを使用して、反ウクライナの物語を宣伝する偽のビデオで本物のジャーナリストになりすました、コードネーム「Overload」と呼ばれるロシアの作戦を強調しています。

今年初めにESETによって文書化されたAndroid用のPromptSpyバックドアもまた、自律的なデバイスインタラクションのためのGemini APIとの統合のためにGoogleのレポートで強調されている。

しかし、Googleは、マルウェアが自動化された方法でデバイスと対話することを可能にするためにハードコードされたプロンプトを使用する “GeminiAutomationAgent “という名前の自律エージェントモジュールも発見した。

研究者によると、このプロンプトの役割は、LLMの安全機能をバイパスできるように、良性のペルソナを割り当てることだという。その目的は、ユーザー・インターフェースの境界の形状を計算することであり、PromptSpyはこれを利用して、複数の方法でデバイスと対話することができる。

さらに、このマルウェアはAIベースの機能を利用して、ロックパターンや暗証番号など、デバイスの認証を再生するとグーグルの研究者は述べている。

同社は、自動アカウント作成、プロキシリレー、およびアカウントプーリングインフラストラクチャを使用して、脅威アクターがプレミアムAIモデルへのアクセスを産業化していると警告している。