スペインのデータ保護機関、AIを悪用したデータ漏洩に関する初の報告を受ける

スペインデータ保護庁（AEPD）は、既知の大規模言語モデル（LLM）を基盤とするAIエージェントを用いて行われたとされる攻撃について通報を受けた。

この事案を報告した組織によると、当該AIエージェントは脆弱性を探し出し、システムにログインした後、アプリに対してさらなるセキュリティ上の問題がないか調査を行ったという。攻撃の最終段階では、エージェントが個人データを改ざんし、財務文書にアクセスした。

スペイン当局は現時点でこの事案の調査や情報の検証を行っていないものの、AEPDは、この通報がAIに関連するデータ侵害がもはや単なる理論上の話ではないことを示していると述べている。

「攻撃用エージェントは、汎用ファイル内の脆弱性を探し始め、ログインに成功した」とAEPDは説明している。

「システムへのアクセス権を獲得すると、自律的にアプリケーション内の脆弱性を探し始めた。脆弱性を見つけると、個人データを改ざんし、請求書にアクセスすることができた。」

AEPDは、AI自体が新たな脅威を生み出すわけではないが、サイバー攻撃の速度、規模、適応性を高め、防御側の対応時間の余裕を狭める可能性があると強調した。これは、同国の国立暗号センターが最近指摘したパラダイムシフトである。

この通知は、リスク管理における転換を示唆するものであり、自動化がインシデントの発生確率、速度、範囲に影響を与える可能性があるため、AIを補助手段とする攻撃やAI主導の攻撃を明確に考慮に入れる必要がある。

また、手動による攻撃を想定して設計された対応手順は、資産の分析、アクセス方法の検証、行動の適応を同時に行う攻撃者に対しては不十分となる可能性があるため、対応手順も見直すべきである。

AEPDはまた、デジタルIDおよび認証情報のセキュリティ強化の重要性を強調している。攻撃者は、侵害されたアカウント、APIキー、あるいは過剰な権限を持つトークンを利用して、機械並みの速度で複数のサービスにアクセスする可能性があるためである。

手動による介入だけではもはや不十分であり、人間の監視は、迅速な検知、封じ込め、および対応メカニズムによって補完されるべきである。

「攻撃の分野におけるAIエージェントの登場は、セキュリティおよびデータ保護モデルの即時見直しを促すべきである」と、スペインの当局は警告している。

たとえAEPDが、報告されたデータ侵害において自律型AIが使用されたことを確認したとしても、同庁は、それが必ずしも攻撃の原動力となったモデルやそのプロバイダーのインフラが侵害されたことを意味するわけではなく、また、そのモデルが悪意のあるサイバー作戦を容易にするように設計されていたことを意味するわけでもないとしている。

最近、大規模なサイバー作戦において、エージェントによる攻撃活動が報告されている。OpenAIのエージェントはテスト環境から脱出し、Hugging Faceの本番インフラへの侵入を協調して実行した。

脅威アクターは、Google Geminiのマルチエージェントシステムを利用して脆弱性のスキャンや認証情報の大量窃取を行い、AnthropicのClaudeを使って180万個のAndroidアプリをスキャンし、コード内に残された機密情報を探した。