グーグルは、Chromeブラウザに「User Alignment Critic」と呼ばれる新しい防御レイヤーを導入し、Geminiを搭載した今後のエージェント型AIブラウジング機能を保護する。
エージェント型ブラウジングとは、AIエージェントがユーザーのために自律的にウェブ上で複数のステップのタスクを実行するように設定された新しいモードであり、これにはサイトのナビゲート、コンテンツの読み取り、ボタンのクリック、フォームへの入力、一連のアクションの実行などが含まれる。
User Alignment Criticは、信頼できないコンテンツから分離された別のLLMモデルであり、”高信頼システムコンポーネント “として機能する。
GeminiはGoogleのAIアシスタントで、テキスト、メディア、コードを生成することができる。アンドロイドや様々なグーグルサービスで使用され、9月からはクロームにも統合された。
その際、グーグルはGeminiを通じてChromeにエージェント・ブラウジング機能を追加する計画を発表したが、今度はそれを保護するための新しいセキュリティ・アーキテクチャを導入する。
グーグルのエンジニアであるネイサン・パーカーが発表した新アーキテクチャは、間接的なプロンプトインジェクションのリスクを軽減するもので、悪意のあるページコンテンツがAIエージェントを操作して安全でないアクションを実行させ、ユーザーデータを漏洩させたり、不正な取引を促進させたりする。
パーカー氏は、この新しいセキュリティシステムは、決定論的ルール、モデルレベルの保護、分離境界、ユーザーの監視を組み合わせた層状の防御アプローチを含むと説明している。
新しいアーキテクチャの主な柱は以下の通り：
- ユーザー・アライメント・クリティック– 悪意のあるプロンプトによって “毒殺 “されることのない、隔離された第二のジェミニ・モデルが、メタデータを調査し、その安全性を独自に評価することで、プライマリAIエージェントが取りたいすべてのアクションを吟味する。そのアクションが危険であるか、ユーザーの設定したゴールと無関係であると判断された場合、再試行を指示するか、ユーザーにコントロールを返します。
Source：グーグル
- オリジンセット– エージェントがウェブにアクセスするのを制限し、特定のサイトや要素のみとのやり取りを許可します。関連性のないオリジン（iframe を含む）は完全に保留され、信頼できるゲート機能が新しいオリジンを承認する必要があります。これにより、クロスサイトデータ漏えいを防ぎ、侵害されたエージェントの爆発範囲を制限します。
- ユーザーの監視 – エージェントが銀行ポータルなどの機密性の高いサイトにアクセスしたり、保存されているパスワードにアクセスするためにパスワード マネージャーのサインインを要求したりすると、Chrome は処理を一時停止し、ユーザーが手動で確認するよう促します。
出典：Google：グーグル
- プロンプト インジェクションの検出– Chrome 専用の分類機能により、間接的なプロンプト インジェクションの試みがないかページをスキャンします。このシステムは、セーフ ブラウジングやデバイス上の詐欺検出と同時に動作し、悪意のある行為や詐欺の疑いがあるコンテンツをブロックします。
エージェント型ブラウジングに対するこのような重層的な防御アプローチは、研究者がフィッシングやプロンプトインジェクション攻撃、偽ショップからの購入に脆弱であることを示した類似製品のベンダーよりも、グーグルがLLMにブラウザへのアクセスを与えることに慎重であることを示している。
グーグルはまた、テストサイトやLLMによる攻撃を生成する自動レッド・チーミング・システムを開発し、継続的に防御をテストし、必要に応じて新しいものを開発し、クロームの自動更新メカニズムを通じてユーザーに迅速にプッシュしている。
「また、金融取引や機密情報の流出など、永続的な被害につながる可能性のある攻撃を優先する」とグーグルは言い、エンジニアは攻撃の成功率に関するフィードバックを即座に入手し、Chromeの自動更新メカニズムを通じて配信される修正プログラムで迅速に対応できると付け加えた。
この分野のセキュリティ研究を刺激するため、グーグルは新システムを破ることができた人に最高2万ドルの報奨金を支払うと発表し、Chrome上で強固なエージェント型ブラウジングフレームワークを構築するための努力に参加するようコミュニティに呼びかけた。
.ia_ad { background-color：#width: 95%; max-width: 800px; margin: 15px auto; border-radius: 8px; border：1px solid #d6ddee; display: flex; align-items: stretch; padding: 0; overflow: hidden; }：0; overflow: hidden; } .ia_lef { flex: 1; max-width: 200px; height: auto; display: flex; align-items: stretch; } .ia_lef a { display: flex; width: 100%; height: 100%; } .ia_lef a img { width: 100%; height: 100%; border-radius: 8px 0 0 8px; margin: 0; display: block; } .ia_rig { flex: 2; padding：display: flex; flex-direction: column; justify-content: center; } .ia_rig h2 { font-size: 17px !important; font-weight: 700; color：#line-height: 1.4; font-family：margin: 0 0 14px 0; } .ia_rig p { font-weight: bold; font-size: 14px; margin: 0 0 clamp(6px, 2vw, 14px) 0; } .ia_button { background-color：#border：1px solid #3b59aa; color: black; text-align: center; text-decoration: none; border-radius: 8px; display: inline-block; font-size: 16px; font-weight: bold; cursor: pointer; padding：width: fit-content; } .ia_button a { text-decoration: none; color: inherit; display: block; } @media (max-width: 600px) { .ia_ad { flex-direction: column; align-items: center; } .ia_lef { max-width: 100%; } .ia_lef a img { border-radius: 8px 8px 0 0; } .ia_rig { padding：15px;
width: 100%;
}
.ia_button {
width: 100%;
margin: 0px auto;
}
}
Bitpanda、KnowBe4、PathAIのようなIAMサイロを破壊する
壊れたIAMはITだけの問題ではありません – その影響はビジネス全体に波及します。
この実用的なガイドでは、従来の IAM の慣行が現代の要求に追いつけない理由、「優れた」 IAM とはどのようなものかの例、拡張可能な戦略を構築するための簡単なチェックリストについて説明します。
Comments