AIエージェントがチームに加わるとき：誰も予想しない隠れたセキュリティの変化

文：イド・シュロモ（トークン・セキュリティ共同創業者兼CTO

AIアシスタントはもはや、会議のメモを要約したり、Eメールを書いたり、質問に答えたりする存在ではない。チケットを開いたり、ログを分析したり、アカウントを管理したり、さらにはインシデントを自動的に修正したりと、行動を起こしているのだ。

エージェント型AIの時代へようこそ。エージェント型AIは、次に何をすべきかを教えてくれるだけでなく、あなたの代わりに行動してくれる。このようなエージェントは非常に強力ですが、まったく新しいセキュリティ・リスクももたらしています。

自律型エージェントの静かな台頭

当初、企業内でのAIの導入は穏やかなものに思えた。ChatGPTやCopilotのようなツールは、基本的なライティングやコーディングを支援するものの、単独で行動することはなかった。それが急速に変化している。

セキュリティ・レビューや承認なしに、チームは目標を解釈し、ステップを計画し、APIを呼び出し、他のエージェントを呼び出すことができる自律型AIシステムを導入している。AIマーケティング・アシスタントは、キャンペーンのパフォーマンス・データを分析し、ターゲットと予算を積極的に最適化できるようになった。DevOpsエージェントはインシデントをスキャンし、人間を待たずに修復を開始できる。

その結果は？人が監視するよりも早く意思決定し、行動を起こすエージェントのクラスが増加している。

ただのボット」ではない

組織は、サービスアカウントやAPIキーなどの非人間的アイデンティティ（NHI）の管理を始めているが、エージェントAIはこれと同じ型にははまらない。

予測可能な一連のアクションに従うワークフローとは異なり、AIエージェントは次に何をすべきかを考える。複数のステップを連鎖させ、異なるシステムにアクセスし、途中で計画を調整することができる。この柔軟性がエージェントを強力かつ危険な存在にしている。エージェントは境界を越えて行動できるため、彼らにデータベース、CRM、Slackへのアクセスを与えるだけで、社内で最もパワフルなユーザーの仲間入りができる。

マルチエージェントエコシステムは、新たなレベルの複雑性をもたらしている。ひとたびエージェントが他のエージェントに電話をかけたり、あるいは他のエージェントを作成したりし始めると、その行動を開始した人間まで遡る能力は曖昧になり始める。

a.fl_button { background-color：#border：1px solid #3b59aa; color：#text-align: center; text-decoration: none; border-radius: 8px; display: inline-block; font-size: 16px; font-weight: bold; margin：4px 2px; cursor: pointer; padding：12px 28px; } .fl_ad { background-color：#width: 95%; margin: 15px auto 15px auto; border-radius: 8px; border：1px solid #d6ddee; box-shadow: 2px 2px #728cb8; min-height: 200px; display: flex; align-items: center; } .fl_lef>a>img { margin-top: 0px !important; } .fl_rig>p { font-size: 16px; } .grad-text { background-image: linear-gradient(45deg, var(–dawn-red), var(–iris)54%, var(–aqua)); -webkit-text-fill-color: transparent; -webkit-background-clip: text; background-clip: text; } .fl_rig h2 { font-size: 18px!important; font-weight: 700; color：color: #333; line-height: 24px; font-family：font-family: Georgia, times new roman, Times, serif; display: block; text-align: left; margin-top: 0; } .fl_lef { display: inline-block; min-height: 150px; width: 25%; padding：10px 0 10px 10px; } .fl_rig { padding：10px; display: inline-block; min-height: 150px; width: 100%; vertical-align: top; } .fl_lef>a>img { border-radius: 8px; } .cz-news-title-right-area ul { padding-left: 0px; } @media screen and (max-width: 1200px) { .fl_ad { min-height: 184px; } .fl_rig>p { margin: 10p10px; } .fl_rig { padding：0 10px 10px 10px; width: 100%; } } @media screen and (max-width: 400px) { .cz-story-navigation ul li:first-child { padding-left: 6px; } .cz-story-navigation ul li:last-child { padding-right: 6px; } } }.

シャドーAIはすでに存在する

慎重な企業でさえ、シャドーAIが自社の環境に忍び込んでいることに気づいています。あるプロダクト・マネージャーが新しいAIリサーチ・ツールにサインアップする。あるチームは会議用ボットを社内のドライブに接続する。エンジニアが顧客ログを照会できるローカルAIアシスタントを立ち上げる。

それぞれが技術的にはサービスであり、したがってそれぞれがガバナンスを必要とする。しかし、これらのツールのほとんどは、正式なレビューやセキュリティ・スキャン、IDの記録なしに企業に入ってくる。

従来の可視化ツールでは、これらのツールを明確に見ることはできない。CASBツールは新しいSaaSドメインにフラグを立てるかもしれないが、クラウド機能やVM上で静かに稼働している数百のAIエージェントを捕まえることはできない。

それは悪意があるのではなく、ただ速いだけなのだ。そして、スピードは常に監視の敵である。

新しいタイプのアイデンティティのための新しいルール

では、マシンスピードで動作し、可視化できない可能性のあるものをどのように保護すればいいのだろうか？セキュリティ・チームは、新しい方法でアイデンティティ戦略を適応させる必要がある：

1. 所有権とライフサイクルを追跡する。 すべてのエージェントには、指定された所有者が必要である。人間が去ったら、エージェントも去るべきである。
2. 意図とコンテキストを適用する。 すべてのエージェントのアクションは、誰がトリガーしたのか、どのようなタスクを遂行するのか、どのデータに触れる権利があるのか、といった「on behalf of（代理）」のデータを持つ必要がある。その連鎖を失うと、説明責任を失うことになる。
3. デフォルトは読み取り権限のみ。エージェントは、閲覧のみのアクセスから始めるべきである。書き込み権限は明示的に承認され、期限付きでなければならない。

ライフサイクルの問題

ほとんどの企業では、AIエージェントが不要になったときに、きれいに引退させるプロセスを持っていない。3月に実験として開始した開発者プロトタイプが、10月になってもまだ稼働している。別のエージェントは、プロンプトやツールの変更を経て静かに進化し、今では顧客データにアクセスできるようになっている。これらのエージェントは悪意があるわけではないが、目に見えず、永続的で、強力である。

そのため、多くの企業がAIエージェントのインベントリを作成し、アクティブなエージェント、その目的、所有者、権限、寿命をリストアップしている。これは、AIエージェントとそのアイデンティティを管理できるようにするために必要な下準備である。

恐怖を超えるガードレール

あなたの組織がAIを活用して効率と競争上の優位性を得ようとするとき、エージェントの活動を止めることが目的ではない。エージェントが効果的な監視とガバナンスを受けられるようにすることだ。

組織が新入社員にすべての管理者権限を与えないのと同じように、AIエージェントにも具体的な責任を与え、彼らの仕事を確認し、彼らの決定をチェックする必要がある。

重要なのは、チームが自動的に範囲を制限し、行動を記録し、不正なプロセスが害を及ぼす前にシャットダウンするシステムを構築できるようにするためのガバナンスである。なぜなら、これらのエージェントは単にレポートをまとめたり、チケットをトリアージしたりするだけではないからだ。彼らはインシデントを解決し、トランザクションを承認し、顧客と直接やり取りしているのだ。

そうなれば、「シャドーAI」は好奇心ではなく、危機となるだろう。

要点

エージェントAIは将来の問題ではない。すでにあなたのスタックの中にある。もしあなたがまだ人間か人間でないかのどちらかでアイデンティティを管理しているのであれば、第3のカテゴリーである自律的アクターのためのスペースを作る時だ。彼らにはアイデンティティ、パーミッション、アカウンタビリティが必要だ。

エージェントを認証情報を持つスクリプトではなく、スーパーパワーを持つ同僚のように扱えば、企業はより安全になる。

14以上のサイバーセキュリティ業界のリーダーによるベストプラクティスについては、東建セキュリティのAIセキュリティガイドをご覧ください。

主催・執筆：東建セキュリティ