サイバー攻撃者が人工知能を使って、より合法的に見え、エラーの少ないフィッシング・メールを書くことで、その手口を大幅に向上させていることは周知の事実だ。しかし、彼らがAIを使ってやっていることはそれだけではない。
グーグルは最近、国家に支援された高度持続的脅威（APT）グループが、同社のAIアシスタント「Gemini」を使って、ツールやスクリプトを開発するためのコーディングの手助けを得たり、公開されている脆弱性の調査を行ったり、技術の説明を検索したり、標的組織の詳細を探したり、侵害されたネットワークに侵入する方法を検索したりしていることを明らかにした。
サイバー攻撃者はAIを効果的に利用することにおいてリードしている…今のところは。
もちろん、サイバー攻撃者たちは、より優れたフィッシング・メールをより迅速に作成するために、依然としてジェネレーティブAIを使用している。 Acronis Threat Research Unit（TRU）が、2023年下半期から2024年下半期にかけて電子メールベースの攻撃件数が約200％増加した理由を説明できるだろう 。最も一般的な攻撃ベクターは？フィッシングが4件中3件を占めている。
これらの攻撃と、ディープフェイクに基づく脅威、さらにはAIモデルの潜在的なポイズニングを組み合わせると、これまでのところ、ジェネレーティブAIはサイバーセキュリティの観点からは、せいぜい玉石混交であると言うのが妥当だろう。
ジェネレーティブAIのポジティブな効果がどのようなものであれ、急速に進化するテクノロジーのマイナス面も大きい。実際、サイバー犯罪者はAIの効率的かつ効果的な利用において、多くのサイバーセキュリティ・プロバイダーよりも優位に立っている。しかし、それも長くは続かない。
サイバーセキュリティ・ベンダーはAIを使って反撃に出る
サイバーセキュリティ・コミュニティは、マルウェア集団やその他の脅威行為者に追いつこうと急いでおり、そのコミュニティは成功を収めている。ソリューション開発者は、マルウェア・サンプルの未知のバリエーションを検出するなどの目的で、ほぼ10年前からAIを使用しており、最近では、ジェネレーティブAIの出現により、サイバーセキュリティ・ベンダーは、AIと戦うためにAIを使用する新しい方法を発見した。
発展途上の技術の1つに、エンドポイント検出・対応（EDR）などのサイバーセキュリティ・アプリケーションと連携したAI搭載チャットボットがある。このような進化したボットは、セキュリティ・インシデントについて、専門用語や理解を妨げるその他の障壁を排除した、簡潔で理解しやすい説明を提供することができる。
何がインシデントを引き起こし、インシデントがどのような影響を及ぼしたかを明確に把握することで、ITの専門家ではないユーザーも、将来的に侵害の試みを回避する方法をよりよく理解し、システムをより安全にするための対策を講じることができます。
さらにまだある。ベンダーは、脅威の発見や修復といった重要なタスクを支援する機能をソリューションに組み込んでいる。アナリストはその情報を利用して、より良い情報に基づいた意思決定をより迅速に行い、セキュリティ・インシデントを迅速に緩和・修復するための効果的な戦略を考案することができます。
AIは、新しいチケットと類似した説明を持つ過去のサポート・チケットのセマンティック検索を実行することで、セキュリティおよび管理プロセスの自動化を支援することができます。AIアシスタントは、すでに解決されたチケットに基づいて解決策を推奨することができます。
AIはまた、類似した問題を自動的にグループ化し、根本原因の分析を提供することもできる。さらにベンダーは、時間のかかる問題の主な原因を特定し、修正を推奨するために利用できる。
AIベースのスクリプト生成はサイバーセキュリティの土俵を平らにする可能性がある
AIベースのスクリプト生成は、手作業による入力の必要性や熟練したエンジニアを見つける必要性を減らすことが期待できる、進化する機能である。また、ヒューマンエラーの可能性を最小限に抑え、スクリプトの開発プロセスを加速させる可能性もある。
組織は、AIベースのスクリプトを使用してユーザーとシステムを管理し、ソフトウェアのインストールを自動化して修復ステップを実行できるようになる。
また、AIを活用することで、何千ものクライアントワークロードにわたって構成を標準化し、セキュリティ構成を自動化することも可能になる。その結果、開発時間が短縮され、実行に移すための専門知識も少なくて済むサイバーセキュリティ機能が実現する。
AIベースのスクリプト生成は、あらゆる技術スキルレベルのユーザーに強力な機能を提供できる可能性があるため、特に有用である。スクリプト作成ツールが進化すれば、比較的初心者でも要件を入力し、すぐに使えるスクリプトを受け取ることができるようになる。
AIはまた、スクリプトの読みやすさを向上させるための追加指示やインラインコメントによって、既存のスクリプトを強化することもできる。EDRとの統合により、セキュリティ脅威に対応したインシデント修復スクリプトの即時作成が容易になる。
AIサイバーセキュリティの戦いは続く
ジェネレーティブAIの登場は、テクノロジーを利用するすべてのユーザーに新たなリスク要素をもたらした。AIプラットフォーム自体も攻撃を受けている。
しかし、迅速な技術革新、ユーザーからのフィードバックへの対応、そしてAIが保護のためのツールとしてどのように機能するかについての鋭い理解により、セキュリティ・ベンダーは、犯罪行為にAIを利用するサイバー攻撃者に対して優位に立つことを追求し続けるだろう。
TRUについて
Acronis Threat Research Unit（TRU）は、脅威インテリジェンス、AI、リスク管理を専門とするサイバーセキュリティ専門家チームです。TRUチームは、新たな脅威の研究、セキュリティに関する洞察の提供、ガイドライン、インシデント対応、教育ワークショップによるITチームのサポートを行っています。
アクロニスが後援・執筆
Comments