ChatGPT は、ユーザー フレンドリーなインターフェイスと信頼できる AI 生成の応答で注目を集めました。 1 つのプロンプトで、ChatGPT は他の AI アシスタントが達成できなかった詳細な回答を提供しました。 ChatGPT が訓練された大規模なデータセットを利用して、ChatGPT が対処できるトピックの幅広さと多様性は、テクノロジー業界と一般の人々をすぐに驚かせました。
しかし、技術の高度化は避けられない疑問を提起します: ChatGPT および同様の技術の欠点は何ですか?多数の現実的な応答を生成する機能を備えた ChatGPT を使用して、コンテンツの背後に本物の人間がいると気取らない読者を騙すことができる多数の応答を作成できます。
ChatGPT について
AIアシスタントといえば、GoogleやAlexaが真っ先に思い浮かぶかもしれません。 「今日の天気は？」のような質問をします。そして簡単な答えを得る。いくつかの会話機能は利用可能ですが、ほとんどの場合、さらに対話することで拡張できる長い形式の AI 生成テキストを生成しません。
ChatGPT は複雑なプロンプトを受け取り、複数の段落にまたがる可能性のある完全な応答を生成します。前回の会話を記憶し、さらに質問をするとその内容を基に、より詳細な回答を提供します。
以下に例を示します。ChatGPT は、チョコレート ケーキを焼く手順をリストします。
ソース: Specops
この会話は、単純な材料リストから本格的な短編小説までさまざまです。ただし、ChatGPT はデータセットが原因で特定のトピックに応答しない場合があります。
さらに、応答が生成されたからといって、それが正確であるとは限らないことに注意することが重要です。 ChatGPT は私たちのように「考え」ません。インターネットからのデータを使用して応答を生成します。その結果、不正確なデータと関連するバイアスにより、予期しない回答が得られる可能性があります。
AI アシスタントのリスク
上記のように、すべての回答が同じというわけではありません。しかし、リスクはそれだけではありません。 ChatGPT の応答は説得力があるため、個人が書いたものであると信じ込ませるようなコンテンツを生成する可能性があります。
これは、テクノロジーの世界でそのようなテクノロジーの兵器化につながる可能性があります。
多くのフィッシング メールは、特にネイティブ スピーカー以外によって書かれた場合、簡単に認識できます。ただし、ChatGPT を使用すると、タスクが大幅に簡単になり、説得力が増します。 CheckPoint のこの記事に記載されているとおりです。
生成の速度と応答品質により、より信頼性の高いフィッシング メールや単純なエクスプロイト コードの生成への扉が開かれます。
さらに、ChatGPT モデルはオープンソースであるため、進取の気性に富む個人は、企業が作成した既存の電子メールのデータセットを作成して、フィッシング メールをすばやく簡単に生成するツールを作成できます。
ソース: Specops
フィッシング メールは、攻撃者がシステムにアクセスしてマルウェアやランサムウェアを展開する方法を提供し、重大な損害を引き起こす可能性があります。 ChatGPT が改善を続けるにつれて、悪意のある攻撃者にとってますます強力なツールになるでしょう。
非ネイティブ スピーカーが従業員に会話を通じて資格情報を放棄するよう説得しようとする場合はどうでしょうか。
既存の ChatGPT インターフェイスには機密情報の要求に対する保護がありますが、Microsoft ヘルプデスク技術者が使用する可能性があるフローとダイアログに AI モデルがどのように通知するのに役立ち、要求に信頼性を与えるかがわかります。
ソース: Specops
ChatGPT の悪用からの保護
疑わしいメールを受信し、ChatGPT によって全体または一部が作成されたのか疑問に思ったことはありませんか?幸いなことに、役立つツールがあります。これらのツールはパーセンテージで機能するため、絶対的な確実性を提供することはできません。ただし、合理的な疑いを引き起こす可能性があり、適切な質問をして、電子メールが本物かどうかを判断するのに役立ちます.
たとえば、以前に作成したパスワード リセット メールの内容を貼り付けた後、ツール GPT Zero は、AI によって生成された可能性のあるセクションを強調表示します。これは絶対確実な検出ではありませんが、一時停止して、特定のコンテンツの信憑性を疑問視する可能性があります。
ソース: Specops
このツールを使用して、AI が生成したテキストを識別できます:https://gptzero.me/.
ChatGPT で増加するソーシャル エンジニアリング
偽のサポート リクエストから、発信者 ID のスプーフィング、さらには ChatGTP を使用したスクリプトまで。インターネットには、成功するソーシャル エンジニアリング スキームを促進するのに役立つリソースがたくさんあります。攻撃者は、ChatGPT を他のソーシャル エンジニアリング手法とともに使用して、複数の攻撃ベクトルを組み合わせることでソーシャル エンジニアリング攻撃を進めています。
ChatGPT は、攻撃者が偽の ID を作成するのに役立ち、攻撃が成功する可能性を高めます。
Specops Secure Service Desk で安全を確保
Specops Secure Service Desk は、 ChatGPT によって生成されたソーシャル エンジニアリングの試みを含む、ヘルプ デスクへのサイバー攻撃を防ぐのに役立ちます。 Specops Secure Service Desk を使用すると、ターゲットを絞ったソーシャル エンジニアリング攻撃でサイバー犯罪者が簡単に入手できるセキュリティの質問を超える安全な検証アプローチを使用して、ユーザーが本人であることを確認できます。
たとえば、ユーザーがパスワードのリセットのためにサービス デスクに電話をかけた場合、ツールはサービス デスク エージェントがパスワードをリセットする前にユーザーの身元を確認することを要求します。
ユーザーは、Active Directory アカウントに関連付けられた携帯電話番号に送信されるワンタイム コードで確認できます。また、Duo Security、Okta、PingID、Symantec VIP などの既存の認証サービスでも確認できます。組織は、これらのオプションを階層化して、サービス デスクで MFA を適用することもできます。
ビッシング詐欺が衰える兆しを見せておらず、ChatGTP が AI テクノロジーと共に進化するように設定されているため、Specops Secure Service Desk ソリューションへの投資は、組織自身を保護しようとする組織にとって重要なステップとなる可能性があります。
ChatGPT の未来とユーザーの保護
ChatGPT はゲームチェンジャーであり、AI によって生成された会話のための使いやすく強力なツールを提供します。潜在的なアプリケーションは多数ありますが、組織は、攻撃者がこのツールを使用して戦術を改善する方法と、組織にもたらす可能性のある追加のリスクを認識しておく必要があります。
Specops Softwareによる後援および執筆
Comments