サイバー犯罪者がフィッシングやマルウェア攻撃に備えて AI チャットボットを訓練

マルウェアに焦点を当てたデータで訓練された ChatGPT クローンであるWormGPTに続いて、FraudGPT と呼ばれる新しい生成型人工知能ハッキング ツールが登場しました。また、Google の AI 実験である Bard に基づいているとされる少なくとも別のツールが開発中です。

どちらの AI 搭載ボットも同一人物の作品であり、フィッシングやソーシャル エンジニアリングから脆弱性の悪用やマルウェアの作成に至るまで、悪意のある目的に特化してトレーニングされたチャットボットの提供に深く関わっているようです。

FraudGPT は 7 月 25 日に公開され、CanadianKingpin12 というユーザー名を持つ人物によってさまざまなハッカー フォーラムで宣伝されており、このツールは詐欺師、ハッカー、スパマーを対象としているとのことです。

次世代サイバー犯罪チャットボット

サイバーセキュリティ企業 SlashNext の研究者らの調査により、CanadianKingpin12 が、ダークウェブから取得した無制限のデータセットを使用して、またはサイバー犯罪と戦うために開発された洗練された大規模言語モデルに基づいて、新しいチャットボットを積極的にトレーニングしていることが明らかになりました。

CanadianKingpin12 はプライベートな会話の中で、Google の会話型生成人工知能チャットボットの「ダーク バージョン」である DarkBART に取り組んでいると語った。

研究者らはまた、広告主が韓国の研究者によって開発され、ダークウェブデータで訓練された、サイバー犯罪と戦うためのDarkBERTという別の大規模言語モデルにもアクセスしていたことも判明した。

DarkBERT は関連する電子メール アドレスに基づいて学者に利用可能ですが、 SlashNext は、ハッカーやマルウェア開発者にとってこの基準は決して困難ではなく、学術機関から約 3 ドルで電子メール アドレスにアクセスできることを強調しています。

SlashNext の研究者らは、CanadianKingpin12 が DarkBERT ボットは「ダークウェブで特別に訓練された独自のカテゴリーのすべてのボットよりも優れている」と述べたと共有しました。悪意のあるバージョンは次のように調整されています。

• ユーザーのパスワードやクレジット カードの詳細をターゲットにした高度なフィッシング キャンペーンを作成する
• 高度なソーシャル エンジニアリング攻撃を実行して、機密情報を取得したり、システムやネットワークに不正にアクセスしたりする。
• コンピュータ システム、ソフトウェア、ネットワークの脆弱性を悪用します。
• マルウェアの作成と配布。
• ゼロデイ脆弱性を悪用して金銭的利益やシステム中断を図る。

CanadianKingpin12 が研究者らとのプライベートメッセージで述べたように、DarkBART と DarkBERT は両方ともライブインターネットアクセスを備え、画像処理のために Google レンズとシームレスに統合されます。

DarkBERT の悪意のあるバージョンの可能性を示すために、開発者は次のビデオを作成しました。

CanadianKingpin12 が DarkBERT の正規バージョンのコードを変更したのか、それとも単にモデルへのアクセスを取得して悪意のある使用に利用しただけなのかは不明です。

DarkBERT の起源や攻撃者の主張の正当性に関係なく、生成型 AI チャットボットを使用する傾向は高まっており、能力の低い攻撃者や攻撃者にとって簡単なソリューションを提供できるため、採用率も増加する可能性があります。他の地域へ事業を拡大したいが、言語スキルが不足している方。

高度なソーシャル エンジニアリング攻撃の実行とその開発を 1 か月以内に支援できる 2 つのツールにハッカーがすでにアクセスできるようになっていることから、「サイバーセキュリティとサイバー犯罪の状況に対する悪意のある AI の重大な影響が浮き彫りになっている」と SlashNext の研究者は考えています。