WhatsApp

WhatsAppは、新しいオプション機能「詐欺アラート」の提供を開始しました。この機能は、ローカルの機械学習モデルを活用し、ユーザーが詐欺師の標的となっている場合に警告を発します。

「詐欺アラート」は現在、限定的なベータ版として提供されており、同社はバグ報奨金プログラムのコミュニティに所属する研究者らと協力して、この新しい警告システムのテストを行っています。

「本日、デバイス上で動作する機械学習モデルを活用し、詐欺の疑いがあるメッセージについてユーザーに警告する新しいオプション機能『Scam Alert』の概要をご紹介します」とWhatsAppは述べています。 「メッセージの内容が分類のために端末外へ送信されたり、WhatsApp、Meta、またはその他の第三者に自動的に報告されたりすることはありません。この機能はエンドツーエンド暗号化を補完すると同時に、モデルが詐欺の可能性が高いと判断した場合に、ユーザーが制御可能なオプションの詐欺アラートを有効にします。」

image

このモデルは、ユーザーから報告された詐欺の会話データを用いて学習されており、連絡先登録外の相手からの受信メッセージが、言語的シグナルや会話構造に基づく確率的分類を用いて、既知の詐欺パターンに一致するかどうかを検証するように設計されています。

詐欺の疑いがあると検知された場合、ユーザーにはチャットの警告が表示され、相手をブロックするか、通報するか、会話を続けるかを選択するよう求められます。

「警告が誤って表示されたと判断した場合、ユーザーはそのチャットを『信頼済み』としてマークできます。そうすれば警告は解除され、『詐欺アラート』はそのチャットを再度警告対象として flag することはありません」とWhatsAppは付け加えた。 「ユーザーがチャットを『信頼できる』とマークした場合、機能の精度向上に役立てるため、受信した直近5件のメッセージをWhatsAppと共有することを選択することもできます。

同社によると、ローカルモデルによって処理されるメッセージデータおよびモデル自体は端末外に出ることはなく、ユーザーはいつでもこの新しい『Scam Alert』機能を無効にできる。

これは、ユーザーが詐欺行為に関与する前にそれを検知できるよう設計された新しいセキュリティ機能を導入した過去のアップデートが示すように、WhatsAppユーザーを詐欺師から保護するための広範な取り組みの一環である。

3月、Metaは、行動パターンからデバイス連携リクエストが詐欺である可能性が示唆された場合、WhatsAppがユーザーに警告を表示すると発表しました。これは、ユーザーを騙して悪意のあるQRコードをスキャンさせたり、連携コードを共有させたりすることでアカウントを乗っ取るために頻繁に用いられる手口です。

その2ヶ月前には、ジャーナリストや公人、その他のハイリスクな個人をスパイウェア攻撃を含む様々な高度な脅威から保護する、WhatsAppの「厳格なアカウント設定」という新たなロックダウン式のセキュリティ機能の提供も開始された。

この機能は、多くのジャーナリスト、活動家、政治家のスマートフォンが、WhatsAppなどのメッセージングアプリを介してスパイウェア（NSOグループの「ペガサス」を含む）に感染した事件を受けて導入された。これらの攻撃では、ユーザーの操作を必要とせずにiOSおよびAndroidデバイスをハッキングできる「ゼロクリック攻撃」が利用されていた。

WhatsAppのメッセージングサービスは、180カ国以上、30億人以上の人々が家族や友人とコミュニケーションをとるために利用している。