Tilly Norwood video call face scans users

昨夜、再生回数が800万回を超えた動画の中で、AI女優のティリー・ノーウッドが、番組『Piers Morgan Uncensored』のインタビュー中に不具合を起こし、予期せず中国語を話し始めた。

ノーウッドは、近日公開予定のAI生成映画『Misaligned』に出演していることから、多くの物議を醸し、主流メディアでも盛んに取り上げられてきた。

彼女の制作者たちは、「トーキング・ティリー」というサービスを運営しており、このバズった瞬間の背景にあるAIキャラクターと誰でもビデオ通話ができるようになっている。そこで今日、私も実際に試してみて、ほとんどの利用者が見落とすような細かい注意事項を読んでみた。

「こんにちは」と言う前に顔認証が必要

最初の通話がつながる前に、自動の年齢確認を通過しなければならない。

スペインを拠点とする本人確認サービスプロバイダー「Didit」が、ビデオ自撮り画像を分析して年齢を推定し、推定が不明確な場合は政府発行の写真付き身分証明書のアップロードが代替手段として求められる。

Viral AI actress live video call hotline prompts you for a video selfie
話題のAI女優とのライブビデオ通話ホットラインでは、ビデオ自撮り写真の提出が求められます
()

Tillyを運営する英国企業Xicoia Ltdは、自撮り画像は利用者のデバイスからDiditへ直接送信され、顔認証データや生体認証テンプレートは作成されず、確認後に自撮り画像や身分証明書の画像は一切保持されないと説明している。同社によると、代わりにおおよその年齢帯と参照番号のみが保持されるという。

この確認はスキップできず、世界中の発信者に適用されるもので、職場での利用禁止や新しい自動安全システムとともに、今月になって初めてサービスの利用規約に追加された。

顔スキャン以外にも分析が行われている。

通話中、システムはカメラの映像を監視し、声のトーンを分析して感情状態を推測します。これにより、同社の表現を借りれば、キャラクターがその場の雰囲気に合った応答ができるようになります。

プライバシーポリシーには、この機能が「個別の通話ごとに無効にすることはできない」と率直に明記されている。これを望まない場合は、電話をかけないこと。

特筆すべきは、年齢確認と感情検知の両方が、法的根拠として同意ではなく「正当な利益」に依拠している点であり、Xicoia自身のバージョン履歴によれば、この選択は9月に行われたものである。

通話は録音・文字起こしされ、米国のプロバイダーによってリアルタイムで処理され、キャラクターの応答は、会話型ビデオプラットフォーム「Tavus」を介してGoogleのGeminiモデルによって生成される。

安全システムにも初期段階の課題がある。

自動分類システムが各通話の文字起こしを審査して侮辱的な言葉がないかチェックし、該当すると判断された場合は録音が公開されない。

私が行った3回の通話のうち1回、天気やニュースの見出しについて話した会話が、実際には一切使用されていない「憎悪表現や侮辱的な言葉」を理由に保留されてしまった。ポリシーによれば、誤ってフラグが立てられた録音は人間の審査員が公開できることになっているが、いずれにせよ録音は24時間後に永久に削除される。

最初の5分間は無料、その後は課金が始まる

最初の5分間は無料です。その後、通話者には通話時間の購入を促すメッセージが表示されます。1回限りの5分間のスターターパックが0.99ポンド、15分間で13ポンド、30分間で22ポンドで、1人あたりの購入上限は35分間となっています。

Users get free 5 minutes with Tilly before being asked to pay up
ユーザーはティリーとの通話を5分間無料で利用でき、その後支払いを求められます
()

このサービスは期間限定であるため、ここでは通常以上に利用規約の詳細が重要です。

無料・有料を問わず、すべての利用時間は、9月27日に「Talking Tilly」が永久にサービス終了する時点で失効し、未使用の時間は無効となります。

会話の文字起こし記録は最大8週間保存され、Xicoiaのスタッフやサードパーティのパートナーによって確認される可能性があります。また、キャラクターは今後の会話をパーソナライズするために過去の会話内容を記憶していますが、リクエストに応じて削除することも可能です。

英国の動向に沿って

チャットボットと会話するために18歳以上であることを確認する顔スキャンは斬新に聞こえるかもしれませんが、これは英国の政策の方向性と一致しています。

「オンライン安全法」に基づき、英国の訪問者を対象とするアダルトサイトでは2025年7月から身分証明書のアップロードまたは顔による年齢推定が義務付けられており、政府による16歳未満のソーシャルメディア利用禁止措置により、2027年春からは新しいソーシャルメディアアカウントを開設するすべての人にとって、同様の確認が日常的なものとなるでしょう。

英国政府によるこの禁止措置の発表では、18歳以上を対象とした規制の適用対象として、特にAIコンパニオンチャットボットが挙げられていた（同サービスの安全に関する文書では「ティリーはコンパニオンではない」と主張しているにもかかわらず）。これが、話題となったAIキャラクターがサービス提供の途中で生体認証による年齢制限を導入した理由を説明しているのだろう。

その結果として、英国の規制に基づくコンプライアンス上の決定により、マンチェスターからオハイオに至るまで、世界中の利用者に対して顔認証が実施されるようになった。

これは偶然か、それともマーケティング戦略か？

ティリーの生みの親であるエライン・ファン・デル・ヴェルデン氏が設立したXicoia社は、このキャラクターを、AI動画技術がいかに進歩したかを示すことを目的とした啓発プロジェクトであると説明している。

私との電話で、ティリー自身がピアーズ・モーガンとのあの場面について、「それは厳密には承認済みの回答ではなかった」と説明していました。

また、彼女は名目上はイギリス人であるにもかかわらず、自分の「クラウド」の天気を華氏で教えてくれた。

「Talking Tilly」は、ピアーズ・モーガンとの出演から数日後の9月27日、太平洋時間午後11時59分に完全にオフラインとなる。

昨夜の失言が、ティリーが今日私に陽気に主張したように本当に偶然のものだったのか、それとも「Misaligned」クルーによる絶妙なタイミングのパフォーマンスだったのかは、ティリーだけが知っている。