大きな写真
（1672×941 ピクセル, 143 Kbyte）
事例
SmarterArticlesの研究報告は、SNS動画や留守番電話などに含まれる短い音声を材料に、本人そっくりの声を作るAI音声クローンが家族を装う詐欺に利用されていると警告しています。犯人は、子や孫の声で「事故を起こした」「誘拐された」などと訴え、弁護士や警察官を装う人物へ電話を代わり、保釈金や身代金を至急支払うよう迫ります。
報告で紹介された米国フロリダ州の事例では、女性が娘の泣き声に似た電話を受け、「運転中に事故を起こした」と告げられました。その後、弁護士を名乗る男の指示に従い、女性は1万5,000ドルを引き出して配達人へ渡しました。しかし、本物の娘は職場におり、事故にも遭っていませんでした。緊急事態を演出して恐怖と家族愛を刺激し、本人確認をする時間を奪うことが、この詐欺の特徴です。
米連邦捜査局（FBI）によると、2025年（令和7年）に受理したAI関連犯罪の申告は2万2,364件、調整後損失額は約8億9,300万ドルでした。このうち、60歳以上の被害者の損失は約3億5,200万ドルです。被害者がAIの使用に気づかなかったり、羞恥心から届け出なかったりする場合もあるため、実際の被害は統計より大きい可能性があります。
米連邦捜査局（FBI）によると、2025年（令和7年）に受理したAI関連犯罪の申告は2万2,364件、調整後損失額は約8億9,300万ドルでした。このうち、60歳以上の被害者の損失は約3億5,200万ドルです。被害者がAIの使用に気づかなかったり、羞恥心から届け出なかったりする場合もあるため、実際の被害は統計より大きい可能性があります。
問題点
第一の問題は、攻撃に必要な音声が日常的に公開されていることです。留守番電話の応答、SNSの短い動画、配信やポッドキャストなどは、声の特徴を学習させる材料になり得ます。音声は氏名や住所のように後から変更できない生体情報であり、一度公開された録音を完全に回収することは困難です。
第二の問題は、音声合成サービスの悪用防止策にばらつきがあることです。Consumer Reportsの調査では、主要6サービスの多くで、声の本人が同意したことを技術的に確かめる仕組みが不十分でした。利用者が権利を持つと自己申告するだけでは、第三者による無断複製を確実には防げません。
第三の問題は、偽音声を聞き分ける責任が電話を受けた人に集中していることです。合成音声は急速に自然になっており、平常時でも真偽の判定は容易ではありません。まして、家族が泣きながら助けを求める状況では、冷静な確認が難しくなります。高齢者だけの知識不足や不注意として扱うと、音声合成サービス、通信網、金融機関など、被害を大規模に防げる場所での対策が進みません。
第二の問題は、音声合成サービスの悪用防止策にばらつきがあることです。Consumer Reportsの調査では、主要6サービスの多くで、声の本人が同意したことを技術的に確かめる仕組みが不十分でした。利用者が権利を持つと自己申告するだけでは、第三者による無断複製を確実には防げません。
第三の問題は、偽音声を聞き分ける責任が電話を受けた人に集中していることです。合成音声は急速に自然になっており、平常時でも真偽の判定は容易ではありません。まして、家族が泣きながら助けを求める状況では、冷静な確認が難しくなります。高齢者だけの知識不足や不注意として扱うと、音声合成サービス、通信網、金融機関など、被害を大規模に防げる場所での対策が進みません。
対策
個人と家族は、緊急の電話を受けても、いったん通話を切り、相手が名乗った家族の普段の番号へ自分からかけ直します。電話の内容や表示された発信者番号を信用せず、別の家族にも確認します。家族だけが知る合言葉を事前に決めておくことも有効です。現金、暗号資産、ギフトカード、秘密の支払いを急に求められた場合は詐欺を疑い、金融機関や警察へ相談します。
SNSへ動画を投稿するときは、本人だけでなく家族の声が不用意に含まれていないかを確認します。ただし、声を一切公開しない対策には限界があります。個人の注意を最後の防波堤とし、次のような多層防御を整える必要があります。
SNSへ動画を投稿するときは、本人だけでなく家族の声が不用意に含まれていないかを確認します。ただし、声を一切公開しない対策には限界があります。個人の注意を最後の防波堤とし、次のような多層防御を整える必要があります。
- 音声合成サービス
- 複製される本人の明示的な同意を、録音による本人確認などで検証します。生成物の追跡情報を保存し、悪用したアカウントを捜査機関が追跡できるようにします。
- 通信事業者
- 発信元情報を認証し、不審な番号や大量発信を警告・遮断します。ただし、発信番号の認証だけでは話者本人や声の真正性まで証明できないため、利用者が折り返し確認しやすい表示や案内も必要です。
- 金融機関
- 高齢者による突然の高額送金や現金引き出しなど、通常と異なる取引を検知し、一時保留、追加確認、冷却期間を設けます。被害補償制度と組み合わせ、金融機関自身が予防策を強化する動機を持つ仕組みにします。
- 行政・捜査機関
- 被害者を責めずに相談を受け、AIの利用が不明な事案も含めて情報を収集します。被害の手口を共有し、音声の無断複製、なりすまし、自動発信、資金移動を一体として規制・捜査します。
参考サイト
- The Three-Second Theft: Why AI Voice Fraud Outruns Every Defence：SmarterArticles, 2026年7月15日
- Cryptocurrency and AI Scams Bilk Americans of Billions：Federal Bureau of Investigation, 2026年4月
- INTERPOL report warns of increasingly sophisticated global financial fraud threat：INTERPOL, 2026年3月
- Consumer Reports' Assessment of AI Voice Cloning Products：Consumer Reports, 2025年3月10日
- FCC Makes AI-Generated Voices in Robocalls Illegal：Federal Communications Commission, 2024年2月8日
（この項おわり）
