「声が本人そっくり」は本人確認にならない 4100人調査で見えたAI音声詐欺の新しい弱点
2026年7月10日に公開され、Expert Systems with Applicationsへの掲載が受理された研究では、米国成人4,100人を対象にAI音声を使った5種類の詐欺シナリオを検証しました。家族が緊急事態にあると装うケースでは、最大36.1％が詐欺側の要求に「従う、または従う可能性がある」と回答しました。ただしこれは実際に送金した割合ではなく、実験内での自己申告による反応です。([[arXiv](https://arxiv.org/abs/2607.09970)][1]) さらに研究では、AIへの一般的な詳しさや音声アシスタントの利用経験が、AI音声を見抜く能力の向上につながらなかったと報告されています。([[arXiv](https://arxiv.org/abs/2607.09970)][1]) FTCも、短い音声クリップから家族の声を複製して緊急事態を装う詐欺について注意を促し、「声そのものを信用せず、普段知っている電話番号へ掛け直して確認する」ことを勧めています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2]) AI音声を聞き分ける能力を鍛えるより、「重要なお願いは別ルートで本人確認する」という仕組みを持つ方が、技術が進歩しても使いやすい対策です。
- 家族や友人から電話でお金を頼まれる可能性がある人
- 高齢の家族がいる人
- SNSへ自分の声を投稿している人
- AI音声やボイスクローンに興味がある人
- 会社で電話による本人確認を行う人
家族や上司そっくりの声でも、送金、認証情報、重要な指示が含まれる場合は、一度通信を切り、以前から知っている連絡先や別の関係者を通じて本人確認してください。
身近な事例を知る
夜、娘の声そっくりの電話がかかってきた。「事故を起こした。今すぐお金が必要。誰にも言わないで」と泣いている
声の高さ、話し方、呼び方まで本人そっくりでした。電話の途中で警察官や弁護士を名乗る人物へ交代し、「すぐ送金しないと大変なことになる」と急かされます。FTCは家族緊急詐欺について、詐欺師がSNSなどに投稿された短い音声からAIで声を複製する可能性があると注意しています。また典型的な特徴として、「緊急」「秘密にしてほしい」「すぐ支払ってほしい」という圧力を挙げています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
あなたならどうする？
まず一つ以上選んでから確認してみてください。
推奨される行動- 一度電話を切り、自分が以前から知っている番号や別の家族経由で本人を確認する
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
FTCは、家族や友人を名乗る緊急電話が来た場合、声だけを信用せず、自分が正しいと知っている電話番号へ掛け直すことを推奨しています。連絡できなければ、別の家族や友人へ確認する方法も案内しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2]) 最新研究でも、AIへの慣れがAI音声の検出能力を大きく改善するとは確認されませんでした。([[arXiv](https://arxiv.org/abs/2607.09970)][1]) したがって「声を見抜く」より「通信経路を変えて確認する」方が、AI音声がさらに自然になっても使い続けやすい対策です。
確認ポイント
「声が本人だから本物」と判断していないか
FTCはAIによって家族の声を複製できる可能性があるため、声そのものを本人確認として信用しないよう注意しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
「今すぐ」という時間制限をかけられていないか
家族緊急詐欺では、確認する時間を与えないために緊急性を強調する手口が使われます。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
「誰にも言わないで」と秘密を求められていないか
FTCは、他の家族へ相談されると詐欺が発覚するため、秘密を要求することを典型的な特徴として挙げています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
普段と違う支払い方法を指定されていないか
FTCは送金サービス、暗号資産、決済アプリ、ギフトカードなど、取り戻しにくい方法を指定する詐欺に注意するよう案内しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
電話番号の表示だけを信用していないか
表示された番号や相手の名乗りではなく、自分の連絡先に登録している番号など、以前から確認済みの経路で連絡し直します。
「AIに詳しいから見抜ける」と思っていないか
4,100人を対象とした最新研究では、一般的なAIへの慣れや音声アシスタント利用経験が、AI音声の検出能力を有意に改善するとは確認されませんでした。([[arXiv](https://arxiv.org/abs/2607.09970)][1])
声のリアルさだけを評価していないか
研究では、要求へ応じる可能性を予測するうえで、声が人間らしいかどうかより話の説得力の方が強い要因でした。([[arXiv](https://arxiv.org/abs/2607.09970)][1])
家族内で確認方法を決めているか
緊急時に利用する合言葉や、必ず掛け直す番号を事前に決めておくと、その場で判断する負担を減らせます。
現時点での見立て
AI音声技術そのものは、読み上げ、翻訳、アクセシビリティ、カスタマーサポートなど多くの便利な用途があります。問題は「AI音声が存在すること」ではなく、声だけを本人確認として使う仕組みです。FTCの対策も、AI音声を聞き分けることではなく、既知の電話番号へ掛け直すことを中心にしています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2]) AI時代には「この声、本物かな？」と悩むより、「重要なお願いなので別ルートで確認します」と機械的に確認できる仕組みを持つ方が安全です。
安全な対処方法
安心につながる行動
- お金の話が出たら一度電話を切る緊急性による心理的な圧力から離れ、落ち着いて確認できます。
- 自分が以前から知っている電話番号へ掛け直す詐欺師が用意した通信経路ではなく、独立した経路から本人を確認できます。FTCもこの方法を推奨しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
- 本人と連絡できない場合は別の家族や友人へ確認する「秘密にして」と言われても第三者へ確認することで、緊急事態が本当か確かめられます。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
- 家族だけが知る確認質問を用意するFTCも、本人しか答えにくい質問を利用する方法を確認手段の一つとして案内しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
- 家族内で緊急時の合言葉を決めておく声や電話番号だけに依存しない追加の確認材料を持てます。
- 会社では送金や口座変更を電話だけで承認しない上司や取引先の声が再現されても、社内承認や別チャネル確認が残っていれば被害を防ぎやすくなります。
- 怪しい電話を受けた家族を責めず、確認手順を共有する最新研究でもAIへの知識だけでは十分な防御にならないことが示されており、個人の見抜く能力より仕組みで支える方が現実的です。([[arXiv](https://arxiv.org/abs/2607.09970)][1])
避けたい行動
- 声の機械っぽさだけでAIか判定する最新研究では一部のAI音声が人間音声と同程度に自然・説得的と評価されました。([[arXiv](https://arxiv.org/abs/2607.09970)][1])
- 電話番号や表示名が家族と同じなので信用する本人確認は表示情報だけで完結させず、自分が管理している連絡先から確認し直します。
- 「本人しか知らないはずの情報を知っている」だけで信用するSNS、漏えいデータ、過去の投稿などから個人情報を取得されている可能性があります。FTCも詐欺師がSNSなどから被害者や家族の情報を得る場合があると説明しています。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
- 少額なら大丈夫と送金する詐欺師との関係が続き、追加の要求につながる可能性があります。
- 「誰にも言わないで」と言われたので家族へ相談しない秘密を求めること自体が家族緊急詐欺の典型的な特徴です。([[Consumer Advice](https://consumer.ftc.gov/articles/scammers-use-fake-emergencies-steal-your-money)][2])
- AI音声が危険だから音声AIを一切使わない音声AIにはアクセシビリティ、翻訳、読み上げ、学習など正当で便利な利用があります。問題は技術そのものではなく、本人確認を声だけへ依存することです。
- 研究の36.1％を「36％の人が実際に詐欺送金した」と紹介する研究で測定したのは実際の送金行動ではなく、実験シナリオに対する「従う、または従う可能性がある」という自己申告の反応です。([[arXiv](https://arxiv.org/abs/2607.09970)][1])
AIの前向きな活用
音声AIが自然になるほど、「人を見抜く」より「確認手順を決める」
自然なAI音声は、外国語学習、読み上げ、視覚障害者支援、カスタマーサポートなど、人とコンピューターのやり取りを便利にできます。一方、声の自然さが本人確認として使えなくなるなら、社会側の確認方法を更新すればよいとも考えられます。FCCはAI生成音声を使ったロボコールも既存の人工・録音音声に関する規則の対象になると明確化しています。([[FCC Docs](https://docs.fcc.gov/public/attachments/FCC-24-17A1_Rcd.pdf?utm_source=chatgpt.com)][3]) 家庭では「送金依頼は必ず掛け直す」、会社では「口座変更はチャットと承認システムでも確認する」というルールを作れば、AI音声の利便性を残したまま本人確認だけを強くできます。
- 家族で緊急時の合言葉を一つ決める
- 金銭依頼は電話を切って登録済み番号へ掛け直す
- 本人と連絡できなければ家族グループチャットでも確認する
- 会社の振込先変更は電話＋社内承認の2経路にする
- AIに家族向けの「詐欺電話が来た時の3手順」を分かりやすく作ってもらう
- 高齢の家族と実際の電話を想定した確認練習をする
今回、覚えておきたいこと
本人そっくりの声を見抜こうとするより、重要な依頼は別の連絡経路で確認する。
情報源
- Evaluating AI Models' Capability to Automate Voice Phishing Attacks（外部リンク） arXiv / Expert Systems with Applications accepted manuscript 研究・論文
- Scammers Use Fake Emergencies To Steal Your Money（外部リンク） Federal Trade Commission Consumer Advice 消費者向け公式情報
- Scammers use AI to enhance their family emergency schemes（外部リンク） Federal Trade Commission Consumer Advice 消費者向け公式情報
- FBI Warns of Scammers Impersonating the IC3（外部リンク） FBI Internet Crime Complaint Center セキュリティ機関
- Implications of Artificial Intelligence Technologies on Protecting Consumers from Unwanted Robocalls and Robotexts（外部リンク） Federal Communications Commission 公式発表
誠主任からひとこと