毎日見る
株式会社Mainichi Miru Inc. お問い合わせ
詐欺・なりすまし はじめて

TikTokのAI動画、ラベルだけで終わらせない。怪しい投稿は「Deepfakes」で通報する

TikTokは、AIで完全に生成または大幅に編集された投稿について、投稿者による「creator labeled as AI-generated」と、自動で付く「AI-generated」という複数のラベルを案内しています。自動ラベルは、TikTokのAI効果や、Content Credentialsを含む投稿などに付く場合があり、付いた後は投稿者が外せません。ただし、ラベルがあっても、実在の私的な人物の肖像・声を無断で使うことや、人を害する誤認を招く内容が許されるわけではありません。TikTokで問題のあるAIなりすまし動画を見つけた時は、共有メニューから「Report」→「Misinformation」→「Deepfakes, synthetic media, and manipulated media」を選んで報告できます。ラベルの有無を眺めるだけで終わらせず、拡散前に報告先を選ぶ手順を扱います。

  • TikTokで家族・著名人・公的機関になりすましたように見えるAI動画を見かける人
  • AI生成の可能性がある投稿を、拡散せずに報告する操作を知りたい人
  • TikTok
  • ディープフェイク
  • AI動画
  • なりすまし
  • 通報
  • 誤情報
確認レベル 4 TikTokのAIなりすましは、再共有せずDeepfakesとして通報する
危険度ではなく、必要な確認の程度を表しています。

本人が言っていない発言や出来事を示すように見える投稿は、共有より先に通報画面を開きましょう。

Step 1

身近な事例を知る

知人が言っていないはずのことを話す、リアルなTikTok動画が流れてきた

投稿にはAI生成と書かれていないか、ラベルの意味が分かりません。コメントで広がっているため、真偽が分かるまで拡散はしたくありませんが、どの通報理由を選べばよいか迷っています。

Step 2

あなたならどうする？

TikTokで、実在の人が言っていない発言をしているように見えるAI動画を見つけた時の対応として適切なのは？
Step 3

確認ポイント

できれば確認

投稿者ラベルと自動ラベルの違い

投稿者自身が付けるラベルと、TikTokが検出して付ける自動ラベルがあります。自動ラベルは、AI効果やContent Credentialsを含む投稿に付く場合があります。

優先して確認

ラベルは利用許可ではない

実在人物が言っていないことを言ったように見せる投稿や、無断で私的な人物の肖像を使う投稿は、ラベルがあっても問題になり得ます。

優先して確認

通報する時の選択肢

問題の投稿の共有メニューからReportを選び、Misinformation、Deepfakes, synthetic media, and manipulated mediaへ進みます。

優先して確認

再共有を先にしない

検証目的でも、動画のダウンロードや再投稿は拡散につながります。通報は元の投稿から行い、必要なら投稿URLや画面を記録します。

Step 4

現時点での見立て

確度は高めAIラベルは安全証明ではない。なりすましが疑われる時は報告先を選ぶ

TikTokには投稿者ラベルと自動ラベルがありますが、ラベルが付いていても、他人の肖像・声の無断利用や害を及ぼす誤認が許されるわけではありません。疑わしい投稿は再共有せず、Deepfakes, synthetic media, and manipulated mediaとして報告することで、投稿を広げずに対応できます。

Step 5

安全な対処方法

安心につながる行動

  • なりすましが疑われる動画は再共有せず、元投稿の共有メニューから通報するTikTokは、AI生成・改変メディアの問題を報告する手順を案内しています。
  • Report → Misinformation → Deepfakes, synthetic media, and manipulated mediaを選ぶTikTokの案内にある、問題のあるAI生成コンテンツを報告する選択手順です。
  • ラベルがある時も、誰の肖像・声か、何を事実のように見せているかを確認するラベルは作られ方の情報であり、肖像利用や内容の安全性を許可するものではありません。
  • 本人・組織の公式アカウントや公式発表で、発言・出来事を別に確認する投稿内の映像・音声は、現実の発言や出来事を正確に示しているとは限りません。

避けたい行動

  • AI生成ラベルが付いているから、投稿内容まで問題ないと判断するラベルは透明性のための表示であり、無断の肖像利用や害を及ぼす誤認を正当化しません。
  • 真偽を聞く目的で、疑わしい動画を先に再投稿する訂正される前に動画を広げ、なりすましの影響を大きくするおそれがあります。
  • AIラベルがないことだけで、本物の発言・映像だと決めるラベルの有無だけでは、作られ方や内容の真偽を確定できません。
Step 6

AIの前向きな活用

通報手順を知り、AI動画を落ち着いて楽しむ

AIを使った創作動画と、人を害するなりすましを分けて考え、問題が疑われる時だけ適切に報告すれば、作品を一律に排除せずに安全な視聴環境づくりに参加できます。

  • 本人の発言のように見える動画は公式発表を確認する
  • 問題が疑われる動画は再投稿せず元投稿から通報する
  • 家族へDeepfakesの通報経路を共有する
  • 創作のAI動画は、投稿者の説明とラベルを読んで楽しむ
誠のアイコン

誠主任からひとこと

ラベルは親切な情報ですが、通報ボタンの代わりにはなりません。誰かが言っていないことを言ったように見せる動画は、面白半分の再共有でも本人の時間を奪います。私は、疑わしい時ほど『広める』より先に、元投稿で報告先を選べるようにしておきたいです。

今回、覚えておきたいこと

TikTokのAIなりすましは、再共有せずDeepfakesとして通報する。

情報源

関連記事

Googleの「この画像について」で初出と使用先を確認する

写真を「AIっぽい」で終わらせない。Googleの「この画像について」で初出と使われ方を確認する

情報の見極め はじめて

Google Searchの「About this image（この画像について）」では、Googleが画像または視覚的に似た画像を最初に確認した時期、同じ・似た画像を使う他のページ、より早い時期に現れたページなどを確認できる場合があります。画像ビューアーで「About」から「Learn more about an image」を選ぶ操作で使えますが、利用できる地域は限られます。画像に付随する情報から、カメラで撮影されたか、AIで生成されたかに関する文脈が表示される場合もあります。ただしGoogleは、クレジットやデジタルソース種別のメタデータは画像生成・編集ツールで変更できるため、他の情報源も確認するよう案内しています。AIらしさを見た目で推測して終わらせず、初出と利用文脈をたどる操作を扱います。

確認レベル 3 Googleの「この画像について」で、初出と利用文脈をたどる
  • SNSやメッセージで見た写真が、古い画像の転用ではないか確かめたい人
  • 画像がAI生成かどうかだけでなく、いつ・どこで使われたかを調べたい人
  • Google Search
  • Google画像検索
  • 画像検証
記事を見る

AI音声クローンの緊急電話は、声ではなく既知の連絡先で確かめる

家族の声でも送金しない。AI音声クローンの『緊急電話』は知っている番号へかけ直す

詐欺・なりすまし はじめて

米連邦取引委員会（FTC）は、詐欺師がネット上の短い音声を使って家族・友人の声をAIで複製し、事故・逮捕などを理由に送金を急がせる可能性を注意喚起しています。声が本人そっくりでも、声だけを証拠にしません。FTCが示す対応は、いったん電話を切り、本人だと分かっている電話番号へ自分からかけ直すことです。連絡が取れなければ、別の家族や友人を通じて確認します。電信送金、暗号資産、ギフトカードの番号やPINを求める要求は、取り戻しにくい支払い方法を選ばせる危険信号です。緊急性を利用する電話では、声の鑑定ではなく『いつもの連絡先で確認する』という手順を先に決めておく記事です。

確認レベル 3 緊急電話では、声ではなく既知の連絡先で本人を確認する
  • 家族や友人を名乗る緊急の電話を受ける可能性がある人
  • 親族へAI音声クローン詐欺への対応を共有したい人
  • AI音声クローン
  • なりすまし
  • 緊急電話
記事を見る

AI偽動画は削除依頼の導線を確認する

自分そっくりのAI動画をYouTubeで見つけたら、コメントより先に「プライバシー申立て」を確認する

情報の見極め 標準

YouTubeは、AIで生成・改変されて本人に見える、または本人のように聞こえるコンテンツについて、本人または法定代理人がプライバシー申立てで削除を求められると案内しています。2026年には、18歳以上の対象クリエイター向けに、顔がAIで改変・生成された可能性のある動画を探して確認・申立てできるLikeness detectionも拡大されました。ただしこの機能は実験段階で、利用できない国があり、現在は顔の検出が中心です。偽動画を見つけた時は、コメント欄で本人性を争う前に、動画URL・チャンネル・公開日時を記録し、現実的に本人と誤認される内容かを確認して、YouTubeのプライバシー申立てという正式な経路を使うことが大切です。

確認レベル 2 動画を記録して、公式のプライバシー申立てを確認する
  • YouTube上で自分の顔や声を模したAI動画を見つけた人
  • 顔出しでYouTubeチャンネルを運用している人
  • AI動画
  • ディープフェイク
  • YouTube
記事を見る