子どもの性的ディープフェイク被害、画像を新たに入手せず拡散を抑える
全米行方不明・被搾取児童センター（NCMEC）は、生成AIで作られた子どもの性的画像も深刻な被害として扱い、警察とCyberTiplineへの報告を呼びかけています。被害画像が出回っている場合、Take It Downでは本人が18歳未満の時に撮影された画像を端末上でハッシュ化し、画像自体を送らず参加プラットフォームに照合用ハッシュを共有できます。提出用に画像を再ダウンロード・転送せず、元の端末にあるファイルを使います。これは参加する公開・非暗号化サービスを対象とした拡散抑止で、全サイトからの削除を保証するものではありません。
- 子どもの性的画像の被害に気づいた保護者
- 本人や家族の被害を支援する人
画像を証拠として他人へ転送しないでください。警察・CyberTipline・投稿先へ連絡し、Take It Downは手元のファイルだけで利用条件を確認します。
身近な事例を知る
子どもの性的画像やAIで作られた性的画像がネットで共有されていると分かった
画像を証拠として保存・転送した方がよいのか、削除申立てと通報をどの順で進めるか迷う場面です。
あなたならどうする？
まず一つ以上選んでから確認してみてください。
推奨される行動- 画像を新たにダウンロード・転送せず、警察やCyberTiplineへ相談する
選んだカードの表示を見ながら、今回はどの行動が安心につながるか確認できます。
手元にない画像を新たに取り寄せる必要はありません。NCMECのCyberTiplineなどへ相談し、警察・プラットフォームへの連絡を進めます。
確認ポイント
AI生成画像も通報・削除申立ての対象
NCMECは、生成AIで作られた子どもの性的画像も深刻な被害として、警察とCyberTiplineへ報告するよう案内しています。
まず警察とCyberTiplineへ相談
NCMECは、生成AIで作られた性的画像の被害について警察とCyberTiplineへの報告を案内しています。差し迫った安全上の危険がある場合は現地の緊急窓口を優先します。
プラットフォームへ削除を申し立てる
投稿先の報告機能またはヘルプセンターから削除を申し立てます。NCMECも、投稿先のサービスへの報告方法を案内しています。
Take It Downは画像を端末から送らない
NCMECのサービスは画像・動画からハッシュを端末上で作り、ハッシュ値をNCMECと参加プラットフォームへ提供します。サービス側へ元画像をアップロードしません。
支援範囲と提出条件
対象は画像撮影時に本人が18歳未満で、ヌード・一部ヌード・性的状況を含む画像です。対象者は現在18歳以上でも利用できます。暗号化サービスや参加していないサイト、過去投稿の除去を完全に保証するものではありません。
現時点での見立て
NCMECの案内に沿って警察・CyberTiplineへの通報、投稿先への削除申立て、ハッシュによる拡散抑止を進めます。対象範囲と参加プラットフォームの限界も確認します。
安全な対処方法
安心につながる行動
- 地域の警察とNCMEC CyberTiplineへ相談するNCMECは生成AIによる性的画像の被害について、警察とCyberTiplineへの報告を案内しています。
- プラットフォームの報告機能またはヘルプセンターから削除を申し立てるNCMECは投稿先のインターネットサービスやプラットフォームへ報告するための案内を提供しています。
- Take It Downを使う場合は、撮影時に本人が18歳未満だった既存ファイルを元の端末から選ぶこのサービスは元画像をアップロードせずにハッシュを生成します。
- 画像を持っていない場合はCyberTiplineへ相談し、誰かに送信・ダウンロードを依頼しないNCMECは提出のために画像を取り寄せないよう明記しています。
避けたい行動
- 証拠集めのために画像を友人や家族へ転送する画像の二次拡散を招き、NCMECの提出手順にも反します。
- Take It Downがあらゆるウェブサイトから画像を消すと期待する参加する公開・非暗号化サービスが対象で、過去の投稿などを除去できない場合もあります。
AIの前向きな活用
被害画像を広げずに通報と拡散抑止へ進む
画像の再共有を避け、警察・NCMEC・投稿先の窓口を使い分けます。
- CyberTiplineへ相談
- 投稿先へ削除依頼
- 端末上のファイルでハッシュ作成
- 参加サービスの範囲を確認
今回、覚えておきたいこと
子どもの性的画像の被害では画像を新たに入手・転送せず、警察・投稿先へ相談し端末内ハッシュによる抑止を検討する。
情報源
- Generative AI（外部リンク） National Center for Missing & Exploited Children (NetSmartz) 公式発表
- Take It Down（外部リンク） National Center for Missing & Exploited Children その他
- Frequently Asked Questions - Take It Down（外部リンク） National Center for Missing & Exploited Children その他
誠主任からひとこと