この画像は、ImageFXというツールで作成されました。よく見ると、耳たぶやのどぼとけの影などが不自然にみえます。
Fake Survivor
ディープフェイクがあふれる社会を
生き抜くためのヒント



ディープフェイクとは?
ディープフェイクとは、人工知能という、人間のように考えたり学習したりできるコンピュータープログラムを使って、偽物の動画や音声、画像を作ってしまう技術のことです。特に、ディープラーニングと呼ばれる、人間の脳を模倣した技術を使うことで、まるで本物と見分けがつかないような、非常に精巧な偽物の動画や画像などを作ることができるのです。
ディープフェイクは、ある人がまったく違うことを言っているように見せたり、本当はいない人がいるように見せかけたりできます。この技術を使って悪いことをする人が現れると、みんなを騙してしまうこともあります。だから、インターネットで見かける動画や画像が、本当かどうかをしっかりと確かめることが大切です。
今は誰でも簡単にディープフェイクを作れるようになってきました。たとえば、友達の顔を別の人の顔に合成して、その人が実際にはしていないことをしているかのように見せかける嘘の動画を作って、インターネットに拡散してしまうこともあるかもしれません。
ただのおふざけだと思っていても、実は、その人の名誉を傷つけたり、周りの人を混乱させたりする、とても悪いことになってしまうのです。場合によっては、犯罪に問われることもあります。
便利な技術であると同時に、大きな危険性が潜んでいるディープフェイクについて、しっかりと理解しましょう。

フェイク画像を見極めよう!
近頃のAIは、実際の画像と見分けがつかないほど、リアルな画像を作ることができるようになっています。
下の写真がAIで作られたものか実際の画像か、あなたは見極められますか?

あなたのまわりにも潜んでいるかも
Example.1
アニメイベントの会場で爆発が起きた
コラ画像を作って、友人をからかった。
今日開催されるアニメイベントに友人と行く予定のコタロウくん。
朝、友人にいたずらをしようと、会場が爆発したコラ画像を送った。

友人が、コタロウくんが送った画像を本物だと信じた場合、情報共有のためなどでSNSに投稿してしまうかもしれません。
さらにその投稿を信じて、イベント参加をキャンセルする人、運営に問い合わせる人などが相次いだ場合、
コタロウくんは「業務を妨害した」として罪に問われる可能性があります。
ささいないたずら心が、多くの人を巻き込む犯罪につながることもあります。行動の先のリスクを予測するクセを身につけましょう。
Example.2
クラスメイトの女子に水着を着せた
コラージュ画像を作ってみた。
コラ画像をうまく作れて誇らしげなカズキくんは、
この画像を5人以上の友だちにLINEで送った。

カズキくんが信用していたお友だちが、
その画像を他の人にも送ったり、SNSに投稿したりして、さらに悪意のある編集や拡散をされてしまう可能性があります。
カズキくんは軽い気持ちだったかもしれませんが、その女の子は嫌な思い、悲しい思い、怖い思いをするでしょう。
罪に問われたり、
転校・退学等の処分を受ける可能性があります。
Example.3
有名タレントのオンラインコーチングが
割引価格の98,000円で受けられるらしい。
自己啓発本も出版した有名な教育系Youtuberが、オンラインコーチングを期間限定価格で行う、という広告を見つけた。

自分の強みややりたいことが分からず悩んでいた就活生の
タイチくんは「将来について悩んでいる現状から抜け出したい」という思いから、全3回98,000円のオンラインコーチングを受けようと考えていました。
そのコーチングは、詐欺かもしれません。
実際にオンラインでそのタレントと話せているようにみえてもそれはディープフェイクで作られたにせものかもしれません。
情報や動画、言葉遣いに怪しさがないか、注意しましょう。
Example.4
Xで悩みを聞いて寄り添ってくれた
女の子と初めて会って遊ぶことになった。
Xでつらい気持ちを書き込んでいたら、その子は「話聞くよ」とDMしてくれた。いつも優しいメッセージを送ってくれる。

体に残った傷跡の写真を送ってくれることもあって、その子も悩みを抱えた同志だと思っていたミクちゃん。
「今度お家来てよ!」と誘われて、会いに行こうと考えました。
その子が送ってくれた写真、
実はディープフェイクかもしれません。
相手は、悪意を持って連絡してきていたかもしれません。
直接会っていたら、誘拐などの事件に巻き込まれていた可能性も。偽りの優しい言葉にだまされないように気をつけましょう。
Example.5
ある芸能人がたばこをポイ捨てしている
盗撮動画がTiktokで流れてきた。
マナーを守ることもできない人なんだ。そう思ったエミリちゃんは、この動画を保存して、別のSNSで共有してさらに拡散した。

この動画がディープフェイクだった場合、
エミリちゃんは加害者になるかもしれません。うその情報を拡散したことになるからです。
わざとでなくても、人のイメージを傷つけると名誉毀損や
侮辱罪に問われる可能性があるのです。
Example.6
アプリで知り合った女の子が苦しい生活を送っているらしく、力になりたい。
出会い系アプリで知り合った女の子と、ビデオ通話をしているレンくん。大変な生活を送っていると話すその女の子を助けたい。

つらい事情を抱えながら明るく振る舞っているように見えるその子のことが好きになっていたレンくん。
そのビデオ通話さえも、
ディープフェイクで作られた偽物かもしれません。
恋愛感情に付け込んでお金を奪う
「ロマンス詐欺」に注意しましょう。

注意したいポイント
ディープフェイクがあふれる社会を生き抜くために、注意したいポイントをまとめました。

信用できる情報源かを確認する
信用できる情報源かを確認する
- 誰かの発言や画像を見たときに「本当にこの人が言った?」「この写真加工されてない?」と疑うクセをつけましょう。専門機関の情報を優先して確認し、特に、感情をあおるような内容や信じられないような話は、一度立ち止まって考えましょう。SNSでの情報拡散にも注意してください。

ディープフェイク検出ツールを
取り入れる
ディープフェイク検出ツールを
取り入れる
- 動画や画像がディープフェイクか見分けるための検出ツールがあります。インターネットで検索すると様々なものがヒットし、無料で使えるツールもあります。ただ、出てきた結果が100%正しいとは限らないので、複数のツールを使い、総合的に判断しましょう。

自分の画像や動画を不特定多数に公開することのリスクを知る
自分の画像や動画を不特定多数に公開することのリスクを知る
- 自分の顔写真や動画を、安易にSNSなどにアップするのはやめましょう。
- 情報は一度インターネット上に出てしまうと、簡単に消すことができません。ディープフェイクに使われたり、悪用される可能性もあることを覚えておきましょう。

被害にあってしまったときは
ディープフェイクの被害にあってしまったときは、落ち着いて対応しましょう。

警察に相談する
警察に相談する
- ディープフェイクによってあなたの名誉が傷つけられたり、偽物のわいせつな画像や動画が拡散されたり、脅迫を受けた場合などは、警察が、犯人の特定や法的措置などの対応を検討してくれる可能性があります。最寄りの警察署の生活安全課や警視庁サイバー犯罪相談窓口に、動画・画像、SNSの投稿、URLやスクリーンショットなどの証拠を持って相談してみましょう。

相談窓口に相談する
相談窓口に相談する
- インターネット上の誹謗中傷や名誉毀損、デジタル性暴力に関する相談窓口があり、法的なアドバイスや回復のための心理的サポートを受けることができます。「ディープフェイク 被害 相談」などで検索したり、地域の弁護士会の相談窓口を調べてみましょう。curetimeでは性暴力に関するSNS相談、メール相談を受け付けています(毎日17時~21時)。「#8891」に電話すると、性犯罪・性暴力被害者のためのワンストップ支援センターにつながります(通話料無料)。

画像・動画を削除するサービスを利用する
画像・動画を削除するサービスを利用する
- 性的な画像や動画がオンラインで拡散されてしまった、または拡散されるかもしれない場合、その画像や動画を削除する手助けをするプラットフォームがあります。元の写真や動画データを持っている場合、手順に沿って申請することで、オンライン上の特定のサイト/サービスから画像・動画を取り下げ、今後投稿されることを防ぐことができます。18歳未満の方が利用できます。
Take it Down 日本語ページ:https://takeitdown.ncmec.org/ja/

自分が作成した画像、動画で人を傷つけてしまったら
フェイク画像・動画の作成や拡散をして、傷つけてしまったかもしれないときは、以下の対応を参考にしてみてください。

大人や専門機関にすぐに相談する
大人や専門機関にすぐに相談する
- 一人で抱えようとせず、家族、親戚、学校の先生やカウンセラーなど、信頼して話せる人に打ち明けてください。自分がとった行動に対する考えや気持ち、状況を正直に伝えることで、より適切な対処につながるかもしれません。インターネット上のトラブルや人権侵害に関する相談を受け付けている専門機関もあります。こちらのサイトも参考にしてみてください。(参考:インターネット上の書き込みなどに関する相談・通報窓口のご案内)

削除におけるアドバイスを求める
削除におけるアドバイスを求める
- フェイク画像や動画を他の人に送った場合は、謝罪とともに削除をお願いしましょう。SNSなどインターネット上にアップロードされている場合、すべての画像や動画を完全に削除することは難しいかもしれません。画像のURLやスクショなど証拠となる資料を準備したうえで、相談窓口に削除に関する相談をしてアドバイスを受けてください。今以上拡散しないように努めることが重要です。(参考:インターネット上の書き込みなどに関する相談・通報窓口のご案内)