※イメージ画像です（AIにより生成）
「この動画、本物？」と迷う場面が、SNSで増えています。結論から言うと、内閣官房のページには、生成AIやディープフェイク技術により、偽の画像や動画を容易に作成できるようになり、人の目では真偽を見極めることが難しい情報にSNSなどを通じて触れる機会が増えていると書かれています。
つまり、「見た目で見破る」だけに頼るのは、むずかしいということです。この記事では、公的資料に書かれている見た目以外の確認ポイントを整理します。
この記事でわかること
- ディープフェイクとは
- 内閣官房が挙げる、5つの確認ポイント
- 画像や動画の「使い回し」を確かめる方法
- ビデオ通話の映像だけで信用しない考え方
- 見分けるための技術の現状
- 公式情報で確認できなかったこと
ディープフェイクとは
総務省の令和6年版情報通信白書には、次のように書かれています。
- 「ディープフェイク」とは、「ディープラーニング（深層学習）」と「フェイク（偽物）」を組み合わせた造語
- 本物または真実であるかのように誤って表示し、人々が発言または行動していない言動を行っているかのような描写をすることを特徴とする、AI技術を用いて合成された音声、画像あるいは動画コンテンツ
- ディープフェイク技術を用いれば、実在する人物が実際には言っていないことを、本当に話しているかのような動画を簡単に作成できる
また、白書には、我が国でも、生成AIを利用して作られた首相の偽動画がSNS上で拡散した事例が発生したと書かれています。さらに、SNSなどで共有された一般的な写真画像を、AIで不適切な内容に変換して被害者を脅迫する恐喝行為について、米国のFBIが警告しているとも書かれています。
内閣官房が挙げる、5つの確認ポイント
内閣官房の「偽情報にだまされないために」には、リスクを認識した上で、平素からの備えが重要として、次の5つのポイントが書かれています。
| ポイント | 確認すること（内閣官房） |
|---|---|
| 1. 情報源を確認する | その情報は、いつ、どこから発信されたものか。根拠は示されているか。発信者や情報源は信用できるか。その情報以外に投稿されている内容や、アカウントのプロフィールに不自然な点はないか |
| 2. 他の人やメディアの発信を確認する | 他の人やメディアが、どのように発信しているか。その情報に反論している人はいないか。他のメディアが別の内容を報じていないか |
| 3. 画像や動画が本物か疑ってみる | 過去のものが使い回されていないか。不自然な点はないか |
| 4. 背後にある意図を考える | 多くの場合、偽情報には、それを拡散させたい何らかの意図がある。その情報が拡散したときに、どのような影響が発生するか、冷静に見直す |
| 5. ファクトチェックの結果を確認する | 大手メディアやネットメディア、非営利組織などが実施している、様々なファクトチェックを、偽情報を判別する手段として活用する |
ポイント1：情報源
内閣官房のページには、一見すると信用できそうな情報源であっても、注意深く確認すると、不自然な点が見受けられる場合があると書かれています。例として、ニュースサイトに、不自然な日本語や架空の住所が使われていた事例が挙げられています。
ポイント3：画像や動画が本物か
内閣官房のページには、次のように書かれています。
- 画像検索を行うことで、過去に別の文脈で投稿された画像の使い回しに気づくことができる
- AIによって生成された画像や動画には、不自然な点が見られることがある（例として、AIで生成された画像に、寸法上の違和感が見られた事例）
ここで大切なのは、「不自然な点が見られることがある」であって、「必ず見つかる」ではないことです。不自然な点が見つからなくても、本物とは限りません（筆者の整理）。
「古い映像の使い回し」も、よくある偽情報
総務省の白書には、2024年1月1日の能登半島地震の際に、東日本大震災のときの津波映像や、2021年に静岡県熱海市で起きた大規模土石流の映像などを、あたかも能登半島地震と結びつけた投稿が、SNS上で多数投稿され、大量に閲覧・拡散されたと書かれています。
これは、AIで作った偽物ではなく、本物の映像を、別の出来事のように見せた例です。偽情報は、ディープフェイクだけではありません。画像検索で、元の投稿を確かめることが役に立ちます（内閣官房のポイント3）。
ビデオ通話の映像だけで、信用しない
警察庁のSOS47のページには、警察官・検察官が、突然スマホにビデオ通話をすることはありませんと書かれています。また、犯人は、パソコンやスマートフォンのビデオ通話を利用して、制服姿や身分証の提示を行い、あたかも「本物の捜査員」のように見せかけて、被害者を信用させると書かれています。
この警察庁のページには、AIやディープフェイクについての記述はありません。 ただ、この例から、画面に映る姿や、見せられた身分証だけで、本物と決めないという考え方が、参考になります（筆者の整理）。警察庁のページには、不安を感じたときの相談先として、警察相談専用窓口（#9110）と、消費者ホットライン（188）が載っています。
見分けるための技術の現状
総務省の令和6年版白書には、次のように書かれています（2024年版の内容です）。
- ディープフェイクによる情報操作や犯罪利用への対策は、各方面から取り組まれているが、「いたちごっこ」の様相を呈している
- 国内外のAI企業などが、真贋を示す目印をデータに忍ばせて識別を可能にする「電子透かし」などの技術開発を進めている
- 国立情報学研究所（NII）が、AIにより生成されたフェイク顔画像を自動判定するツールを開発した（2021年9月）
白書の内容は、研究・開発の状況の紹介です。一般の利用者が、手元のスマホですぐ使える判定方法として、書かれているわけではありません。
金銭や個人情報が絡むとき
ディープフェイクが、投資の勧誘や、著名人のなりすまし広告などに使われることもあります。そのときは、映像や音声の出来ばえではなく、お金や個人情報を求められているかどうかで、立ち止まることが大切です（筆者の整理）。詳しくは、次の記事で整理しています。
また、投稿やなりすましの通報先は、「SNSの違法・有害情報の通報先」で整理しています。
公式情報で確認できなかったこと
- AIで作られた画像・動画・音声かどうかを、確実に判定する方法（今回確認した公的資料には、書かれていません）
- 目の動き、口の形、影、声の抑揚などの、具体的な「見分けの目印」（内閣官房のページには、「不自然な点が見られることがある」とだけ書かれています。目印は、技術の進歩で変わる可能性があります）
- 「声のディープフェイク」だけを見分ける方法（今回確認した公的資料には、書かれていません）
- 一般向けの判定ツールの精度（白書に書かれているのは、研究機関のツールの紹介のみです）
- 日本国内での、ディープフェイクに関する法規制の詳細（今回は確認していません）
不安なときは、一人で判断せず、警察相談専用電話（#9110）や、消費者ホットライン（188）に相談してください。
参考情報
- 内閣官房「偽情報にだまされないために」（外国による偽情報等に関するポータルサイト）
- 総務省「令和6年版 情報通信白書 偽・誤情報の流通・拡散等の課題及び対策」
- 警察庁SOS47「ビデオ通話を悪用した“偽警察官・検察官”の詐欺に注意！！」（2025年4月28日）、「ニセ警察官とのビデオ通話」（2025年10月24日）
