用語：ディープフェイク
AI用語の分類：AIと人間・社会・共創
一言でいうと：ディープフェイクとは、AIなどで作成・改変した画像・音声・映像を、実在する人物や出来事などが本当にそうであったかのように見せる合成コンテンツです。
ディープフェイクは、AIなどを使って生成・操作した画像、音声、映像を、実在する人物、物体、場所、組織、出来事などが本当に存在した、発言した、行動したかのように見せる合成コンテンツです。欧州委員会の2026年のAI Act関連ガイダンスでは、既存の人物等に似せられ、自然人に対して本物または真実のように誤って見えるAI生成・操作コンテンツとして整理されています。[1][2]
目次
ディープフェイクとは
重要なのは、AIで作ったものすべてがdeepfakeではないことです。完全に架空の人物や風景を生成した画像はSynthetic Mediaですが、実在する人物や出来事を本物らしく偽装していなければ、通常はdeepfakeという中心的意味から外れます。
Synthetic Mediaとの関係
Synthetic Mediaは、AIやアルゴリズムで生成・大幅に改変したコンテンツ全体を指す広い概念です。deepfakeはその中でも、実在する対象への類似と、真正なもののように見える性質が強いタイプです。
たとえば、AIで作った架空のニュースキャスターはSynthetic Mediaです。その顔が実在アナウンサーに酷似し、本人が話しているように見えるならdeepfakeの問題が生じます。実在人物の声だけを複製して電話詐欺に使う場合も、映像がなくてもdeepfakeと呼ばれることがあります。
Deepfakeは必ず悪意があるのか
deepfakeは詐欺や偽情報で有名になったため、悪意そのものを定義だと考えがちです。しかし、技術的には映画、風刺、パロディ、教育、吹き替えなどにも使えます。EU AI Actも、芸術、創作、風刺、フィクション等の文脈を想定し、表示義務の扱いを調整しています。[3]
したがって、deepfakeかどうかと、違法かどうかは別に判断する必要があります。本人の同意、名誉、プライバシー、詐欺、選挙、性的コンテンツなど、適用される法制度は用途によって変わります。
なぜ問題になりやすいのか
deepfakeの大きなリスクは、人が「本人の証拠」だと感じやすい画像や音声を偽造できることです。なりすまし詐欺では、家族や上司の声を模倣して送金を求めることができます。政治では、候補者が実際には言っていない発言を映像化できます。個人への被害としては、本人の同意なしに性的な映像へ顔を合成する行為などがあります。
OECDは2026年、メディアで報告されたAIインシデントやハザードを分析する際、synthetic mediaを主要なテーマの一つとして追跡しています。[4] これは個々のdeepfakeの真偽を示すものではありませんが、情報環境上のリスクとして継続的に監視されていることを示します。
EUでは2026年8月から透明性義務が適用
EU AI ActのArticle 50に基づく透明性義務は、2026年8月2日から適用されています。現在は2026年9月なので、この日付はすでに過ぎています。規則では、生成AI提供者にAI生成・操作コンテンツを機械可読な形式で識別可能にする義務があり、一定のdeepfakeを公開するdeployersには人工的に生成・操作されたことを開示する義務があります。[2][3]
ただし、個人的・非職業的な利用、法執行、明らかな芸術・風刺等には異なる扱いがあります。EUの義務を「世界中のすべてのdeepfakeに同じラベル義務がある」と一般化してはいけません。
目視だけで判定しない
かつては、指の本数、口の動き、影、瞬きなどの不自然さがdeepfakeを見抜く手掛かりとして紹介されました。しかし生成技術が改善すると、こうした特徴は安定した判定法ではなくなります。逆に、通信圧縮や映像処理によって本物の映像が不自然に見えることもあります。
そのため、実務では①最初の公開元を探す、②本人・組織の公式発表と照合する、③別角度の映像や複数の報道を確認する、④Content Credentialsなどの来歴情報を確認する、⑤日時・場所・前後の文脈を検証する、といった手順が重要です。
「deepfake検出率99%」をどう読むか
検出技術のニュースでは、どのデータセットで評価したかを確認してください。既知の生成モデルで作った映像を判定できても、新しい生成法、再圧縮、画面撮影、SNS経由の加工で精度が下がることがあります。実験室の精度をインターネット上のすべての動画にそのまま当てはめることはできません。
元の文脈で確認するチェックリスト
ディープフェイクという言葉を見たら、①実在する誰・何を模倣しているか、②画像・音声・動画のどれか、③本物と誤認させる性質があるか、④生成・編集されたことが表示されているか、⑤本人の同意があるか、⑥詐欺・政治・風刺・創作のどの文脈か、⑦法的説明ならどの国・地域の規則か、を確認してください。
「AIっぽいからdeepfake」ではなく、実在対象との関係、真正性の誤認、利用文脈を確認することが、この用語を正しく読む鍵です。
関連するAI用語
注・出典
- European Commission, Code of Practice on Transparency of AI-generated Content, 2026. 参照元↩
- European Commission, Guidelines on transparency obligations for providers and deployers of certain AI systems, 2026. 参照元↩
- EU AI Act Service Desk, Article 50. 参照元↩
- OECD, Trends in AI incidents and hazards reported by the media, 2026. 参照元↩
AI協働制作について
本記事は、著者が独自に設計した指示、参照資料、出典確認規則、著作権確認および監査工程を組み込んだChatGPT等の生成AIを、情報収集の補助、資料整理、構成検討、草稿作成、文章校正および監査補助に使用して制作しました。記事の対象範囲、情報源の採否、構成、解釈および最終表現は著者が判断し、最終稿を承認しています。著者は、本記事の正確性、独自性、引用、著作権処理および公開内容について責任を負います。制作工程の詳細は「AI協働制作方針」をご覧ください。