画像や動画がAI生成かを見分ける方法：手がかり、ツール、そして限界

画像がAI生成かどうかはどうすれば見分けられますか？

正直に言えば、見ただけでは判断できないことがよくあります。MicrosoftのAI for Good Labが実施したオンラインクイズでは、参加者が約287,000回の判定を行い、本物の画像とAIが生成した画像を正しく見分けられたのは62%にすぎませんでした^[1]。2024年のIEEE Symposium on Security and Privacyで発表された、米国、ドイツ、中国の3,002人を対象とする代表性のある研究では、最先端の偽物は本物のメディアとほぼ見分けがつかず、ほとんどの参加者が単に推測しているだけだとわかりました^[2]。

だからといって、確認が無意味になるわけではありません。信頼できる方法は多層的なものだということです。見た目の誤りを探し、電子透かしやContent Credentialsといった機械で読み取れるシグナルを確認し、その画像が最初に現れた場所までさかのぼります。米国国立標準技術研究所（NIST）も、より大きな規模で同じ考え方を示しています。万能の解決策はなく、来歴の追跡、ラベル付け、検出のそれぞれに限界があるというのです^[4]。

簡単なチェックリスト

1. 共有する前に一呼吸置きましょう。速報の映像には特に注意が必要です。2025年6月、テヘランのエヴィーン刑務所での爆発を映したとされる動画が、イスラエルによる同刑務所への実際の攻撃から数分のうちにネット上に現れましたが、専門家はCBS Newsに対し、この動画はAIで作られた可能性があると述べています^[12]。
2. 細部をよく見ましょう。手、文字、影、映り込み、そして物理的に機能するはずの物体に注目します^[3]。
3. 認証情報や電子透かしを確認しましょう。Content Credentials標準や、Gemini内のGoogleのSynthIDチェッカーなど、それらを読み取れるツールを使います^[5][7]。
4. 情報源を検索しましょう。Google自身のヘルプページも、電子透かしツールと併せて、目視による確認と画像の逆検索を勧めています^[5]。
5. どの結果も証明ではなく証拠の1つとして扱いましょう。どの方法でもコンテンツを見逃したり誤って判定したりする可能性があるからです^[4]。

AI画像だとわかる見た目の手がかりは何ですか？

Northwestern Universityの研究者たちは、拡散モデルで生成した138枚の画像、ソーシャルメディアから集めた9枚の画像、42枚の本物の写真をもとにガイドを作成しました^[3]。彼らは、AI画像だと見抜く手がかりとなる問題を5つのカテゴリーに分類しました^[3]。

• 解剖学的：ありえない手、目、歯、体。体同士が融合しているものも含みます^[3]。
• 様式的：少し完璧すぎるように見える画像。つややかな、あるいはロウのような肌、雑誌や映画のスチール写真のような見た目、画像の一部だけ細かさや色合いが異なるものなどです^[3]。
• 機能的：機能しえない物体、一般的でないデザイン、意味をなさない文字やロゴ。生成モデルは物がどう機能するかを構造的に理解していないためです^[3]。
• 物理法則の違反：一貫しない影や映り込み、奥行きや遠近法の問題^[3]。
• 社会文化的：ありそうにない、不適切な、ある文化の規範に反する、あるいは歴史的に不正確な状況^[3]。

著者たちは、人間が知覚できる不自然な痕跡はよく現れるものの常に現れるわけではなく、奇妙な形の手のような解剖学的な異常があるからといって、必ずしもAI生成の画像だとは限らないと強調しています^[3]。生成モデルの進歩も速く、Microsoftの研究者たちは、自分たちの結果は人々が現在のAI画像を見抜く能力をおそらく過大評価していると指摘しています^[1]。

最も見抜きにくい偽物はどれですか？

Microsoftの実験では、2種類の画像が人々をだますことの方が多いという結果になりました。GAN（旧来の画像生成モデルの一種）で作られた人間の顔と、本物の写真の一部を生成されたコンテンツに置き換えるインペインティングです^[1]。NISTも同じ点を指摘しています。部分的に編集された画像は大部分が本物であるため、あらゆる検出手法を難しくするのです^[4]。したがって、細部を1か所だけ改変した本物の写真は、完全に合成された場面よりも見抜くのが難しくなります。

動画の場合はどうですか？

動画はさらに難しくなります。University of California, Berkeleyの教授Hany Faridは2025年6月、CBS Newsに対し、偽物は静止画から、手持ちのスマートフォンで撮影したような爆発を含む本格的な動画へと移っていると語りました^[12]。テヘランのエヴィーン刑務所の入口での爆発を映した動画について、専門家たちはAI生成の可能性があるとし、扉の上の看板が正しくないことや、爆発そのものの不自然さを指摘しました^[12]。確認すると役立つのは、看板などの文字、照明、そして同じ場面がほかのカメラの映像にも映っているかどうかです。

AIの電子透かしやContent Credentialsで画像の出どころを証明できますか？

機械で読み取れるシグナルは目視よりも強力ですが、それが存在し、適切なツールで読み取れる場合に限ります。主に2つの種類があります。

見えない電子透かし

電子透かしとは、ピクセルや音声に隠されたシグナルです。GoogleのSynthIDはAIが生成したコンテンツに知覚できないシグナルを埋め込むもので、Googleによると、2025年11月までに200億件を超えるコンテンツにこの透かしが入れられました^[6]。2025年11月20日からは、Geminiアプリに画像をアップロードして、それがGoogle AIで作られたかどうかを尋ねられるようになりました^[6]。Googleのヘルプページでは動画と音声の確認も追加されており、1ファイルあたり100 MB、90秒未満の動画、24時間あたり各種類およそ10回という制限があります^[5]。

こうした制限は重要です。Geminiが現在認識できるのはGoogle AIツールで作られたコンテンツだけであり、GoogleはSynthIDの透かしが見つからなくても、そのコンテンツがAI生成でないことを意味するわけではないと明言しています^[5]。Googleによると、透かしは通常、サイズ変更、色調変更、圧縮を経ても残りますが、多くの改変を加えた後では検出されない場合があります^[5]。

Content Credentials

Content Credentialsは、Coalition for Content Provenance and Authenticity（C2PA）が策定した標準で、コンテンツがいつ、どこで、どのように作られ、どう変更されたかを暗号技術によって安全に記録する仕組みです^[7]。ファイルやその来歴データが改変されると暗号的なつながりが壊れ、改ざんの兆候となります^[7]。Geminiは、C2PA Conforming Products Listに掲載された製品によるContent Credentialsのバージョン2.2以降を、ウェブ版とAndroidアプリで読み取れます^[5]。

ただし、認証情報が記録するのは出どころについての主張であり、場面が真実であることではありません。Googleは、ある企業名が表示された結果は、誰がその情報を提供したかを示すにすぎず、認証情報はコンテンツがAI生成かどうかを決定的に証明するものではないと注意しています^[5]。C2PAは、認証情報がファイルから切り離されてしまうことがあるとし、それを再び見つけるために、電子透かしやフィンガープリントといった「ソフトバインディング」をサポートしています^[7]。

なぜラベルやメタデータはこれほど頻繁に消えてしまうのですか？

メタデータはファイルの内部に含まれているため、ファイルを保存し直す処理があれば何でもそれを消してしまう可能性があります。NISTは、埋め込まれたメタデータはソーシャルメディアのプラットフォームなどを通じてファイルが共有される際にしばしば取り除かれ、人々がだます目的で、あるいはプライバシーのような正当な理由で、それを取り除くこともあると指摘しています^[4]。

Washington Postは2025年10月にこれを検証しました。Content Credentialsが付いた動画をOpenAIのSoraで作成し、8つのソーシャルアプリに投稿したところ、どのアプリも認証情報を保持せず、ユーザーがそれを閲覧することもできませんでした^[8]。警告を付けたのはYouTubeだけで、その「Altered or synthetic content」という通知も、動画の説明欄に置かれていました^[8]。

目に見える透かしは、さらに簡単に無効化できます。404 Mediaは、同社がテストした3つのウェブサイトが、動画から目に見えるSora 2の透かしをわずか数秒で除去したと報じました^[9]。NISTも、ノイズを加えてからノイズを除去するといった方法で、多くの見えない画像の透かしを除去できることを示す研究を紹介しています^[4]。

プラットフォームはどう説明していますか？

Metaは2024年、C2PAとIPTCのメタデータ標準に含まれるAIの指標を読み取り、Facebook、Instagram、Threadsの画像にラベルを付けると発表しました^[10]。同じ発表の中で同社は、AIが生成したコンテンツをすべて識別することはまだ不可能であり、見えないマーカーは取り除かれうることも認めています^[10]。そこでMetaは、写実的なAI動画やリアルに聞こえる音声を投稿する際には、ユーザーにその旨を開示するよう求めています^[10]。

AI画像検出ツールは信頼できますか？

自動検出ツールは、ファイルが合成されたものである可能性を推定する分類器です。人間を上回ることもあり、Microsoftのチームが自ら開発した検出ツールは、その研究で本物の画像とAI画像の両方について95%を超える精度を示しました^[1]。この数字は1つのデータセットでの1つの研究用ツールに当てはまるものであり、ネット上で見つかる無料のウェブサイトに当てはまるものではありません。

メリット

• Microsoftの研究者たちは、検出ツールは依然として誤りを犯すものの、人間よりも大幅に信頼できると説明しています^[1]。
• その研究での検出ツールの精度は画像のカテゴリーを問わず安定しており、被写体によってばらついた人間の精度とは対照的でした^[1]。

限界

• NISTによると、検出ツールは訓練に使われた生成モデルのコンテンツに対して最もよく機能することが多い一方で、新しいモデルは次々と登場しています^[4]。
• NISTによると、新しい検出手法が現れるとすぐに、生成モデルは改良され、敵対者はそれを回避する方法を学びます^[4]。
• 本物のコンテンツをAIと判定する誤検出は、評判の毀損や不利益な扱いを引き起こし、極めて大きな損害をもたらす可能性があります^[4]。
• 部分的に編集された画像は分類が難しく、ある編集が「実質的」かどうかは主観的になりえます^[4]。

したがって、検出ツールのスコアは判断材料の1つにすぎません。元の情報源が見つからない、目に見える誤りがあるなど、ほかの証拠と一致する場合に最も役立ちます。

どの方法を、いつ使えばよいですか？

それぞれの方法は異なる問いに答えます。目視による確認は、コンテンツが物理的にありうるものに見えるかを問います^[3]。電子透かしの確認は、特定の企業のAIがシグナルを残したかを問います^[5]。Content Credentialsは、ファイルの署名付きの履歴が何を示しているかを問います^[7]。画像の逆検索は、その画像がいつどこで最初に現れたかを問うもので、Googleは自社ツールと併せてこれを勧めています^[5]。下の表はこれらを比較したものです。

ニュースを報じたり、誰かが証拠を捏造したと告発したりするなど、重大な判断を下す場合は、複数の方法を使い、結果が一致するかを確かめましょう。NISTは、組織は複数の検出技術を組み合わせて使うことがあると指摘し、万能の解決策はないとしています^[4]。

AI画像へのラベル付けを義務づけている規則には何がありますか？

欧州連合（EU）では、AI法第50条の透明性に関する義務が2026年8月2日から適用されています^[11]。この規則のもとで、AIシステムの提供者は、音声、画像、動画、テキストの出力が人工的に生成されたものとして検出できるよう、機械で読み取れる形で表示しなければならず、導入者はディープフェイクにラベルを付けなければなりません。その方法は欧州委員会の行動規範に定められています^[11]。この行動規範では、ディープフェイクを、実在の人物、物体、場所、団体、出来事に似ており、本物であるかのように誤って見えるおそれのある画像、音声、動画のコンテンツと定義しています^[11]。

行動規範そのものへの準拠は任意ですが、第50条の義務は法的な義務です^[11]。欧州委員会のスケジュールでは、最終版の行動規範は2026年6月10日に公表されたとされており、2026年7月末までに約190の組織が署名していました^[11]。EUはまた、導入者がAI生成コンテンツのラベル付けに使えるアイコン一式も作成しています^[11]。EU域外では、Metaの開示ルールのようなプラットフォームの方針が適用されますが^[10]、規則は国によって異なり、頻繁に変わるため、2026年11月3日時点の最新版を確認してください。

偽物を見抜く取り組みは今後どうなるのでしょうか？

流れは、人が誤りを見つけることから、作成時にファイルに組み込まれるラベルへと向かっています。Googleは、Geminiの検証機能を自社のエコシステム外の製品によるContent Credentialsにも拡大する計画を発表しており^[6]、同社のヘルプページでは現在そうした確認について説明しています^[5]。またEUの表示に関する規則は提供者に適用されます^[11]。その一方で、NISTは透かしを除去したり偽造（「スプーフィング」）したりする攻撃について説明しており^[4]、Washington Postのテストでは、プラットフォームが既存のシグナルをしばしば破棄してしまうことが示されました^[8]。

まだ不確かなこと

• 来年、人がどれだけ見抜けるか。Microsoftの著者たちは、生成モデルの進歩に伴い人間の精度は低下すると予想しています^[1]。
• プラットフォームが認証情報を保持するかどうか。Content Credentialsへの参加は任意であり、Washington Postのテストではデータを保持したプラットフォームは1つもありませんでした^[8]。
• 他社の電子透かしへの対応。2026年11月3日時点で、Geminiのチェッカーはまだ他社の電子透かしを読み取れません^[5]。

当面は、特別なツールを必要としない確認方法も依然として重要です。Googleは元の情報源を探すために画像の逆検索を勧めており^[5]、Hany FaridはCBS Newsの読者に対し、速報についてはソーシャルメディアに頼らないよう助言しました^[12]。