如何判断图片或视频是否由AI生成：迹象、工具与局限

如何判断一张图片是否由AI生成？

坦白说，仅凭肉眼往往无法分辨。在微软AI for Good实验室开展的一项在线测验中，参与者共做出约287,000次判断，识别真实图片和AI生成图片的正确率只有62%^[1]。2024年在IEEE安全与隐私研讨会上发表的一项研究，对美国、德国和中国的3,002名具有代表性的受试者进行了调查，发现最先进的伪造内容与真实媒体几乎无法区分，大多数参与者只是在猜测^[2]。

但这并不意味着核查毫无意义，而是说可靠的方法是多层次的：寻找视觉上的错误，检查水印或内容凭证等机器可读的信号，并追溯图片最早出现的地方。美国国家标准与技术研究院（NIST）在更宏观的层面上阐述了同样的思路：它表示不存在一劳永逸的办法，来源追踪、标注和检测各有局限^[4]。

快速核查清单

1. 转发前先停一停。突发新闻画面尤其需要格外小心；2025年6月，以色列对德黑兰埃文监狱发动真实空袭后几分钟内，网上就出现了一段该监狱发生爆炸的视频，专家告诉CBS新闻，这段视频可能是用AI制作的^[12]。
2. 仔细查看手部、文字、阴影、倒影以及那些在物理上应当能正常运作的物体^[3]。
3. 检查凭证或水印，使用能够读取它们的工具，例如内容凭证标准或Gemini中的Google SynthID检查功能^[5][7]。
4. 搜索来源。Google自己的帮助页面也建议在使用其水印工具的同时，进行视觉检查和以图搜图^[5]。
5. 把每一个结果都当作证据，而不是定论，因为每种方法都可能漏判或误读内容^[4]。

哪些视觉迹象会暴露AI图片？

美国西北大学的研究人员利用138张由扩散模型生成的图片、9张从社交媒体上精选的图片和42张真实照片，编制了一份指南^[3]。他们将那些露馅的问题归为五类^[3]：

• 解剖结构：不合常理的手、眼睛、牙齿和身体，包括相互融合在一起的身体^[3]。
• 风格：看起来有点过于完美的图片，皮肤光亮或像蜡一样，带有杂志或电影剧照般的质感，或者画面中某些部分的细节或色彩水平与其他部分不同^[3]。
• 功能：不可能正常运作的物体、非典型的设计以及无法理解的文字或标志，因为生成器缺乏对事物运作方式的结构性理解^[3]。
• 违反物理规律：阴影和倒影不一致，以及深度和透视方面的问题^[3]。
• 社会文化：不太可能发生、不合时宜、违背某种文化规范或不符合史实的场景^[3]。

作者强调，人眼可察觉的瑕疵虽然经常出现，但并不总是存在；而且像一只看起来奇怪的手这样的解剖异常，并不一定意味着图片是AI生成的^[3]。生成器的进步也很快：微软的研究人员指出，他们的结果可能高估了人们识别当前AI图片的能力^[1]。

哪些伪造最难识别？

在微软的实验中，有两类图片骗过人们的次数多于被识破的次数：用GAN（一种较早的图像生成器）生成的人脸，以及局部重绘（inpainting），即真实照片的一部分被替换为生成内容^[1]。NIST也指出了同一点：经过局部编辑的图片大部分是真实的，这使每一种检测方法都变得更加复杂^[4]。因此，一张只改动了一个细节的真实照片，比一个完全合成的场景更难识破。

视频呢？

视频更难。加州大学伯克利分校教授哈尼·法里德（Hany Farid）在2025年6月告诉CBS新闻，伪造内容已经从静态图片发展到带有爆炸场面、看起来像手机手持拍摄的完整视频^[12]。在一段显示德黑兰埃文监狱入口发生爆炸的视频中（专家称其可能由AI生成），他们指出门上方的标牌有误，爆炸本身也存在不一致之处^[12]。值得检查的方面包括标牌和其他文字、光线，以及同一场景是否出现在其他摄像机拍摄的画面中。

AI水印和内容凭证能证明图片的来源吗？

机器可读的信号比肉眼更有力，但前提是它们确实存在，并且有合适的工具能读取。主要有两类。

隐形水印

水印是隐藏在像素或音频中的信号。Google的SynthID会在AI生成的内容中嵌入人无法察觉的信号；Google表示，截至2025年11月，已有超过200亿件内容加上了这种水印^[6]。自2025年11月20日起，用户可以把图片上传到Gemini应用，询问它是否由Google AI制作^[6]。Google的帮助页面还增加了视频和音频检查，限制为每个文件100 MB、视频短于90秒，以及每24小时每种类型大约10次检查^[5]。

这些限制很重要。Gemini目前只能识别由Google AI工具创建的内容，Google也表示，未发现SynthID水印并不意味着内容不是AI生成的^[5]。Google称，水印通常能在调整大小、重新着色和压缩后保留下来，但经过多次修改后可能无法被检测到^[5]。

内容凭证

内容凭证是由内容来源和真实性联盟（C2PA）制定的标准，它以加密安全的方式记录内容是如何、何时、在何处制作的，以及之后发生了哪些变化^[7]。如果文件或其来源数据被篡改，加密链接就会断开，从而显示出篡改痕迹^[7]。Gemini可以在网页版和Android应用中读取C2PA合规产品清单所列产品生成的2.2版及更高版本的内容凭证^[5]。

然而，凭证记录的是关于来源的声明，而不是场景的真实性。Google指出，显示某家公司名称的结果只表明是谁提供了这些信息，凭证并不能确凿证明内容是否由AI生成^[5]。C2PA表示，凭证可能与文件分离，因此它支持水印或指纹等“软绑定”方式来重新找回凭证^[7]。

为什么标签和元数据常常消失？

元数据存在于文件内部，因此任何重新保存文件的操作都可能将其删除。NIST指出，文件在分享时（例如通过社交媒体平台）嵌入的元数据常常被删除，人们删除元数据可能是为了欺骗，也可能出于保护隐私等正当理由^[4]。

《华盛顿邮报》于2025年10月对此进行了测试。它用OpenAI的Sora制作了一段带有内容凭证的视频，发布到八个社交应用上，结果发现没有一个应用保留凭证或允许用户查看^[8]。只有YouTube添加了提示，而这条写着“经过修改或合成的内容”的提示位于视频简介中^[8]。

可见水印更容易被破解。404 Media报道称，它测试的三个网站能在几秒钟内去除视频上可见的Sora 2水印^[9]。NIST还介绍了一些研究，表明许多隐形图片水印可以被去除，例如先给图片添加噪点再进行降噪处理^[4]。

各平台怎么说？

Meta在2024年表示，它将读取C2PA和IPTC元数据标准中的AI标识，为Facebook、Instagram和Threads上的图片添加标签^[10]。同一份公告也承认，目前还无法识别所有AI生成的内容，而且人们可以去除隐形标记^[10]。为此，Meta要求用户在发布逼真的AI视频和听起来逼真的音频时主动披露^[10]。

AI图片检测工具可靠吗？

自动检测器是一种分类器，用来估计文件是合成内容的可能性。它们的表现可以超过人类：在微软团队的研究中，其自研检测器对真实图片和AI图片的准确率都超过了95%^[1]。但这个数字只适用于一个研究工具在一个数据集上的表现，并不适用于你可能找到的任何免费网站。

优点

• 微软的研究人员认为检测工具比人类可靠得多，但也指出它们仍会出错^[1]。
• 在该研究中，检测工具在不同图片类别上的准确率保持一致，而人类的准确率则因题材不同而有所波动^[1]。

局限

• NIST表示，检测器在其训练所用的生成器所产生的内容上往往表现最好，而新模型层出不穷^[4]。
• 据NIST介绍，新的检测方法一出现，生成器就会改进，对手也会学会规避它^[4]。
• 误报，即把真实内容标记为AI生成，可能造成极大的伤害，导致名誉受损或遭受不利对待^[4]。
• 经过局部编辑的图片很难归类，而某处编辑是否算“实质性”的，也可能见仁见智^[4]。

因此，检测器的分数只是参考依据之一。当它与其他证据（例如找不到原始来源或存在明显错误）相互印证时，才最有用。

应该使用哪种方法，何时使用？

每种方法回答的是不同的问题。视觉检查问的是内容在物理上看起来是否合理^[3]。水印检查问的是某家特定公司的AI是否留下了信号^[5]。内容凭证问的是文件经过签名的历史记录说明了什么^[7]。以图搜图问的是这张图片最早在何时何地出现，Google建议将其与自己的工具配合使用^[5]。下表对这些方法进行了比较。

对于高风险的决定，例如报道一则新闻事件，或指控某人伪造证据，应使用多种方法并寻找相互印证之处。NIST指出，组织可以同时使用多种检测技术，并表示不存在一劳永逸的办法^[4]。

哪些规定要求为AI图片加注标签？

在欧盟，《人工智能法》第50条规定的透明度义务自2026年8月2日起适用^[11]。根据这些规定，AI系统的提供者必须以机器可读的方式标记音频、图片、视频和文本输出，使其能够被识别为人工生成的内容；部署者则必须为深度伪造内容加注标签；欧盟委员会的行为准则阐明了具体做法^[11]。该准则将深度伪造定义为与真实的人物、物体、地点、实体或事件相似、可能被误认为真实的图片、音频或视频内容^[11]。

遵守该准则本身是自愿的，但第50条规定的义务属于法律义务^[11]。欧盟委员会的时间表显示，最终版准则于2026年6月10日发布，截至2026年7月底，约有190家组织签署了该准则^[11]。欧盟还设计了一套图标，供部署者用来标注AI生成的内容^[11]。在欧盟以外，Meta的披露规则等平台政策适用^[10]，但各国规定不同且经常变化，因此请查阅截至2026年11月3日的最新版本。

识别伪造内容的下一步会是什么？

趋势是在文件创建时就内置标签，而不是依靠人们发现错误。Google宣布计划将Gemini的核验功能扩展到其自身生态系统以外的产品所生成的内容凭证^[6]，其帮助页面现在也介绍了这些检查^[5]；与此同时，欧盟的标记规则适用于提供者^[11]。另一方面，NIST介绍了去除或伪造（“欺骗”）水印的攻击方式^[4]，而《华盛顿邮报》的测试表明，平台常常会丢弃确实存在的信号^[8]。

仍不确定的问题

• 明年人们的识别能力如何。微软的作者预计，随着生成器的进步，人类的准确率将会下降^[1]。
• 平台是否会保留凭证。参与内容凭证是自愿的，而在《华盛顿邮报》的测试中，没有一个平台保留了这些数据^[8]。
• 对其他公司水印的覆盖。截至2026年11月3日，Gemini的检查功能还无法读取其他公司的水印^[5]。

就目前而言，无需专门工具的核查方法依然重要：Google建议通过以图搜图找到原始来源^[5]，哈尼·法里德也建议CBS新闻的读者不要依赖社交媒体获取突发新闻^[12]。