Как понять, что изображение или видео создано ИИ: признаки, инструменты и ограничения

Как понять, что изображение создано ИИ?

Честный ответ: часто это невозможно определить одним лишь взглядом. В онлайн-викторине, которую провела лаборатория Microsoft AI for Good Lab, участники вынесли около 287000 суждений и верно определяли настоящие и созданные ИИ изображения лишь в 62% случаев ^[1]. Репрезентативное исследование с участием 3002 человек из США, Германии и Китая, представленное на симпозиуме IEEE Symposium on Security and Privacy в 2024 году, показало, что самые современные подделки почти неотличимы от настоящих медиа и что большинство участников просто угадывали ^[2].

Это не делает проверку бессмысленной. Это значит, что надёжный подход должен быть многоуровневым: ищите визуальные ошибки, проверяйте машиночитаемые сигналы, такие как водяные знаки или Content Credentials, и прослеживайте изображение до его первого появления. Национальный институт стандартов и технологий США (NIST) описывает ту же идею в более широком масштабе: универсального решения нет, а у отслеживания происхождения, маркировки и обнаружения есть свои ограничения ^[4].

Краткий контрольный список

1. Остановитесь, прежде чем делиться. Кадры срочных новостей требуют особой осторожности: в июне 2025 года ролик со взрывом в тегеранской тюрьме Эвин, который, по словам экспертов, опрошенных CBS News, мог быть создан с помощью ИИ, появился в сети в считаные минуты после реального израильского удара по тюрьме ^[12].
2. Присмотритесь к рукам, тексту, теням, отражениям и предметам, которые должны физически работать ^[3].
3. Проверьте наличие учётных данных или водяных знаков с помощью инструмента, который их считывает, — например, по стандарту Content Credentials или с помощью проверки SynthID от Google в Gemini ^[5][7].
4. Найдите источник. На справочной странице Google рекомендуется наряду с её инструментом для водяных знаков использовать визуальный осмотр и обратный поиск изображений ^[5].
5. Считайте любой результат доводом, а не доказательством, поскольку каждый метод может пропустить контент или неверно его истолковать ^[4].

Какие визуальные признаки выдают ИИ-изображения?

Исследователи Северо-Западного университета составили руководство на основе 138 изображений, созданных диффузионными моделями, 9 изображений, отобранных из социальных сетей, и 42 настоящих фотографий ^[3]. Характерные проблемы они разделили на пять категорий ^[3]:

• Анатомические: неправдоподобные руки, глаза, зубы и тела, в том числе сливающиеся друг с другом ^[3].
• Стилистические: изображения, которые выглядят слишком идеальными, с глянцевой или восковой кожей, видом журнальной обложки или кадра из фильма, либо части изображения с иным уровнем детализации или цвета ^[3].
• Функциональные: предметы, которые не могли бы работать, нетипичные конструкции и бессмысленный текст или логотипы, поскольку генераторы не понимают устройства вещей ^[3].
• Нарушения законов физики: несогласованные тени, отражения, проблемы с глубиной и перспективой ^[3].
• Социокультурные: маловероятные или неуместные сценарии, противоречащие нормам культуры или исторически недостоверные ^[3].

Авторы подчёркивают, что заметные человеку артефакты присутствуют не всегда, хотя появляются часто, и что анатомические странности, например необычно выглядящая рука, не обязательно означают, что изображение создано ИИ ^[3]. К тому же генераторы быстро совершенствуются: исследователи Microsoft отмечают, что их результаты, вероятно, переоценивают способность людей распознавать современные ИИ-изображения ^[1].

Какие подделки распознать труднее всего?

В эксперименте Microsoft два вида изображений чаще обманывали людей, чем нет: человеческие лица, созданные GAN (более старым типом генератора изображений), и инпейнтинг, при котором часть настоящей фотографии заменяется сгенерированным содержимым ^[1]. NIST указывает на то же: частично отредактированное изображение в основном настоящее, что усложняет любой метод обнаружения ^[4]. Поэтому настоящее фото с одной изменённой деталью распознать труднее, чем полностью синтетическую сцену.

А как насчёт видео?

С видео ещё сложнее. Хани Фарид, профессор Калифорнийского университета в Беркли, в июне 2025 года сказал CBS News, что подделки перешли от статичных изображений к полноценным видео со взрывами, похожим на съёмку с рук на телефон ^[12]. В ролике со взрывом у входа в тегеранскую тюрьму Эвин, который, по мнению экспертов, мог быть создан ИИ, они указали на неверную вывеску над дверью и несоответствия в самом взрыве ^[12]. Полезно проверять вывески и другой текст, освещение, а также то, появляется ли та же сцена на записях других камер.

Доказывают ли водяные знаки ИИ и Content Credentials происхождение изображения?

Машиночитаемые сигналы надёжнее глаз, но только когда они присутствуют и их может считать подходящий инструмент. Существует два основных вида таких сигналов.

Невидимые водяные знаки

Водяной знак — это сигнал, скрытый в пикселях или аудио. SynthID от Google встраивает незаметные сигналы в контент, созданный ИИ, и, по словам Google, к ноябрю 2025 года им было помечено более 20 млрд единиц контента ^[6]. С 20 ноября 2025 года можно загрузить изображение в приложение Gemini и спросить, создано ли оно с помощью Google AI ^[6]. На справочной странице Google добавлены проверки видео и аудио с ограничениями: 100 МБ на файл, видео короче 90 секунд и примерно 10 проверок каждого типа за 24 часа ^[5].

Ограничения существенны. Сейчас Gemini распознаёт только контент, созданный инструментами Google AI, и Google указывает, что отсутствие водяного знака SynthID не означает, что контент создан не ИИ ^[5]. По словам Google, водяные знаки обычно переживают изменение размера, цвета и сжатие, но после многочисленных изменений могут не обнаруживаться ^[5].

Content Credentials

Content Credentials — стандарт, разработанный Коалицией за происхождение и подлинность контента (C2PA), — это криптографически защищённый способ зафиксировать, как, когда и где был создан контент и как он менялся ^[7]. Если файл или данные о его происхождении изменены, криптографическая связь разрывается, что сигнализирует о вмешательстве ^[7]. Gemini может считывать Content Credentials версии 2.2 и выше от продуктов из списка C2PA Conforming Products List — в веб-версии и в приложении для Android ^[5].

Однако учётные данные фиксируют заявление о происхождении, а не достоверность сцены. Google отмечает, что результат с названием компании показывает лишь, кто предоставил информацию, и что учётные данные не доказывают окончательно, создан ли контент ИИ ^[5]. C2PA сообщает, что учётные данные могут отделиться от файла, и поддерживает «мягкие привязки» (soft bindings), такие как водяные знаки или цифровые отпечатки, чтобы находить их снова ^[7].

Почему метки и метаданные так часто исчезают?

Метаданные хранятся внутри файла, поэтому всё, что пересохраняет файл, может их удалить. NIST отмечает, что встроенные метаданные часто стираются при распространении файлов, например через социальные сети, и что люди могут удалять их как с целью обмана, так и по безобидным причинам, например ради конфиденциальности ^[4].

Washington Post проверила это в октябре 2025 года. Издание создало видео с помощью Sora от OpenAI, содержащее Content Credentials, опубликовало его в восьми социальных приложениях и обнаружило, что ни одно из них не сохранило учётные данные и не позволило пользователям их просмотреть ^[8]. Предупреждение добавил только YouTube, и это уведомление с текстом «Изменённый или синтетический контент» находилось в описании видео ^[8].

Видимые водяные знаки обойти ещё проще. 404 Media сообщило, что три проверенных им сайта удаляли видимый водяной знак Sora 2 с видео за считаные секунды ^[9]. NIST также описывает исследования, показывающие, что многие невидимые водяные знаки на изображениях можно удалить, например добавив шум, а затем убрав его ^[4].

Что говорят платформы?

В 2024 году Meta заявила, что будет считывать ИИ-индикаторы в стандартах метаданных C2PA и IPTC, чтобы маркировать изображения в Facebook, Instagram и Threads ^[10]. В том же заявлении компания признала, что пока невозможно выявить весь контент, созданный ИИ, и что люди могут удалять невидимые маркеры ^[10]. Поэтому Meta требует от пользователей раскрывать, что они публикуют фотореалистичное ИИ-видео или реалистично звучащее аудио ^[10].

Надёжны ли детекторы ИИ-изображений?

Автоматические детекторы — это классификаторы, которые оценивают вероятность того, что файл синтетический. Они могут превосходить людей: собственный детектор команды Microsoft в её исследовании показал точность выше 95% как на настоящих, так и на ИИ-изображениях ^[1]. Эта цифра относится к одному исследовательскому инструменту на одном наборе данных, а не к любому бесплатному сайту, который вам попадётся.

Преимущества

• Исследователи Microsoft называют инструменты обнаружения значительно более надёжными, чем люди, но отмечают, что и они ошибаются ^[1].
• Их точность в том исследовании была стабильной для всех категорий изображений, в отличие от точности людей, которая зависела от сюжета ^[1].

Ограничения

• По данным NIST, детекторы часто лучше всего работают на контенте от генераторов, на которых их обучали, а новые модели появляются постоянно ^[4].
• Как только появляется новый метод обнаружения, генераторы совершенствуются, а злоумышленники учатся его обходить, отмечает NIST ^[4].
• Ложные срабатывания, когда настоящий контент помечается как ИИ, могут нанести огромный ущерб — вред репутации или несправедливое отношение ^[4].
• Частично отредактированные изображения трудно классифицировать, а вопрос о том, «существенна» ли правка, может быть субъективным ^[4].

Поэтому оценка детектора — лишь один из факторов. Она наиболее полезна, когда согласуется с другими данными, например с отсутствием первоисточника или видимыми ошибками.

Какой метод использовать и когда?

Каждый метод отвечает на свой вопрос. Визуальный осмотр выясняет, выглядит ли контент физически правдоподобным ^[3]. Проверка водяного знака — оставил ли свой сигнал ИИ конкретной компании ^[5]. Content Credentials — что говорит подписанная история файла ^[7]. Обратный поиск изображений — где и когда изображение появилось впервые; Google рекомендует его наряду со своим инструментом ^[5]. В таблице ниже эти методы сравниваются.

Если ставки высоки, например когда вы сообщаете о новостном событии или обвиняете кого-то в фальсификации доказательств, используйте несколько методов и ищите совпадение результатов. NIST отмечает, что организации могут использовать несколько методов обнаружения вместе, и подчёркивает, что универсального решения нет ^[4].

Какие правила требуют маркировать ИИ-изображения?

В Европейском союзе обязательства по прозрачности, предусмотренные статьёй 50 Регламента об ИИ, применяются с 2 августа 2026 года ^[11]. Согласно этим правилам, поставщики ИИ-систем должны маркировать аудио, изображения, видео и текст, которые они генерируют, машиночитаемым способом, чтобы их можно было распознать как искусственно созданные, а пользователи систем (deployers) должны помечать дипфейки; кодекс практики Европейской комиссии описывает, как это делать ^[11]. Кодекс определяет дипфейки как изображения, аудио или видео, напоминающие реальных людей, объекты, места, организации или события, которые могут ложно восприниматься как подлинные ^[11].

Соблюдение самого кодекса добровольно, хотя обязанности по статье 50 являются юридическими ^[11]. Согласно графику Комиссии, окончательный текст кодекса был опубликован 10 июня 2026 года, а к концу июля 2026 года его подписали около 190 организаций ^[11]. ЕС также создал набор значков, которые пользователи систем могут применять для маркировки контента, созданного ИИ ^[11]. За пределами ЕС действуют правила платформ, например требования Meta о раскрытии информации ^[10], но нормы различаются по странам и часто меняются, поэтому проверяйте актуальную версию на 3 ноября 2026 года.

Что ждёт распознавание подделок дальше?

Тенденция смещается к меткам, встраиваемым в файлы при создании, а не к поиску ошибок людьми. Google объявила о планах распространить проверку в Gemini на Content Credentials от продуктов за пределами своей экосистемы ^[6], и её справочная страница уже описывает такие проверки ^[5], а правила маркировки ЕС распространяются на поставщиков ^[11]. В то же время NIST описывает атаки, которые удаляют или подделывают («спуфят») водяные знаки ^[4], а тест Washington Post показал, что платформы часто отбрасывают существующие сигналы ^[8].

Что остаётся неясным

• Насколько хорошо люди будут справляться через год. Авторы из Microsoft ожидают, что точность людей будет снижаться по мере совершенствования генераторов ^[1].
• Будут ли платформы сохранять учётные данные. Участие в Content Credentials добровольное, и в тесте Post ни одна платформа не сохранила эти данные ^[8].
• Распознавание водяных знаков других компаний. По состоянию на 3 ноября 2026 года инструмент проверки Gemini пока не умеет считывать водяные знаки других компаний ^[5].

Пока что проверки, не требующие специальных инструментов, по-прежнему важны: Google рекомендует обратный поиск изображений для нахождения первоисточника ^[5], а Хани Фарид советовал читателям CBS News не полагаться на социальные сети в вопросах срочных новостей ^[12].