Como saber se uma imagem ou um vídeo foi gerado por IA: sinais, ferramentas e limites

Como saber se uma imagem foi gerada por IA?

A resposta honesta é que muitas vezes não dá para saber só olhando. Em um quiz on-line conduzido pelo AI for Good Lab da Microsoft, os participantes fizeram cerca de 287.000 avaliações e identificaram corretamente imagens reais e geradas por IA apenas em 62% das vezes ^[1]. Um estudo representativo com 3.002 pessoas nos EUA, na Alemanha e na China, apresentado no IEEE Symposium on Security and Privacy em 2024, constatou que as falsificações de ponta eram quase indistinguíveis de mídias reais e que a maioria dos participantes estava simplesmente chutando ^[2].

Isso não torna a verificação inútil. Significa que a abordagem confiável é feita em camadas: procurar erros visuais, verificar sinais legíveis por máquina, como marcas d’água ou Content Credentials, e rastrear a imagem até sua primeira aparição. O Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) descreve a mesma ideia em escala maior: diz que não existe solução mágica e que o rastreamento de proveniência, a rotulagem e a detecção têm, cada um, seus limites ^[4].

Uma lista rápida de verificação

1. Pare antes de compartilhar. Imagens de notícias de última hora merecem cuidado redobrado; em junho de 2025, um vídeo de uma explosão na prisão de Evin, em Teerã, que especialistas disseram à CBS News que pode ter sido feito com IA, apareceu na internet poucos minutos depois de um ataque israelense real à prisão ^[12].
2. Observe com atenção mãos, textos, sombras, reflexos e objetos que deveriam funcionar de forma física ^[3].
3. Procure credenciais ou marcas d’água com uma ferramenta capaz de lê-las, como o padrão Content Credentials ou o verificador de SynthID do Google no Gemini ^[5][7].
4. Procure a fonte. A própria página de ajuda do Google recomenda inspeção visual e busca reversa de imagens junto com sua ferramenta de marca d’água ^[5].
5. Trate cada resultado como indício, não como prova, porque qualquer método pode deixar passar ou interpretar mal um conteúdo ^[4].

Quais sinais visuais denunciam imagens de IA?

Pesquisadores da Northwestern University montaram um guia a partir de 138 imagens geradas com modelos de difusão, 9 imagens selecionadas de redes sociais e 42 fotografias reais ^[3]. Eles agruparam os problemas reveladores em cinco categorias ^[3]:

• Anatômicos: mãos, olhos, dentes e corpos implausíveis, incluindo corpos que se fundem uns aos outros ^[3].
• Estilísticos: imagens que parecem perfeitas demais, com pele brilhante ou cerosa, aparência de revista ou de fotograma de filme, ou partes da imagem com nível de detalhe ou cor diferente ^[3].
• Funcionais: objetos que não poderiam funcionar, designs atípicos e textos ou logotipos incompreensíveis, porque os geradores não têm uma compreensão estrutural de como as coisas funcionam ^[3].
• Violações da física: sombras e reflexos inconsistentes e problemas de profundidade e perspectiva ^[3].
• Socioculturais: cenários improváveis, inadequados, contrários às normas de uma cultura ou historicamente imprecisos ^[3].

Os autores ressaltam que artefatos perceptíveis por pessoas nem sempre estão presentes, embora apareçam com frequência, e que estranhezas anatômicas, como uma mão de aparência esquisita, não significam necessariamente que uma imagem foi gerada por IA ^[3]. Os geradores também melhoram depressa: os pesquisadores da Microsoft observam que seus resultados provavelmente superestimam a capacidade das pessoas de identificar as imagens de IA atuais ^[1].

Quais falsificações são mais difíceis de identificar?

No experimento da Microsoft, dois tipos de imagem enganaram as pessoas na maioria das vezes: rostos humanos feitos com GANs (um tipo mais antigo de gerador de imagens) e o inpainting, em que parte de uma foto real é substituída por conteúdo gerado ^[1]. O NIST faz a mesma observação: uma imagem parcialmente editada é majoritariamente real, o que complica qualquer método de detecção ^[4]. Uma foto real com um único detalhe alterado é, portanto, mais difícil de flagrar do que uma cena totalmente sintética.

E os vídeos?

Os vídeos são ainda mais difíceis. Hany Farid, professor da Universidade da Califórnia em Berkeley, disse à CBS News em junho de 2025 que as falsificações haviam passado das imagens estáticas para vídeos completos com explosões que parecem filmados com um celular na mão ^[12]. Em um vídeo de uma explosão na entrada da prisão de Evin, em Teerã, que especialistas disseram poder ter sido gerado por IA, eles apontaram uma placa incorreta acima da porta e inconsistências na própria explosão ^[12]. Vale verificar placas e outros textos, a iluminação e se a mesma cena aparece em imagens de outras câmeras.

Marcas d’água de IA e Content Credentials provam de onde veio uma imagem?

Sinais legíveis por máquina são mais fortes do que o olho humano, mas só quando estão presentes e a ferramenta certa consegue lê-los. Há dois tipos principais.

Marcas d’água invisíveis

Uma marca d’água é um sinal escondido nos pixels ou no áudio. O SynthID, do Google, incorpora sinais imperceptíveis ao conteúdo gerado por IA, e o Google diz que mais de 20 bilhões de conteúdos haviam recebido essa marca d’água até novembro de 2025 ^[6]. Desde 20 de novembro de 2025, as pessoas podem enviar uma imagem ao app Gemini e perguntar se ela foi feita com IA do Google ^[6]. A página de ajuda do Google acrescenta verificações de vídeo e áudio, com limites de 100 MB por arquivo, vídeos de menos de 90 segundos e cerca de 10 verificações de cada tipo a cada 24 horas ^[5].

Os limites importam. Atualmente, o Gemini só reconhece conteúdo criado por ferramentas de IA do Google, e o Google afirma que não encontrar uma marca d’água SynthID não significa que o conteúdo não tenha sido gerado por IA ^[5]. O Google diz que as marcas d’água geralmente resistem a redimensionamento, alteração de cores e compressão, mas podem não ser detectadas depois de muitas alterações ^[5].

Content Credentials

As Content Credentials, padrão criado pela Coalition for Content Provenance and Authenticity (C2PA), são uma forma criptograficamente segura de registrar como, quando e onde um conteúdo foi feito e como ele mudou ^[7]. Se o arquivo ou seus dados de proveniência forem alterados, o vínculo criptográfico se rompe, o que sinaliza adulteração ^[7]. O Gemini consegue ler Content Credentials da versão 2.2 em diante, de produtos da C2PA Conforming Products List, na web e em seu app para Android ^[5].

As credenciais, no entanto, registram uma afirmação sobre a origem, não a veracidade de uma cena. O Google observa que um resultado que cita uma empresa mostra apenas quem forneceu a informação e que as credenciais não provam de forma definitiva se o conteúdo foi gerado por IA ^[5]. A C2PA diz que as credenciais podem se separar de um arquivo e aceita “vínculos flexíveis” (soft bindings), como marcas d’água ou impressões digitais, para encontrá-las de novo ^[7].

Por que rótulos e metadados desaparecem com tanta frequência?

Os metadados viajam dentro do arquivo, então qualquer coisa que salve o arquivo de novo pode removê-los. O NIST observa que os metadados incorporados costumam ser apagados quando os arquivos são compartilhados, por exemplo em plataformas de redes sociais, e que as pessoas podem removê-los tanto para enganar quanto por motivos legítimos, como privacidade ^[4].

O Washington Post testou isso em outubro de 2025. O jornal fez um vídeo com o Sora, da OpenAI, que trazia Content Credentials, publicou-o em oito apps sociais e constatou que nenhum deles manteve as credenciais nem permitiu que os usuários as vissem ^[8]. Só o YouTube acrescentou um aviso, e esse aviso, com os dizeres “Conteúdo alterado ou sintético”, ficava na descrição do vídeo ^[8].

Marcas d’água visíveis são ainda mais fáceis de burlar. O 404 Media relatou que três sites que testou removeram em questão de segundos a marca d’água visível do Sora 2 dos vídeos ^[9]. O NIST também descreve pesquisas que mostram que muitas marcas d’água invisíveis em imagens podem ser removidas, por exemplo acrescentando ruído e depois removendo-o da imagem ^[4].

O que dizem as plataformas?

A Meta disse em 2024 que leria os indicadores de IA nos padrões de metadados C2PA e IPTC para rotular imagens no Facebook, no Instagram e no Threads ^[10]. O mesmo anúncio admitia que ainda não é possível identificar todo o conteúdo gerado por IA e que as pessoas podem remover os marcadores invisíveis ^[10]. Em vez disso, a Meta exige que os usuários informem quando publicam vídeos fotorrealistas de IA e áudios de som realista ^[10].

As ferramentas de detecção de imagens de IA são confiáveis?

Os detectores automáticos são classificadores que estimam a probabilidade de um arquivo ser sintético. Eles podem superar as pessoas: o próprio detector da equipe da Microsoft ultrapassou 95% de precisão tanto com imagens reais quanto com imagens de IA em seu estudo ^[1]. Esse número se aplica a uma ferramenta de pesquisa em um conjunto de dados, não a qualquer site gratuito que você encontre.

Vantagens

• Os pesquisadores da Microsoft descrevem as ferramentas de detecção como significativamente mais confiáveis do que as pessoas, embora observem que ainda cometem erros ^[1].
• A precisão delas naquele estudo foi consistente entre categorias de imagens, ao contrário da precisão humana, que variou conforme o tema ^[1].

Limites

• O NIST diz que os detectores costumam ter melhor desempenho com conteúdo dos geradores com que foram treinados, enquanto novos modelos não param de surgir ^[4].
• Assim que surge um novo método de detecção, os geradores melhoram e os adversários aprendem a contorná-lo, segundo o NIST ^[4].
• Falsos positivos, ou seja, rotular conteúdo real como IA, podem ser extremamente prejudiciais, causando danos à reputação ou tratamento desfavorável ^[4].
• Imagens parcialmente editadas são difíceis de classificar, e saber se uma edição é “substancial” pode ser subjetivo ^[4].

A pontuação de um detector é, portanto, apenas um elemento. Ela é mais útil quando concorda com outras evidências, como a ausência de fontes originais ou erros visíveis.

Qual método usar, e quando?

Cada método responde a uma pergunta diferente. A inspeção visual pergunta se o conteúdo parece fisicamente plausível ^[3]. A verificação de marca d’água pergunta se a IA de uma empresa específica deixou seu sinal ^[5]. As Content Credentials perguntam o que diz o histórico assinado do arquivo ^[7]. A busca reversa de imagens pergunta onde e quando a imagem apareceu pela primeira vez, algo que o Google recomenda junto com sua própria ferramenta ^[5]. A tabela abaixo os compara.

Em decisões de alto risco, como noticiar um acontecimento ou acusar alguém de falsificar provas, use vários métodos e procure concordância entre eles. O NIST observa que as organizações podem usar várias técnicas de detecção em conjunto e diz que não existe solução mágica ^[4].

Que regras exigem a rotulagem de imagens de IA?

Na União Europeia, as obrigações de transparência do artigo 50 do AI Act se aplicam a partir de 2 de agosto de 2026 ^[11]. Segundo essas regras, os fornecedores de sistemas de IA devem marcar os resultados em áudio, imagem, vídeo e texto de forma legível por máquina, para que possam ser detectados como gerados artificialmente, e os responsáveis pela implantação devem rotular os deepfakes; o código de práticas da Comissão Europeia explica como fazer isso ^[11]. O código define deepfakes como conteúdo de imagem, áudio ou vídeo que se assemelha a pessoas, objetos, lugares, entidades ou acontecimentos reais e que poderia parecer falsamente autêntico ^[11].

A adesão ao código em si é voluntária, embora os deveres do artigo 50 sejam obrigações legais ^[11]. O cronograma da Comissão registra a publicação do código final em 10 de junho de 2026, e cerca de 190 organizações o haviam assinado até o fim de julho de 2026 ^[11]. A UE também criou um conjunto de ícones que os responsáveis pela implantação podem usar para rotular conteúdo gerado por IA ^[11]. Fora da UE, aplicam-se políticas das plataformas, como as regras de divulgação da Meta ^[10], mas as regras variam de país para país e mudam com frequência, por isso confira a versão vigente em 3 de novembro de 2026.

O que vem a seguir na identificação de falsificações?

A tendência é que os rótulos sejam incorporados aos arquivos no momento da criação, em vez de depender de pessoas que identifiquem erros. O Google anunciou planos de estender a verificação do Gemini a Content Credentials de produtos de fora de seu próprio ecossistema ^[6], e sua página de ajuda já descreve essas verificações ^[5], enquanto as regras de marcação da UE se aplicam aos fornecedores ^[11]. Ao mesmo tempo, o NIST descreve ataques que removem ou falsificam (“spoofing”) marcas d’água ^[4], e o teste do Washington Post mostrou que as plataformas muitas vezes descartam os sinais que existem ^[8].

O que continua incerto

• O desempenho das pessoas no próximo ano. Os autores da Microsoft esperam que a precisão humana caia à medida que os geradores melhorem ^[1].
• Se as plataformas vão preservar as credenciais. A participação nas Content Credentials é voluntária, e no teste do Post nenhuma plataforma manteve os dados ^[8].
• A cobertura das marcas d’água de outras empresas. Em 3 de novembro de 2026, o verificador do Gemini ainda não consegue ler marcas d’água de outras empresas ^[5].

Por enquanto, as verificações que não exigem ferramenta especial continuam importantes: o Google recomenda a busca reversa de imagens para encontrar a fonte original ^[5], e Hany Farid aconselhou os leitores da CBS News a não dependerem das redes sociais para notícias de última hora ^[12].