이미지나 영상이 AI로 만들어졌는지 구별하는 법: 단서, 도구, 한계

이미지가 AI로 생성되었는지 어떻게 알 수 있나요?

솔직히 말해 눈으로 보는 것만으로는 구별할 수 없는 경우가 많습니다. Microsoft의 AI for Good Lab이 운영한 온라인 퀴즈에서 참가자들은 약 287,000번의 판단을 내렸는데, 실제 이미지와 AI 생성 이미지를 올바르게 구별한 비율은 62%에 불과했습니다^[1]. 2024년 IEEE Symposium on Security and Privacy에서 발표된, 미국, 독일, 중국의 3,002명을 대상으로 한 대표성 있는 연구는 최첨단 가짜가 실제 미디어와 거의 구별되지 않으며 대부분의 참가자가 그저 추측하고 있었다는 사실을 발견했습니다^[2].

그렇다고 확인이 무의미한 것은 아닙니다. 신뢰할 만한 접근법은 여러 겹으로 이루어져야 한다는 뜻입니다. 시각적 오류를 찾고, 워터마크나 Content Credentials 같은 기계 판독 신호를 확인하고, 사진이 처음 등장한 곳까지 거슬러 올라가 보는 것입니다. 미국 국립표준기술연구소(NIST)도 더 큰 규모에서 같은 생각을 제시합니다. NIST는 만능 해결책은 없으며 출처 추적, 라벨 부착, 탐지 모두 한계가 있다고 말합니다^[4].

빠른 확인 목록

1. 공유하기 전에 잠시 멈추십시오. 속보 영상은 특히 주의해야 합니다. 2025년 6월 이스라엘이 테헤란의 에빈 교도소를 실제로 공습한 지 몇 분 만에, 전문가들이 CBS News에 AI로 만들어졌을 수 있다고 밝힌 교도소 폭발 영상이 온라인에 등장했습니다^[12].
2. 자세히 살펴보십시오. 손, 글자, 그림자, 반사, 그리고 물리적으로 작동해야 하는 사물을 확인하십시오^[3].
3. 자격 증명이나 워터마크를 확인하십시오. Content Credentials 표준이나 Gemini에 있는 Google의 SynthID 확인 기능처럼 이를 읽을 수 있는 도구를 사용하십시오^[5][7].
4. 출처를 검색하십시오. Google의 도움말 페이지도 자사 워터마크 도구와 함께 육안 검사와 역이미지 검색을 권장합니다^[5].
5. 모든 결과를 증거의 하나로 여기되 입증으로 여기지 마십시오. 어떤 방법이든 콘텐츠를 놓치거나 잘못 읽을 수 있기 때문입니다^[4].

AI 이미지를 드러내는 시각적 단서는 무엇인가요?

Northwestern University 연구진은 확산 모델로 생성한 이미지 138장, 소셜 미디어에서 선별한 이미지 9장, 실제 사진 42장을 바탕으로 안내서를 만들었습니다^[3]. 연구진은 결정적 단서가 되는 문제를 다섯 범주로 묶었습니다^[3].

• 해부학적: 서로 녹아드는 몸을 포함해 개연성 없는 손, 눈, 치아, 신체^[3].
• 양식적: 윤기 나거나 밀랍 같은 피부, 잡지나 영화 스틸 같은 느낌, 세부 묘사나 색감이 부분마다 다른 등 지나치게 완벽해 보이는 이미지^[3].
• 기능적: 작동할 수 없는 사물, 이례적인 디자인, 알아볼 수 없는 글자나 로고. 생성기는 사물이 작동하는 방식을 구조적으로 이해하지 못하기 때문입니다^[3].
• 물리 법칙 위반: 일관되지 않은 그림자와 반사, 깊이와 원근의 문제^[3].
• 사회문화적: 일어날 법하지 않거나, 부적절하거나, 해당 문화의 규범에 어긋나거나, 역사적으로 부정확한 장면^[3].

연구진은 사람이 알아챌 수 있는 흔적이 자주 나타나기는 하지만 항상 있는 것은 아니며, 이상하게 생긴 손 같은 해부학적 특이점이 반드시 AI 생성 이미지라는 뜻은 아니라고 강조합니다^[3]. 생성기도 빠르게 발전합니다. Microsoft 연구진은 자신들의 결과가 현재 AI 이미지를 알아보는 사람들의 능력을 과대평가하고 있을 가능성이 높다고 지적합니다^[1].

어떤 가짜가 가장 알아보기 어려운가요?

Microsoft 실험에서 사람들을 절반 이상 속인 이미지는 두 종류였습니다. GAN(구세대 이미지 생성기)으로 만든 사람 얼굴, 그리고 실제 사진의 일부를 생성된 콘텐츠로 바꾸는 인페인팅입니다^[1]. NIST도 같은 점을 지적합니다. 부분적으로 편집된 이미지는 대부분 진짜이므로 모든 탐지 방법을 어렵게 만든다는 것입니다^[4]. 따라서 세부 하나만 바뀐 실제 사진이 완전히 합성된 장면보다 잡아내기 더 어렵습니다.

영상은 어떤가요?

영상은 더욱 어렵습니다. University of California, Berkeley의 Hany Farid 교수는 2025년 6월 CBS News에 가짜가 정지 이미지를 넘어 휴대전화로 직접 찍은 것처럼 보이는 폭발 장면이 담긴 완전한 영상으로 발전했다고 말했습니다^[12]. 전문가들이 AI로 생성되었을 수 있다고 밝힌 테헤란 에빈 교도소 입구 폭발 영상에서, 그들은 문 위의 잘못된 표지판과 폭발 장면 자체의 비일관성을 지적했습니다^[12]. 표지판을 비롯한 글자, 조명, 그리고 같은 장면이 다른 카메라 영상에도 나타나는지를 확인하면 도움이 됩니다.

AI 워터마크와 Content Credentials는 이미지의 출처를 입증하나요?

기계 판독 신호는 육안보다 강력하지만, 신호가 존재하고 이를 읽을 수 있는 적절한 도구가 있을 때에만 그렇습니다. 주요 신호는 두 가지입니다.

보이지 않는 워터마크

워터마크는 픽셀이나 오디오 속에 숨겨진 신호입니다. Google의 SynthID는 AI 생성 콘텐츠에 지각할 수 없는 신호를 심으며, Google은 2025년 11월까지 200억 건이 넘는 콘텐츠에 이 워터마크가 적용되었다고 밝힙니다^[6]. 2025년 11월 20일부터는 Gemini 앱에 이미지를 올리고 Google AI로 만들었는지 물어볼 수 있습니다^[6]. Google 도움말 페이지에는 영상과 오디오 확인 기능도 추가되어 있으며, 파일당 100 MB, 90초 미만의 영상, 24시간당 유형별 약 10회라는 제한이 있습니다^[5].

이 한계는 중요합니다. Gemini는 현재 Google AI 도구로 만든 콘텐츠만 인식할 수 있으며, Google은 SynthID 워터마크가 발견되지 않았다고 해서 그 콘텐츠가 AI로 생성되지 않았다는 뜻은 아니라고 밝힙니다^[5]. Google에 따르면 워터마크는 대개 크기 조정, 색상 변경, 압축을 거쳐도 남아 있지만, 여러 번 변형된 뒤에는 탐지되지 않을 수 있습니다^[5].

Content Credentials

콘텐츠 출처 및 진위 연합(C2PA)이 만든 표준인 Content Credentials는 콘텐츠가 언제, 어디서, 어떻게 만들어졌고 어떻게 바뀌었는지를 암호학적으로 안전하게 기록하는 방식입니다^[7]. 파일이나 출처 데이터가 변경되면 암호학적 연결이 끊어져 조작이 있었음을 알려 줍니다^[7]. Gemini는 웹과 Android 앱에서 C2PA 적합 제품 목록에 오른 제품이 만든 Content Credentials 2.2 버전 이상을 읽을 수 있습니다^[5].

다만 자격 증명은 출처에 관한 주장을 기록할 뿐, 장면이 사실임을 기록하지는 않습니다. Google은 결과에 특정 회사의 이름이 나오더라도 그것은 누가 정보를 제공했는지를 보여 줄 뿐이며, 자격 증명이 콘텐츠의 AI 생성 여부를 확정적으로 입증하지는 않는다고 지적합니다^[5]. C2PA는 자격 증명이 파일에서 분리될 수 있다고 밝히며, 이를 다시 찾기 위해 워터마크나 지문 같은 ‘소프트 바인딩’을 지원합니다^[7].

라벨과 메타데이터는 왜 그렇게 자주 사라지나요?

메타데이터는 파일 안에 담겨 이동하므로, 파일을 다시 저장하는 과정에서 지워질 수 있습니다. NIST는 소셜 미디어 플랫폼 등을 통해 파일이 공유될 때 내장된 메타데이터가 흔히 삭제되며, 사람들이 속이기 위해서든 개인정보 보호 같은 무해한 이유에서든 메타데이터를 지울 수 있다고 지적합니다^[4].

Washington Post는 2025년 10월 이를 직접 시험했습니다. OpenAI의 Sora로 Content Credentials가 포함된 영상을 만들어 8개 소셜 앱에 올렸는데, 어느 앱도 자격 증명을 유지하거나 사용자가 볼 수 있게 하지 않았습니다^[8]. 경고를 붙인 곳은 YouTube뿐이었으며, 그마저도 ‘변경되었거나 합성된 콘텐츠’라는 안내가 영상 설명란에 있었습니다^[8].

눈에 보이는 워터마크는 훨씬 더 쉽게 무력화됩니다. 404 Media는 자신들이 시험한 웹사이트 세 곳이 영상에서 Sora 2의 보이는 워터마크를 몇 초 만에 제거했다고 보도했습니다^[9]. NIST는 또한 노이즈를 추가한 뒤 이미지의 노이즈를 제거하는 방식 등으로 보이지 않는 이미지 워터마크 다수를 지울 수 있음을 보여 준 연구도 소개합니다^[4].

플랫폼들은 무엇이라고 말하나요?

Meta는 2024년 Facebook, Instagram, Threads의 이미지에 라벨을 붙이기 위해 C2PA와 IPTC 메타데이터 표준의 AI 표시를 읽겠다고 밝혔습니다^[10]. 같은 발표에서 Meta는 아직 모든 AI 생성 콘텐츠를 식별할 수는 없으며 사람들이 보이지 않는 표시를 제거할 수 있다는 점을 인정했습니다^[10]. 그 대신 Meta는 사용자가 사실적인 AI 영상이나 실제처럼 들리는 오디오를 게시할 때 이를 밝히도록 요구합니다^[10].

AI 이미지 탐지 도구는 믿을 만한가요?

자동 탐지기는 파일이 합성물일 가능성을 추정하는 분류기입니다. 사람보다 나을 수 있습니다. Microsoft 연구팀의 자체 탐지기는 연구에서 실제 이미지와 AI 이미지 모두에 대해 95%를 넘는 정확도를 보였습니다^[1]. 다만 이 수치는 한 데이터 세트에 대한 한 연구용 도구의 결과이며, 인터넷에서 찾을 수 있는 아무 무료 웹사이트에나 해당하는 것은 아닙니다.

장점

• Microsoft 연구진은 탐지 도구가 여전히 실수를 하기는 하지만 사람보다 훨씬 더 믿을 만하다고 설명합니다^[1].
• 그 연구에서 탐지 도구의 정확도는 이미지 범주 전반에 걸쳐 일정했는데, 이는 대상에 따라 달라진 사람의 정확도와 대조됩니다^[1].

한계

• NIST에 따르면 탐지기는 학습에 쓰인 생성기의 콘텐츠에서 가장 잘 작동하는 경우가 많은데, 새로운 모델은 계속 등장합니다^[4].
• NIST에 따르면 새로운 탐지 방법이 나오자마자 생성기는 개선되고 공격자는 이를 피하는 법을 익힙니다^[4].
• 실제 콘텐츠를 AI로 판정하는 오탐은 평판 훼손이나 불이익을 초래하는 등 매우 큰 피해를 줄 수 있습니다^[4].
• 부분적으로 편집된 이미지는 분류하기 어렵고, 편집이 ‘상당한’ 수준인지는 주관적일 수 있습니다^[4].

따라서 탐지기 점수는 판단 자료 중 하나일 뿐입니다. 원본 출처가 없다거나 눈에 보이는 오류가 있다는 등 다른 증거와 일치할 때 가장 유용합니다.

어떤 방법을 언제 써야 하나요?

각 방법은 서로 다른 질문에 답합니다. 육안 검사는 콘텐츠가 물리적으로 그럴듯해 보이는지를 묻습니다^[3]. 워터마크 확인은 특정 회사의 AI가 신호를 남겼는지를 묻습니다^[5]. Content Credentials는 파일의 서명된 이력이 무엇을 말하는지를 묻습니다^[7]. 역이미지 검색은 사진이 언제 어디서 처음 등장했는지를 묻으며, Google은 자사 도구와 함께 이를 권장합니다^[5]. 아래 표에서 이들을 비교합니다.

뉴스 사건을 보도하거나 누군가가 증거를 조작했다고 지적하는 것처럼 중대한 결정을 내릴 때는 여러 방법을 쓰고 결과가 일치하는지 확인하십시오. NIST는 조직들이 여러 탐지 기법을 함께 사용할 수 있다고 하면서 만능 해결책은 없다고 말합니다^[4].

AI 이미지에 라벨을 붙이도록 요구하는 규정에는 무엇이 있나요?

유럽연합에서는 AI Act Article 50에 따른 투명성 의무가 2026년 8월 2일부터 적용됩니다^[11]. 이 규정에 따라 AI 시스템 제공자는 오디오, 이미지, 영상, 텍스트 출력물이 인공적으로 생성된 것으로 탐지될 수 있도록 기계 판독 가능한 방식으로 표시해야 하고, 배포자는 딥페이크에 라벨을 붙여야 합니다. 유럽연합 집행위원회의 실천 강령이 그 방법을 제시합니다^[11]. 이 강령은 딥페이크를 실제 인물, 사물, 장소, 단체, 사건과 닮아 진짜인 것처럼 잘못 보일 수 있는 이미지, 오디오, 영상 콘텐츠로 정의합니다^[11].

강령 준수 자체는 자율적이지만, Article 50에 따른 의무는 법적 의무입니다^[11]. 집행위원회의 일정표에 따르면 최종 강령은 2026년 6월 10일 공개되었으며, 2026년 7월 말까지 약 190개 조직이 서명했습니다^[11]. EU는 배포자가 AI 생성 콘텐츠에 라벨을 붙이는 데 쓸 수 있는 아이콘 세트도 만들었습니다^[11]. EU 밖에서는 Meta의 공개 규정 같은 플랫폼 정책이 적용되지만^[10], 규정은 국가마다 다르고 자주 바뀌므로 2026년 11월 3일 기준의 최신 버전을 확인하십시오.

가짜를 가려내는 일은 앞으로 어떻게 될까요?

흐름은 사람이 오류를 찾아내는 방식에서 생성 단계부터 파일에 라벨을 넣는 방식으로 옮겨 가고 있습니다. Google은 Gemini의 검증 기능을 자사 생태계 밖의 제품이 만든 Content Credentials로 확대할 계획을 발표했고^[6], 현재 도움말 페이지에는 이런 확인 기능이 설명되어 있으며^[5], EU의 표시 규정은 제공자에게 적용됩니다^[11]. 동시에 NIST는 워터마크를 제거하거나 위조(‘스푸핑’)하는 공격을 설명하고 있으며^[4], Washington Post의 시험은 플랫폼들이 기존 신호마저 버리는 경우가 많다는 것을 보여 주었습니다^[8].

아직 불확실한 것

• 내년에 사람들이 얼마나 잘 구별할지. Microsoft 연구진은 생성기가 발전함에 따라 사람의 정확도가 떨어질 것으로 예상합니다^[1].
• 플랫폼이 자격 증명을 보존할지. Content Credentials 참여는 자율적이며, Washington Post의 시험에서는 어떤 플랫폼도 이 데이터를 유지하지 않았습니다^[8].
• 다른 회사의 워터마크까지 지원할지. 2026년 11월 3일 기준 Gemini의 확인 기능은 아직 다른 회사의 워터마크를 읽지 못합니다^[5].

당분간은 특별한 도구가 필요 없는 확인 방법도 여전히 중요합니다. Google은 원본 출처를 찾기 위해 역이미지 검색을 권장하며^[5], Hany Farid는 CBS News 독자들에게 속보를 소셜 미디어에 의존하지 말라고 조언했습니다^[12].