AI 탐지기는 얼마나 정확한가? 학생과 교사를 위한 연구 결과 정리

AI 탐지기는 얼마나 정확한가요?

간단히 말해 AI 텍스트 탐지기는 시험 조건에서는 상당히 자주 맞히지만, 학생의 성적이나 기록이 걸린 상황에서는 중대한 오류를 범합니다. 정확도는 도구, 텍스트 길이, 언어, AI 텍스트의 편집 여부, 도구가 쓰는 임계값에 크게 좌우됩니다.

가장 분명한 초기 경고는 ChatGPT를 만든 OpenAI에서 나왔습니다. 2023년 1월 공개된 OpenAI의 분류기는 영어 평가 세트에서 AI가 쓴 텍스트의 26%만 ‘AI가 썼을 가능성이 높음’으로 올바르게 판정했고, 사람이 쓴 텍스트를 9%의 비율로 AI가 쓴 것으로 잘못 분류했습니다^[1]. OpenAI는 ‘정확도가 낮다는 이유로’ 2023년 7월 20일부터 이 분류기의 제공을 중단했습니다^[1]. 현재 교육자용 도움말 페이지에서 OpenAI는 ‘AI 탐지기는 효과가 있나요?’라는 질문에 ‘간단히 말해, 저희 경험으로는 그렇지 않습니다’라고 답합니다^[2].

독립적인 연구들도 많은 도구에 대해 비슷한 결론에 이르렀습니다. 공개 도구 12개와 상용 시스템 2개(Turnitin, PlagiarismCheck)를 조사한 2023년 연구는 이 도구들이 ‘정확하지도 신뢰할 수도 없으며’, AI 텍스트를 탐지하기보다는 사람이 쓴 것으로 분류하는 경향이 있다고 결론지었습니다^[4]. 이후의 연구 결과는 더 엇갈립니다. 2025년 9월의 한 워킹 페이퍼는 상용 탐지기가 오픈소스 탐지기보다 성능이 좋았으며, 그중 Pangram이라는 제품은 시험에서 오류율이 거의 0에 가까웠다고 밝혔습니다^[10]. 다만 한 데이터 세트로 진행한 한 연구의 결과가 모든 교실에 그대로 적용되는 것은 아닙니다.

AI 탐지기는 어떻게 작동하나요?

대부분의 탐지기는 분류기입니다. 즉 텍스트를 ‘사람’ 또는 ‘AI’로 나누고 점수를 매기도록 학습된 소프트웨어입니다. Turnitin은 이 원리를 단어 확률로 설명합니다. ChatGPT 같은 챗봇의 바탕이 되는 대규모 언어 모델(LLM)은 다음 단어를 ‘일관되고 확률이 매우 높은 방식으로’ 고르는 경향이 있는 반면, 사람의 글은 ‘일관되지 않고 개성적인’ 경향이 있다는 것입니다^[5]. Turnitin의 분류기는 이런 차이를 탐지하도록 학습되었습니다^[5].

이와 관련된 지표로 퍼플렉서티(perplexity)가 있는데, 대략 어떤 텍스트가 언어 모델에 얼마나 의외로 느껴지는지를 나타냅니다. 퍼플렉서티가 낮은 텍스트는 예측하기 쉽습니다. Liang 연구진은 이 신호가 오판을 낳을 수 있음을 보여 주었습니다. 비원어민 영어 작성자의 에세이는 퍼플렉서티가 상당히 낮았고, 이것이 탐지기가 이들을 AI로 판정한 이유를 설명하는 데 도움이 됩니다^[3]. 한편 Turnitin은 자사 모델이 퍼플렉서티를 평가하도록 명시적으로 프로그래밍된 것이 아니라 학습 데이터에서 통계적 패턴을 익힌다고 말합니다^[5].

탐지기 점수는 무엇을 의미하나요?

Turnitin은 각 문장에 0에서 1 사이의 점수를 매기고, 임계값을 넘는 문장을 AI로 표시한 뒤, 평가된 문장 중 임계값을 넘는 문장의 비율을 문서 점수로 보고합니다^[5]. 목록, 머리글, 참고 문헌, 표, 수식, 코드는 건너뛰므로, 이 비율이 반드시 제출물 전체에서 차지하는 비중을 뜻하지는 않습니다^[5]. 점수는 확률에 근거한 추정치이지, 텍스트가 어떻게 작성되었는지에 대한 기록이 아닙니다.

워터마크는 다른 방식인가요?

그렇습니다. 워터마크는 텍스트가 생성되는 동안 덧붙여지는 숨은 통계적 패턴입니다. Google DeepMind의 SynthID-Text는 샘플링 단계만 바꾸며, 원래 모델을 실행하지 않고도 탐지할 수 있습니다. 실제 서비스 환경의 실험에는 Gemini 응답 약 2,000만 건이 포함되었습니다^[12]. 연구진은 워터마크가 완전한 해결책은 아니라고 말합니다. 텍스트를 생성하는 회사가 적용해야만 효과가 있고, 오픈소스 모델에는 적용하기 어려우며, 바꿔 쓰기로 약해지거나 탈취, 위조, 제거 공격을 받을 수 있기 때문입니다^[12].

오탐과 편향에 대해 연구는 무엇을 말하나요?

오탐(false positive)은 사람이 쓴 글을 AI가 쓴 것으로 잘못 판정하는 것입니다. 교육 현장에서는 정직한 학생이 고발당할 수 있으므로 더 심각한 오류입니다. 미탐(false negative)은 AI 텍스트가 사람이 쓴 것으로 통과되는 것입니다.

비원어민 영어 작성자

Liang 연구진의 연구에서는 널리 쓰이는 탐지기 7개를 중국의 한 교육 포럼에서 모은 사람이 쓴 TOEFL 에세이 91편과 미국 8학년 학생의 에세이 88편으로 시험했습니다^[3]. 탐지기들은 미국 학생 에세이는 거의 완벽하게 판정했지만 TOEFL 에세이는 절반 이상을 잘못 분류했으며, 평균 오탐률은 61.22%였습니다^[3]. 7개 탐지기 모두가 TOEFL 에세이 91편 중 18편(19.78%)을 AI로 판정했고, 91편 중 89편(97.80%)은 적어도 한 탐지기에서 AI로 판정되었습니다^[3]. ChatGPT로 이 에세이들의 어휘를 풍부하게 다듬자 평균 오탐률은 11.77%로 떨어졌습니다^[3]. 반대로 ChatGPT에 미국 학생 에세이를 ‘비원어민이 쓴 것처럼’ 단순하게 바꾸라고 하자 오탐률이 5.19%에서 56.65%로 올랐습니다^[3].

이 연구에 포함되지 않았던 Turnitin은 그 결과가 자사 제품에 적용된다는 데 이의를 제기합니다. Turnitin은 해당 TOEFL 에세이가 모두 150단어 미만이었으며 자사는 그렇게 짧은 문서에는 점수를 매기지 않는다고 지적합니다^[6]. Turnitin이 2023년 자체적으로 실시한 시험에서는 300단어 이상의 문서에 대해 영어를 제2언어로 쓰는 작성자와 모국어로 쓰는 작성자 사이의 오탐률 차이가 작았고 통계적으로 유의하지 않았습니다^[6]. 다만 이 평가는 업체가 직접 수행한 것입니다.

작은 오류율이 왜 크게 불어나나요?

Vanderbilt University는 2023년 8월 Turnitin의 AI 탐지기를 끄면서 이를 직접 계산해 보였습니다. Turnitin은 출시 당시 오탐률이 1%라고 주장했는데, Vanderbilt는 2022년에 약 75,000편의 과제를 제출했으므로 약 750편이 잘못 판정될 수 있었다는 것입니다^[7]. 같은 논리는 어떤 탐지기에도 적용됩니다. 작게 들리는 비율도 수백만 건의 문서를 검사하면 많은 사람에게 영향을 줄 수 있습니다.

편집이나 휴머나이저 도구로 AI 탐지기를 속일 수 있나요?

최신 도구들은 이에 저항할 수 있다고 주장하지만, 속일 수 있는 경우가 많습니다. 14개 도구를 시험한 2023년 연구에서 평균 정확도(이진 채점)는 사람이 쓴 텍스트에서 94%였지만, 사람이 직접 편집한 AI 텍스트에서는 30%, 기계 바꿔 쓰기 도구를 거친 AI 텍스트에서는 15%에 불과했습니다^[4]. AI 출처를 숨기려고 의도적으로 고치는 콘텐츠 난독화는 도구의 성능을 크게 떨어뜨렸습니다^[4].

8개 분야에 걸쳐 11개 모델로 만든 600만 건 이상의 생성물, 11가지 적대적 공격, 4가지 디코딩 전략을 포함한 RAID 벤치마크는 평가 대상 탐지기 12개가 공격, 샘플링 설정 변경, 반복 페널티, 처음 보는 모델에 ‘쉽게 속는다’는 것을 발견했습니다^[8]. 연구진은 많은 탐지기가 99% 이상의 정확도를 내세우지만 공유된 까다로운 데이터로 시험받는 경우는 드물다고 지적합니다^[8]. Sadasivan 연구진은 다른 모델로 AI 텍스트를 반복해서 바꿔 쓰면 많은 경우 품질은 조금만 떨어뜨리면서 탐지율을 크게 낮출 수 있음을 보여 주었습니다^[9]. 또한 AI 텍스트가 사람의 텍스트에 가까워질수록 이론상 가장 뛰어난 탐지기의 성능마저 떨어진다는 점도 보여 주었습니다^[9].

업체들도 대응에 나섰습니다. Turnitin은 휴머나이저라고도 불리는 바꿔 쓰기 도구나 ‘우회(bypasser)’ 도구로 수정한 AI 텍스트를 식별할 수 있다고 말하지만, 이는 영어 제출물에만 해당합니다^[5]. 2025년 NBER 워킹 페이퍼는 시험에서 Pangram의 낮은 오류율이 휴머나이저 도구와 매우 짧은 글에서도 유지되었다고 보고합니다^[10]. 고무적인 결과이지만, 이는 특정 시점에 당시 존재하던 도구를 상대로 한 성능입니다. 연구진은 또한 의사 결정자들이 두 종류의 오류에 서로 다른 무게를 두므로, 이에 대한 명시적인 허용 한도, 즉 ‘정책 상한(policy cap)’을 정하자고 제안합니다^[10].

교사가 소프트웨어보다 AI 글을 더 잘 알아볼 수 있나요?

그럴 수 있는 사람도 있습니다. 2025년의 한 연구에서 평가자들은 영어 논픽션 기사 300편을 읽고 각각 사람이 썼는지 AI가 썼는지 표시했습니다^[11]. 글쓰기에 LLM을 자주 쓰는 사람들은 이 일을 매우 잘했습니다. 이런 ‘전문가’ 평가자 5명의 다수결은 300편 중 단 1편만 잘못 분류해, 바꿔 쓰기와 휴머나이징을 적용한 경우에도 연구진이 평가한 상용 및 오픈소스 탐지기 대부분보다 뛰어났습니다^[11]. 전문가들은 ‘AI 특유의 어휘’뿐 아니라 격식, 독창성, 명료성에도 의지했습니다^[11].

이 결과에는 한계가 있습니다. 혼자서 빠르게 채점하는 교사가 아니라 경험 많은 평가자 5명과 다수결을 사용했고, 학생 과제가 아니라 영어 논픽션 기사를 대상으로 했습니다^[11]. 이 연구가 시사하는 것은 근거를 갖춘 사람의 판단이 숫자 하나보다 낫다는 것이지, 직관만으로 사안을 결정해야 한다는 것이 아닙니다.

교사는 AI 탐지 결과를 어떻게 공정하게 활용해야 하나요?

도구를 만든 회사들조차 점수를 증거로 취급하지 말라고 경고합니다. Turnitin은 자사 도구가 ‘부정행위 여부를 판정하지 않으며’, AI 비율은 ‘조치의 유일한 근거나 확정적인 채점 기준으로 사용되어서는 안 된다’고 밝힙니다^[5]. OpenAI는 ChatGPT가 텍스트가 AI로 생성되었는지 알 수 없으며, ‘네가 이걸 썼니?’ 같은 질문에 대한 답은 무작위라고 말합니다^[2].

1. 탐지 표시는 판결이 아니라 더 자세히 살펴볼 이유로 여기십시오. Turnitin은 자사 점수를 기관 자체 정책에 따른 결정에 참고할 데이터라고 설명합니다^[5].
2. 조건을 확인하십시오. Turnitin은 평가 대상 문장이 300단어 미만인 문서는 처리하지 않으며, 보고서에 20% 미만의 점수는 표시하지 않습니다^[5]. 짧거나 목록이 많은 과제는 신호가 약합니다.
3. 오차 범위를 기억하십시오. Turnitin은 AI 텍스트일 가능성이 50%라고 보고할 때 문서에 실제로는 AI가 쓴 글이 최대 65%까지 들어 있을 수 있다고 말합니다^[5]. 이 도구는 오탐을 내기보다 일부 AI 텍스트를 놓치는 쪽으로 조정되어 있으므로, 이 숫자는 측정값이 아니라 추정치입니다.
4. 다른 근거를 모으십시오. 초안, 메모, 버전 기록, 과제에 대한 학생과의 대화가 점수 하나보다 더 많은 것을 알려 줍니다. OpenAI는 일부 교사들이 학생에게 구체적인 ChatGPT 대화를 공유하도록 권하는 것이 유용하다고 느꼈다고 말합니다^[2].
5. 언어 배경을 고려하십시오. OpenAI는 탐지기가 영어 학습자와 글이 정형화되어 있거나 간결한 학생에게 불균형하게 영향을 줄 수 있다는 징후를 보고했으며^[2], Liang 연구진은 비원어민 에세이의 오탐률이 훨씬 높다는 것을 발견했습니다^[3].
6. 규칙을 미리 분명히 정하십시오. 학생들은 문법 도움처럼 허용되는 AI 사용과 그렇지 않은 사용을 알아야 합니다. NBER 연구진은 권장되는 사용을 다른 사용과 구분하기 어려울 수 있다고 지적합니다^[10].

이 단계를 건너뛰는 대가는 실제로 나타납니다. ABC News는 2025년 10월, 내부 문서에 따르면 Australian Catholic University(ACU)가 2024년에 부정행위 의심 사례를 약 6,000건 접수했으며 그중 약 90%가 AI와 관련되어 있었다고 보도했습니다. 대학 측은 이 수치가 ‘상당히 과장되었다’고 밝혔습니다^[13]. ACU는 2025년 3월 Turnitin의 AI 도구 사용을 중단했으며, 부총장은 이 도구가 유일한 근거였던 사례는 즉시 기각되었다고 말했습니다^[13].

탐지기가 내 과제를 잘못 판정했다면 학생은 무엇을 할 수 있나요?

이 내용은 일반 정보이며 법률 자문이 아닙니다. 학교마다 고유한 절차가 있습니다. 도구를 만든 회사들 스스로 밝히듯 탐지기의 판정은 부정행위의 증거가 아닙니다^[2][5].

• 어떤 근거가 있는지 물어보십시오. 어떤 도구를 썼는지, 점수는 얼마였는지, 그 밖에 의심을 뒷받침하는 것이 있는지 확인하십시오. Turnitin의 지표는 강사와 관리자만 볼 수 있으므로 학생이 직접 요청해야 할 수도 있습니다^[5].
• 작업 과정을 보여 주십시오. 초안, 개요, 손글씨 메모, 자료를 찾은 브라우저 기록, 문서 버전 기록은 모두 과제가 어떻게 발전했는지 보여 줍니다.
• 과제를 직접 설명하겠다고 제안하십시오. 자신의 논지와 출처에 대해 이야기할 수 있다는 것은 본인이 썼다는 강력한 증거입니다.
• 공식 이의 제기 절차를 이용하고 모든 메시지의 사본을 보관하십시오.
• 챗봇에게 판단을 맡기지 마십시오. OpenAI는 텍스트를 ChatGPT가 썼는지에 대한 ChatGPT의 답변에는 사실적 근거가 없다고 말합니다^[2].

이란을 비롯해 영어를 제2언어로 쓰는 국가의 학생들에게 편향 연구는 직접적인 의미가 있습니다^[3]. Turnitin의 AI 탐지는 영어, 스페인어, 일본어, 현대 아랍어, 네덜란드어, 독일어, 터키어의 장문 글을 지원합니다. 페르시아어는 이 목록에 없으며, 지원되지 않는 언어로 된 제출물은 처리되지 않습니다^[5].

AI 탐지는 더 신뢰할 수 있게 될까요?

2026년 11월 3일 현재 상황은 생성기와 탐지기 사이의 경쟁입니다. Turnitin은 2026년 10월 영어 탐지 모델 아키텍처를 갱신했으며, 탐지할 수 있는 모델로 GPT-5.4와 Claude Opus 4.6 등을 꼽습니다^[5]. 2025년의 일부 연구는 최고의 상용 도구가 강력한 결과를 낸다는 것을 보여 주지만^[10], 벤치마크 연구들은 시험되지 않은 조건에서는 여전히 많은 탐지기가 속는다는 것을 보여 줍니다^[8]. 이론적 연구는 AI 글이 사람의 글에 가까워질수록 탐지가 더 어려워진다고 시사합니다^[9].

워터마크는 이를 도입하는 업체의 텍스트에는 도움이 될 수 있지만, 연구진은 이를 완전한 해답이 아니라 다른 방법을 보완하는 수단으로 설명합니다^[12]. OpenAI와 Turnitin의 지침은 모두 학교가 명확한 AI 사용 정책, 학생의 작업 과정 기록, 그리고 점수가 아닌 교육자의 판단에 따른 결정 쪽으로 나아가도록 안내합니다^[2][5].