‘AI로 만든 그림은 손가락이 6개다’ 또는 ‘간판 글자가 뭉개져 있다’는 이야기는 인터넷에서 하나의 밈처럼 퍼졌습니다. 사람들은 이 규칙을 믿고 사진이나 영상의 진위를 판별하려 하지만, 2026년 1월 공개된 학술 연구는 이 통념이 사실과 다르다는 점을 데이터로 확인했습니다. X-AIGD 연구를 진행한 Yao Xiao 팀은 기존 탐지기가 우리가 눈으로 확인하는 지각적 결함을 거의 이용하지 않는다는 사실을 밝혀냈습니다 1.
그렇다면 기계는 무엇을 근거로 ‘AI 생성’이라고 판정할까요? 정답은 사람의 육안으로는 식별할 수 없는 통계적 무늬입니다. 이 글에서는 탐지기가 실제로 어떤 신호에 반응하는지 설명하고, 사람과 기계의 판단력 격차가 어디에서 비롯되는지 구체적인 실험 사례를 통해 살펴봅니다.
눈에 보이는 결함을 탐지기는 거의 보지 않습니다
Yao Xiao 연구팀은 AI 생성 이미지의 결함을 세밀하게 분류한 ‘X-AIGD’ 벤치마크를 구축했습니다. 연구팀은 손가락 기형이나 그림자 이상 같은 저수준 왜곡부터 문맥이 어긋난 고수준 의미 오류까지, 픽셀 단위로 위치와 유형을 모두 라벨링했습니다 1.
그 결과 기존 탐지기는 가장 기초적인 왜곡 단계에서도 이러한 지각적 아티팩트에 대한 의존도가 무시할 만한 수준(negligible)인 것으로 나타났습니다. 특정 결함을 찾아내도록 모델을 훈련시켜도, 판정의 상당 부분은 여전히 사람이 해석할 수 없는(uninterpretable) 특징에 의존했습니다 1. 즉, 탐지기가 ‘특유의 시각적 실수’를 찾는 것이 아니라, 생성 모델이 데이터에 남긴 고유의 통계적 패턴을 읽는다는 뜻입니다.
사람 눈으로는 불가능한 통계적 판별
탐지기와 사람의 판단력 격차는 학술 연구인 DF26 벤치마크의 결과에서 극명하게 드러납니다. 이 테스트는 한 사람이 말하는 실제 영상과 AI 생성 영상을 구별하는 과제입니다 2, 3. Pangram은 2026년 11월 자사 블로그를 통해 영상 탐지 모델 Image Flash 1.0을 공개하면서, 이 DF26 벤치마크를 평가 근거로 인용했습니다 2, 3.
Pangram 측 설명에 따르면, 이 실험에서 인간의 판정 정확도는 동전 던지기보다 약간 나은 수준에 불과했고 기존 탐지기도 크게 낫지 않았습니다. 반면 Pangram의 Flash 1.0은 이 벤치마크에서 98.7%의 정확도를 기록하며, 차순위 탐지기보다 29%포인트 높은 성능을 보였습니다 2, 3.
| 탐지 대상 | 판정 정확도 |
|---|---|
| 사람 (실제 vs AI 영상 구별) | 무작위 선택보다 약간 나은 수준 2 |
| 차순위 AI 탐지기 | 약 69.7% (98.7% 기준 29%p 차이에 따른 산출 추정) |
| Pangram Image Flash 1.0 | 98.7% 2, 3 |
Pangram의 이미지 탐지 모델 Image 1.0은 실제 사진 100장과 12개 최신 AI 생성 모델로 만든 1,200장의 합성 이미지 총 1,300장을 대상으로 한 자체 벤치마크에서 99.96%의 정확도를 기록했습니다 2, 3. 이 결과는 X-AIGD 연구가 기존 탐지기의 지각적 아티팩트 의존도가 무시할 만한 수준(negligible)임을 밝힌 일반적 발견과 맥을 같이하지만 1, Pangram은 Image 1.0의 99.96% 정확도 메커니즘을 시각적으로 해석 불가능한 신호의 해석으로 구체적으로 설명하지는 않았습니다.
실전 도구와 편향 제거를 위한 실험 설계
Pangram은 이러한 기술적 원리를 일반 사용자가 이해하기 쉽게 도구로 구현했습니다. Chrome 확장 프로그램 형식으로 제공되는 Image 1.0은 SNS, 쇼핑몰, 임대 매물 사이트 등을 탐색할 때 화면 속 이미지에 히트맵을 덮어씌워 AI로 생성된 영역과 그 위치를 시각적으로 표시합니다 2, 3.
이 도구는 소셜미디어 환경에서 흔히 발생하는 압축, 축소, 흐림(블러), 노이즈 처리에 견고하도록 학습되었습니다. 입력 해상도가 512×512 픽셀 이하로 낮아지면 신뢰도 하락을 안내하지만, 최소 256×256 저해상도 이미지에서도 판별을 시도할 수 있도록 지원했습니다 2.
(Pangram 블로그: 실제 영상과 합성 거울 영상이 동일한 장면과 피사체를 공유하도록 구성해, 특정 콘텐츠에 대한 판정 편향을 줄이는 실험) 3
탐지 성능의 신뢰성을 높이기 위한 실험 설계도 주목할 만합니다. Pangram은 실제 소셜미디어 영상 129개의 첫 프레임을 초기 입력으로 활용하고, 시각언어모델(VLM)이 생성한 영상 설명 문장을 프롬프트로 주입해 14개의 영상 생성 모델이 ‘합성 거울’ 영상을 제작하게 했습니다 3. 실제 영상과 합성 영상이 장면과 피사체를 정확히 공유하기 때문에, 특정 콘텐츠 유형을 AI로 오인하는 편향 없이 탐지기의 능력을 공정하게 측정할 수 있습니다 3.
판정이 근거를 설명 못 할 때, 표기 기술이 돕습니다
탐지기가 통계적 무늬로 판정을 내리더라도, 그 이유를 인간이 납득할 만한 시각적 언어로 설명하기는 어렵습니다 1. 이러한 한계를 보완하기 위해 ‘판정’과 동시에 ‘출처 표기’를 강제하는 기술과 제도가 함께 논의되고 있습니다.
EU AI Act 제50조가 규정하는 투명성 의무를 이행하지 않을 경우, 1,500만 유로 또는 전 세계 연매출의 3%까지 벌금이 부과될 수 있습니다 4.
C2PA(Content Credentials)는 콘텐츠의 제작 이력과 수정 과정을 암호화된 메타데이터로 기록하는 표준이며, 룩셈부르크 디지털화부는 이러한 규제 이행을 위해 2026년 5월 ‘TAID.LU’라는 AI 탐지 플랫폼 조달을 시작했습니다 5, 6. 이 공공 시스템은 딥페이크를 탐지할 때 단순한 점수만이 아니라 ‘감사 가능한 근거와 설명’을 함께 제공하도록 요구합니다 6.
| 구분 | AI 탐지 기술 (예: Pangram) | C2PA 및 워터마킹 (예: Rezolve) |
|---|---|---|
| 판별 방식 | 사람의 육안으로 보이지 않는 통계적·시각적 패턴 분석 2, 1 | 생성 시점에 심어둔 디지털 서명 및 색상 채널 내 데이터 읽기 5, 4 |
| 장단점 | 사람이 알 수 없는 단서로 고화질 가짜 영상도 잡아냄 | C2PA 메타데이터는 벗겨지거나 편집될 경우 신호를 잃을 위험이 있으나, Rezolve의 특허 워터마크는 이미지 색상 채널에 내장되어 메타데이터 제거에도 남음 4 |
시각적 단서 대신 교차 확인이 필요한 이유
결국 AI 이미지 탐지기는 ‘손가락 6개’나 ‘뭉개진 글자’를 찾아내는 도구가 아닙니다 1. 기계가 ‘AI 판정’을 내린다는 것은 인간이 알아채지 못하는 픽셀들의 통계적 규칙을 발견했다는 뜻에 가깝습니다.
말하는 사람의 영상 앞에서도 인간의 눈은 무작위 추측 수준에 머무는 반면, 98.7%의 정확도를 보이는 탐지기는 무형의 통계적 무늬를 읽어냅니다 2, 3.
참고자료
- Unveiling Perceptual Artifacts: A Fine-Grained Benchmark for Interpretable AI-Generated Image Detection · arxiv.org↩
- Pangram Image 1.0 공개 - 사진과 영상에서 AI로 만든 부분을 탐지 | GeekNews · news.hada.io↩
- Introducing Pangram Image 1.0 · pangram.com↩
- Rezolve Ai Unveils Patent-Backed AI Provenance Platform as Watermarking Becomes Global Infrastructure · globenewswire.com↩
- ↩
- Luxembourg opens tender for AI-generated content detection tool | Biometric Update · biometricupdate.com↩
