이 사진, AI가 만든 걸까 — 진짜와 가짜를 가려내는 법

휴대폰으로 사진이나 영상을 하나 받았다고 해봅시다. 유명인이 코인을 추천하거나, 친구처럼 보이는 사람이 급하게 돈을 빌려달라고 합니다.

예전 같으면 “사진이 있으니 진짜겠지” 했겠지만, 2026년에는 사진만으로 진위를 증명할 수 없습니다. AI 이미지와 영상은 눈으로, 합성 음성은 귀로 구별하기 어려울 만큼 정교해졌기 때문입니다.

쉬운 답은 ‘보이지 않는 도장’과 ‘전자 영수증’을 확인하는 것입니다. 기술 회사들은 AI가 콘텐츠를 만들 때 워터마크와 출처·편집 기록을 함께 남기는 방식을 쓰고 있습니다.

다만 도장이 없다고 곧바로 진짜라는 뜻은 아닙니다. 의심스러운 콘텐츠는 도구로 표시를 확인한 뒤, 출처와 맥락도 따로 살펴야 합니다.

왜 갑자기 ‘이거 진짜야?‘가 중요해졌나요?

가짜를 진짜로 믿었을 때 잃는 돈이 실제로 어마어마하게 커졌기 때문입니다. 2024년 초, 영국 엔지니어링 회사 아럽(Arup)의 홍콩 직원은 화상회의에 참석했다가 2억 홍콩달러(약 2,560만 달러, 우리 돈으로 약 350억원)를 사기범에게 송금했습니다 — CNN.

충격적인 건 그 회의 화면에 있던 재무책임자와 동료들이 전원 AI로 만든 가짜였다는 점입니다. 직원 본인만 진짜였습니다.

범인들은 회사 임원들이 과거 공개 회의에서 남긴 영상과 음성을 끌어모아 얼굴과 목소리를 그대로 복제했습니다.

직원은 처음엔 의심했지만, 화면 속 사람들이 평소 알던 동료와 똑같이 보이고 들리자 의심을 거뒀습니다. 그렇게 15번에 걸쳐 돈을 보냈습니다 — CNN.

이건 특별한 사건이 아니라 흐름의 한 장면입니다. 회계·컨설팅 회사 딜로이트는 미국에서 생성형 AI가 부추긴 사기 피해액이 2023년 약 123억 달러에서 2027년 약 400억 달러로 불어날 것으로 내다봤습니다 — Deloitte. 해마다 약 32%씩 커지는 속도입니다.

여기서 핵심은 단순합니다. 가짜가 진짜처럼 보이는 게 더 이상 영화 속 이야기가 아니라는 것. 그래서 “이 이미지가 진짜인지”를 확인하는 능력이, 이제는 모두에게 필요한 생활 기술이 됐습니다.

3줄 요약

• 정교한 AI 이미지·영상은 눈만으로 안정적으로 판별하기 어렵습니다. 2024년 한 회사는 가짜 영상통화 한 번에 약 350억원을 잃었습니다 — CNN.
• 일부 생성 도구는 SynthID 같은 워터마크나 C2PA 콘텐츠 자격증명을 붙입니다. 두 기술의 목적과 판독법은 다르며, 변환 뒤 보존 여부도 파일과 도구에 따라 달라집니다.
• 공식 판독 도구는 지원되는 생성기·형식에서 표식을 찾는 데 도움을 줍니다. 결과는 보편적인 AI 판정이 아니며, ‘표시 없음’도 ‘진짜’를 뜻하지 않습니다.

AI가 만든 건 정말 눈으로 못 가리나요?

눈으로 알아차릴 수 있는 단서가 남는 경우도 있지만, 그것만으로 모든 이미지를 일관되게 판별하기는 어렵습니다. 생성 도구와 후처리 방식에 따라 손가락·글자·빛 같은 단서의 유무가 달라지므로 화면만 보고 단정하지 않는 편이 안전합니다.

사진의 빛, 그림자, 피부 질감, 배경 디테일까지 자연스러워서 전문가도 화면만 보고는 자신 있게 단정하기 어렵습니다.

문제는 우리 눈만이 아닙니다. 인터넷에 떠도는 ‘AI 판별기’ 사이트들도 생각보다 못 믿을 때가 많습니다.

진짜 사진을 가짜라고 하거나, 가짜를 진짜라고 하는 오류가 잦습니다. 픽셀의 미세한 흔적을 추측으로 분석하는 방식이라, 화질이 낮거나 한 번 가공된 이미지에서는 특히 흔들립니다.

그래서 업계가 방향을 틀었습니다. “만들어진 결과물을 사후에 분석해 추측하지 말고, 만드는 순간에 표시를 박아두자”는 발상입니다.

추측이 아니라 기록으로 접근하는 거죠. 이 표시가 바로 다음에 설명할 두 가지, 보이지 않는 워터마크와 콘텐츠 자격증명입니다.

SynthID는 지원되는 생성 모델이 삽입한 신호를 별도 판독기가 찾는 방식이고, C2PA는 제작·편집 과정에서 작성된 서명된 주장과 이력을 파일에 묶어 전달하는 방식입니다. 카메라 촬영물에도 C2PA가 붙을 수 있으므로 C2PA의 존재 자체가 AI 생성 여부나 장면의 진실성을 판정하지는 않습니다.

워터마크와 자격증명, 무엇이 다른가요?

쉽게 말해 SynthID는 ‘지원되는 생성 도구가 남긴 보이지 않는 신호’이고, C2PA는 ‘서명된 출처 기록’입니다. 목적이 다르므로 같은 검사 결과처럼 섞어 읽으면 안 됩니다.

구글은 이 둘을 함께 쓰는 방식을 택했고, 2026년 5월 오픈AI도 같은 방향을 발표했습니다 — The Next Web.

SynthID는 지원되는 AI 생성 과정에서 사람 눈에 잘 보이지 않는 신호를 이미지·영상·오디오에 넣고, 호환 판독기로 그 신호를 찾습니다.

Google은 일부 자르기·색 변경·압축 같은 변형에도 신호를 찾도록 설계했다고 설명합니다. 그러나 모든 변환 뒤 보존되거나 모든 판독기에서 검출된다는 보장은 없으며, 지원 범위와 판독 도구를 함께 확인해야 합니다.

C2PA 콘텐츠 자격증명은 파일의 제작·편집 단계에서 작성된 주장, 사용 도구와 변경 이력 등을 서명과 함께 기록할 수 있는 출처 체계입니다.

검증 성공은 해당 claim과 파일의 무결성을 확인했다는 뜻입니다. 서명 주체를 신뢰할 수 있는지, 기록된 장면이 현실 그대로인지까지 자동으로 증명하지는 않습니다.

C2PA 기록은 파일 변환·캡처·앱 이동 과정에서 빠질 수 있고, 구현 방식과 신뢰 목록에 따라 다른 도구의 표시 결과도 달라질 수 있습니다.

따라서 SynthID 판독과 C2PA 검증은 따로 수행하고, 어느 쪽이든 지원 범위 밖의 파일에는 결론을 넓히지 않습니다. 함께 발견되면 단서가 늘어나지만 한쪽이 다른 쪽의 부재나 진실성을 보증하지는 않습니다.

한눈에 비교하면 다음과 같습니다.

구분	보이지 않는 신호 (SynthID)	서명된 출처 기록 (C2PA)
확인 대상	지원 생성 도구가 삽입한 신호	파일에 포함된 claim·서명·이력
판독에 필요한 것	해당 신호를 지원하는 판독기	C2PA 호환 검증기와 필요한 신뢰 설정
확인 가능한 범위	지원 도구의 생성 신호가 검출됐다는 단서	기록된 claim과 파일의 무결성·출처 이력
확인하지 못하는 것	모든 AI 생성 여부와 장면의 진실성	AI 여부의 보편 판정, 서명자 신뢰와 현실 장면의 진실성
변환 뒤 한계	변환 종류와 판독 지원에 따라 검출 결과가 달라질 수 있음	캡처·변환·앱 이동 과정에서 기록이 빠질 수 있음

두 결과를 함께 보면 단서는 늘어납니다. 다만 서로 다른 측정이므로 한쪽의 발견·부재를 다른 쪽의 증명으로 바꾸지 않습니다.

그래서 직접 어떻게 확인하나요?

지금 당장, 무료로, 앱 몇 개면 확인할 수 있습니다. 구글은 2026년 5월 이 도장을 읽는 기능을 제미나이 앱뿐 아니라 구글 검색·크롬으로 넓혔고, 그동안 SynthID 도장을 찍은 이미지·영상·오디오가 1,000억 건을 넘었습니다 — The National. 확인 방법은 다음과 같습니다.

제미나이 앱에 물어보기. 가장 쉽습니다. 제미나이 앱이나 웹사이트에 의심스러운 이미지·영상·오디오 파일을 올리고, “이거 구글 AI로 만든 거야?”라고 평범하게 물으면 됩니다.

그러면 제미나이가 SynthID 도장을 스캔해 결과를 알려주고, 영상이라면 어느 구간이 AI로 만들어졌는지까지 짚어줍니다 — Google.

한 번에 파일 하나, 100MB 이하, 영상은 90초 미만, 오디오는 1시간 미만이라는 조건이 있습니다 — Gemini 고객센터. 지원되는 언어·국가에서 쓸 수 있고, 한국어도 지원됩니다.

오픈AI의 ‘Verify’ 도구. 챗GPT나 오픈AI로 만든 이미지가 의심된다면 이쪽입니다.

오픈AI는 2026년 5월 누구나 쓸 수 있는 확인 도구 ‘Verify’를 공개했습니다.

이미지를 올리면 C2PA 영수증과 SynthID 도장이 있는지 함께 점검해 결과를 보여줍니다 — OpenAI. 현재는 챗GPT·오픈AI API·코덱스로 만든 이미지를 확인합니다.

구글 검색·크롬 안에서. 별도 앱 없이 검색이나 크롬에서 콘텐츠의 출처 표시를 확인하는 기능도 있습니다.

검색에는 발표 당일(2026년 5월 19일)부터 적용됐고, 크롬은 그때부터 순차 적용이 진행 중인데 완료 여부는 아직 공식 발표가 없습니다(2026년 7월 6일 확인 기준) — 구글.

참고로 SynthID 도장 판독과 별개로, C2PA 영수증 검증을 검색·크롬에 넣는 작업은 ‘수개월 내’로 따로 예고돼 있습니다 — 구글.

이렇게 써봅니다 (예시)

카카오톡으로 “유명 투자 전문가가 추천하는 단톡방”이라며 그 사람의 사진과 영상이 왔습니다. 진짜인지 헷갈립니다.

확인 전: 사진이 또렷하고 얼굴도 그 사람이 맞아 보여서 “진짜인가 보다” 하고 링크를 누를 뻔합니다.

확인 후: 그 영상을 제미나이 앱에 올리고 “이거 AI로 만든 거야?”라고 묻습니다. “구글 AI로 생성된 요소가 포함되어 있습니다”라는 답이 오면, 누군가 그 사람의 얼굴을 합성했을 가능성이 큽니다. 링크를 누르지 않고 차단합니다.

(위 답변 문구는 이해를 돕기 위한 예시이며, 실제 표현은 도구와 콘텐츠에 따라 달라집니다.)

확인 과정을 흐름으로 보면 이렇습니다.

표시가 없으면 진짜 사진일까요?

아닙니다. 지원되는 판독기에서 SynthID 신호나 C2PA 기록을 찾지 못했다고 해서 ‘진짜 사진’이나 ‘사람이 만든 것’이라고 결론 내릴 수 없습니다.

SynthID는 이를 지원하는 생성 도구가 신호를 넣은 콘텐츠를 대상으로 합니다. 다른 생성 도구를 썼거나 변환 과정에서 검출 가능성이 달라진 파일은 지원 판독기에서도 신호가 나오지 않을 수 있습니다.

C2PA도 모든 파일에 의무적으로 붙는 기록이 아니며 캡처·변환 과정에서 빠질 수 있습니다. 반대로 C2PA가 있다는 사실만으로 AI 생성 여부나 장면의 진실성을 단정할 수도 없습니다.

지원되는 판독기에서 SynthID가 검출됐다면 해당 생성 신호가 있다는 단서로 읽습니다. C2PA 검증 결과는 claim·서명·편집 이력의 범위와 신뢰 상태를 따로 읽습니다.

어느 쪽도 표시가 없으면 판정 보류입니다. 원 게시 계정, 최초 게시 시각, 원본 파일, 관련 보도와 당사자 확인처럼 다른 경로의 증거를 더 찾아야 합니다.

특히 송금·계정 인증·개인정보 제공 요구가 걸린 경우에는 표시 결과와 무관하게 평소 쓰던 연락처로 당사자에게 다시 확인합니다.

카메라는 촬영 출처와 편집 이력을 서명해 남기기 시작했습니다

일부 카메라와 휴대폰은 촬영 단계부터 C2PA 콘텐츠 자격증명을 붙여 어떤 장치·앱과 편집 단계를 거쳤다는 기록을 전달하려 합니다. 이 기록은 출처 추적에 도움을 주지만 촬영 대상이 연출되지 않았는지, 장면이 사실인지까지 보증하는 ‘현실 증명서’는 아닙니다.

구글은 픽셀 기본 카메라 사진에 촬영 시점의 C2PA 콘텐츠 자격증명을 붙이는 방향을 발표했습니다 — Google.

캐논 등 카메라 제조사도 촬영 단계에서 서명된 출처 기록을 남기는 방식을 개발하고 있습니다 — PhotoWorkout. 검증할 때는 서명 주체와 신뢰 목록, 편집 이력, 기록의 누락 여부를 함께 봐야 합니다.

한편 일부 생성 서비스는 SynthID 같은 워터마크 지원을 넓히고 있습니다 — Crypto Briefing. SynthID와 C2PA는 별도 기술이므로 채택 회사가 늘었다는 사실만으로 모든 도구가 서로의 신호와 서명을 판독한다고 볼 수는 없습니다.

상호운용성은 각 구현과 지원 형식, 판독기 및 신뢰 목록에 달려 있습니다. 사용 전에 해당 서비스의 최신 지원 범위를 확인해야 합니다.

지금 당장 할 수 있는 것

기술이 다 자라기를 기다릴 필요는 없습니다. 오늘부터 쓸 수 있는 습관 몇 가지를 정리했습니다.

첫째, 돈이나 개인정보가 걸린 이미지·영상은 일단 의심합니다. 특히 “급하다”, “비밀이다”, “지금 송금하라”가 붙으면 더 그렇습니다. 아럽 사건도 ‘급한 비밀 거래’라는 말로 시작됐습니다.

둘째, 업로드 권한이 있고 민감하지 않은 파일이라면 해당 생성기를 지원하는 공식 판독 도구의 최신 정책과 지원 형식을 확인한 뒤 검사합니다. 개인정보·사내 기밀·불법 촬영 의심 이미지처럼 외부 업로드가 부적절한 자료는 올리지 말고 신고 절차, 기기 내 검사 또는 조직이 승인한 경로를 이용합니다.

셋째, ‘도장 없음’을 ‘진짜’로 착각하지 않습니다. 결과가 안 나와도 안심하지 말고, 출처와 맥락을 한 번 더 확인합니다.

넷째, 진짜 확인은 ‘다른 경로’로 합니다. 영상 속 사람이 진짜인지 미덥지 않으면, 그 사람에게 평소 쓰던 번호로 직접 전화해 물어봅니다. 화면 안에서 확인하지 말고 화면 밖에서 확인하는 게 핵심입니다.

다섯째, 직접 AI 이미지를 만들어 공유할 때는 표시를 지우지 않습니다. 워터마크와 자격증명을 그대로 두는 것만으로도, 받는 사람이 속을 위험을 줄여줍니다.

확인 도구를 쓰되 표시 없음도 의심합니다

이제 “사진이 있다”는 말은 더 이상 “그러니 진짜다”로 이어지지 않습니다. AI가 만든 이미지·영상이 우리 눈을 가뿐히 속이는 시대이기 때문입니다.

그래서 업계는 결과물을 사후에 추측하는 대신, 만드는 순간에 보이지 않는 도장과 전자 영수증을 심어두는 쪽으로 방향을 잡았습니다.

핵심만 다시 짚겠습니다. 첫째, 업로드해도 되는 비민감 파일만 지원되는 공식 판독 도구로 확인하고, 민감하거나 권리가 불분명한 자료는 외부 서비스에 올리지 않습니다.

둘째, SynthID 검출은 지원 생성 신호의 단서이고 C2PA 검증은 기록된 출처 이력의 단서입니다. 어느 쪽도 표시 없음은 진짜라는 증거가 아닙니다. 셋째, 돈이나 정보가 걸린 일은 반드시 화면 밖, 다른 경로로 한 번 더 확인하세요.

기술과 지원 범위는 계속 바뀝니다. 판독 결과 하나로 진위를 확정하지 말고 표식의 종류, 지원 범위, 출처와 맥락을 함께 확인해야 합니다.

연습하려면 본인이 권리를 가진 비민감 파일로 공식 도구의 지원 여부를 확인해 보세요. 업로드가 부적절한 자료는 원 게시자 확인, 신고 기능, 기기 내 또는 조직 승인 절차를 먼저 택합니다.

검색이 클릭 없이 끝나는 흐름은 미국 구글 표본에서 AI 요약이 뜰 때 일반 링크 클릭은 얼마나 줄었나에서 다뤘습니다.

AI가 그럴듯한 거짓 정보를 내놓을 때 걸러내는 법은 환각 줄이는 프롬프트 습관에 있습니다.

원본 JPG의 C2PA가 WebP 세 장에서는 보이지 않았습니다

METATOUR 검증 기록 · 검증 유형: 로컬 파일 직접 검사 · 검증일: 2026-08-23 · 직접 실행: 완료 · 도구: c2patool 0.27.15

파일 검사 질문

AI 생성 정보가 들어 있는 원본 이미지를 WebP로 변환하고 크기를 줄이면, C2PA 콘텐츠 자격증명이 그대로 유지될까요?

검사한 원본과 파생본

이 글의 히어로 이미지 원본 1개와 실제 웹페이지에서 사용하는 WebP 파생본 3개를 비교했습니다.

파일	역할	크기	SHA-256
hero.jpg	원본·브라우저 fallback·OG 이미지	769,943 bytes	357520c18088843c1c8c9aa3925883803332604d5fb5ed3476368ddeac2dbd35
hero.webp	1376px WebP	70,040 bytes	5e5c417ba98cdcdc61f2087e97cd92f1a21ea9e01d48ffcc2cd0b3704997e6d5
hero-880.webp	880px WebP	35,482 bytes	db4ce67c5fb7866db2e5e2068fe5a17ef14f6964da6f6d6835d15e61f9ac3da8
hero-480.webp	480px WebP	14,704 bytes	adc4fb54616c6480bd14e73308191b872418eca10bcfc88d28202bca7084c2ca

재현 순서

1. 네 파일의 해시와 크기를 기록했습니다.
2. c2patool 0.27.15로 각 파일의 C2PA claim과 검증 상태를 확인했습니다.
3. 페이지의 <picture> 구성을 확인해 WebP 지원 브라우저가 어느 파일을 우선 받는지도 대조했습니다.

c2patool 판독 기록

표본	c2patool 결과	확인된 범위
원본 hero.jpg	Valid	C2PA claim이 존재하고 파일과 claim의 무결성 검증을 통과했습니다. 다만 별도 trust configuration이 없는 검사여서 signingCredential.untrusted가 함께 기록됐습니다.
hero.webp	No claim found	C2PA claim을 찾지 못했습니다.
hero-880.webp	No claim found	C2PA claim을 찾지 못했습니다.
hero-480.webp	No claim found	C2PA claim을 찾지 못했습니다.

원본 JPG 안에는 Created by Google Generative AI와 Applied imperceptible SynthID watermark라는 선언 문자열도 포함돼 있었습니다. 현재 페이지는 WebP 지원 브라우저에 세 WebP 파일을 우선 제공합니다.

이번 표본이 보여준 것

이 표본에서는 원본 JPG에 있던 C2PA 자격증명이 WebP 파생본에서 확인되지 않았습니다. 따라서 생성 도구가 자격증명을 넣었더라도 사이트의 이미지 최적화 과정에서 독자가 받는 파일에는 그 기록이 남지 않을 수 있습니다. 출처 기술은 생성 단계뿐 아니라 변환·리사이즈·배포 경로까지 함께 봐야 합니다.

이 검사로 보여주지 못한 것

• Valid는 claim의 무결성 검증 결과입니다. 신뢰 설정 없이 나온 signingCredential.untrusted 때문에 서명 주체의 신뢰 체인까지 이번 실행으로 확정한 것은 아닙니다.
• No claim found는 C2PA manifest가 없다는 뜻이지, 해당 이미지가 사람 제작이라는 뜻이 아닙니다.
• c2patool 결과만으로 픽셀에 심은 SynthID가 WebP 변환 후에도 남았는지는 알 수 없습니다. SynthID 판독은 별도 도구로 시험해야 합니다.
• 이번 결과는 이 사이트의 한 이미지와 현재 변환본에 관한 기록입니다. 모든 이미지 변환 도구에 일반화할 수 없습니다.

참고 자료

• CNN. Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’ (홍콩 직원, 가짜 영상통화로 약 2억 홍콩달러·15회 송금). 2026-06-07 확인. 자료 보기
• CNN Business. Arup revealed as victim of $25 million deepfake scam (피해 회사 아럽 공개). 2026-06-07 확인. 자료 보기
• Deloitte Insights. Deepfake banking and AI fraud risk on the rise (미국 생성형 AI 사기 2023년 123억→2027년 400억 달러, 연 32%). 2026-06-07 확인. 자료 보기
• Google. How we’re bringing AI image verification to the Gemini app (제미나이 앱 이미지 검증·SynthID 스캔). 2026-06-07 확인. 자료 보기
• Google. You can now verify Google AI-generated videos in the Gemini app (영상 검증·구간 표시·워터마크 가공 내성). 2026-06-07 확인. 자료 보기
• Gemini Apps Help. Verify AI-generated images, videos, and audio (파일 1개·100MB·영상 90초·오디오 1시간·지원 언어/국가). 2026-06-07 확인. 자료 보기
• The National. Google increases SynthID access to identify AI-generated content (SynthID 적용 1,000억 건+·검색·크롬 확대). 2026-06-07 확인. 자료 보기
• Google. Identifying AI-generated media online (검색 당일 적용·크롬 ‘몇 주에 걸쳐’·C2PA 검증은 ‘수개월 내’ 별도 일정). 2026-05-19. 2026-07-06 확인. 자료 보기
• OpenAI. Advancing content provenance for a safer, more transparent AI ecosystem (Verify 도구·C2PA·SynthID, 챗GPT/API/코덱스 이미지). 2026-06-07 확인. 자료 보기
• The Next Web. OpenAI adds C2PA metadata and SynthID watermarks to AI images (이중 표시·워터마크가 캡처에 더 강함). 2026-06-07 확인. 자료 보기
• C2PA Viewer. How to Verify an AI-Generated Image: C2PA vs SynthID (표시 없음은 진짜/AI/사람 어느 것도 증명 못 함). 2026-06-07 확인. 자료 보기
• Crypto Briefing. Google expands SynthID watermarking to OpenAI, Kakao, and ElevenLabs (업계 공통 채택 확산). 2026-06-07 확인. 자료 보기
• PhotoWorkout. OpenAI Verify, Canon Signs Real Photos at Capture (캐논 촬영 단계 진본 서명). 2026-06-07 확인. 자료 보기
• Google (한국 블로그). 온라인에서 AI 생성 미디어 식별하기 (픽셀 카메라 C2PA 콘텐츠 자격증명 도입). 2026-06-07 확인. 자료 보기