AI 초안에 남은 표시는 내가 고친 만큼을 말해 주지 않는다

표시가 알려 주는 것은 하나뿐이다

OpenAI는 워터마크가 할 수 있는 일과 할 수 없는 일을 직접 나눠 밝혔습니다. 표시가 알려 주는 것은 OpenAI 시스템이 글의 일부를 만들거나 처리했다는 사실뿐입니다. 누가 그 시스템을 썼는지, 사람이 얼마나 보탰는지, 글이 누구 것인지, 내용이 맞는지는 알려 주지 않습니다[1]. 앤트로픽도 워터마크에 개별 이용자에 관한 정보는 담기지 않는다고 했습니다[2].

지금은 어떤 글에 표시가 붙나

OpenAI는 2026년 10월 5일, 앞으로 몇 주에 걸쳐 EU에서 만들어지는 챗GPT와 코덱스 글 가운데 대상이 되는 글에 보이지 않는 워터마크를 넣는다고 발표했습니다. 같은 날부터 전 세계 API 고객도 일부 모델에서 이 기능을 직접 켤 수 있습니다. 다만 API에서는 기본값이 꺼져 있으며, 출시와 함께 전 세계 기본값으로 적용하지도 않습니다[1].

앤트로픽은 이보다 앞선 8월 14일, 앞으로 나올 Claude 모델이 만든 글에 워터마크를 넣겠다고 밝혔습니다. 지역을 나눠 적용할 확실한 방법이 없어 처음부터 전 세계에 적용합니다[2]. 한국에서 Claude로 업무 문서 초안을 받는 사람도 새 모델부터 대상이 된다는 뜻입니다.

OpenAI가 쓰는 방식은 textGrain입니다. 낱말 선택에 통계적 신호를 더해, 사람 눈에는 보이지 않지만 탐지기는 통계로 알아볼 수 있는 무늬를 남깁니다[1]. 앤트로픽은 구글 딥마인드가 2024년 학술지 네이처에 발표한 SynthID-Text 방식을 바탕으로 했습니다[2].

탐지 결과만으로는 얼마나 고쳤는지 잴 수 없다

AI매터스가 보도한 수치를 보면 워터마크 탐지율은 글의 길이와 손질한 정도에 따라 달라집니다. 오탐률을 1%로 맞췄을 때 400토큰 글은 약 95%, 200토큰 글은 약 80%가 탐지됐습니다. 400토큰 글에서 낱말의 10%를 동의어로 바꾸자 탐지율은 약 92%에서 66%로 떨어졌고, 25%를 바꾸자 17%까지 내려갔습니다. 수학 글의 탐지율은 훨씬 낮았습니다[3][4].

앤트로픽의 설명도 같은 방향입니다. 가볍게 손보는 정도로는 표시가 완전히 사라지지 않지만, 모든 낱말을 바꿔 다시 쓰면 사라진다고 했습니다[2].

따라서 탐지 결과의 높고 낮음을 내 기여도로 볼 수는 없습니다. 낱말 일부를 동의어로 바꾸기만 해도 탐지율은 떨어지지만, 그렇다고 그 글에 내 판단이 더 많이 들어갔다는 뜻은 아닙니다. OpenAI도 표시만으로는 사람이 얼마나 보탰는지 알 수 없다고 밝혔습니다[1].

탐지기를 아무나 쓸 수 있는 것도 아닙니다. OpenAI는 처음에는 승인받은 연구자와 전문 기관에만 탐지기를 엽니다[1]. 앤트로픽의 탐지 API는 비공개 미리 보기 단계입니다. 대상은 EU 법이 정한 기관(규제 당국, 수사 기관, 언론, 팩트체커, 독립 연구자, 교육 기관, EU 시민단체)과 규정 준수를 위해 확인할 의무가 있는 기업입니다[2]. 지금은 팀장이나 회사 검토자가 문서를 넣고 바로 판정받을 수 있는 단계가 아닙니다.

내가 한 일은 원고 이력과 메모에 남긴다

AI 초안을 바탕으로 문서를 쓴 사람이 자신이 기여한 몫을 보여 주려면 표시가 아닌 다른 기록이 필요합니다. 수정 과정을 보여 주는 원고 이력, 참고한 자료 목록, 도구를 어느 단계에서 썼는지 적은 메모가 그 자리를 채웁니다.

메모에 넣을 항목은 책 원고와 크게 다르지 않습니다. 「원고에 AI를 썼다면 출판사에 무엇을 알려야 하나」 가이드에서 제안한 네 칸(도구, 활용 단계, 활용 범위, 사람이 검증한 내용)을 업무 문서에도 그대로 쓸 수 있습니다. 출판사 대신 팀장이나 고객이 물어올 때도 같은 기록으로 답하면 됩니다.

업무 문서라면 세 가지를 챙기면 됩니다.

• AI가 준 초안은 받은 그대로 따로 저장합니다. 처음 상태가 없으면 무엇을 고쳤는지 비교할 수 없습니다.
• 크게 고칠 때마다 버전을 나눠 남깁니다. 구조를 바꾼 판, 수치를 확인한 판처럼 무엇을 했는지 이름에 적습니다.
• 참고한 자료와 도구를 쓴 단계는 문서 끝이나 별도 메모에 적습니다.

법이 표시를 맡긴 곳

EU 인공지능법 제50조가 정한 투명성 의무는 2026년 8월 2일부터 적용됐습니다. AI로 글을 만드는 시스템의 제공자는 결과물에 기계가 읽을 수 있는 표시를 달아 탐지할 수 있게 해야 합니다. 일반적인 편집을 돕는 보조 기능이거나 입력을 크게 바꾸지 않는 경우는 예외입니다. 8월 2일 이전에 시장에 나온 생성형 AI 시스템은 2026년 12월까지 유예를 받습니다[5].

글을 발행하는 쪽에도 의무가 있습니다. 사람의 검토나 편집 책임을 거치지 않은 AI 생성 글을 공공의 관심사를 알리려고 발행한다면, 이용자가 알아볼 수 있는 표시를 붙여야 합니다. 반대로 사람이 검토하고 책임지는 글은 이 표시 의무에서 벗어납니다[5].

검토와 편집을 맡았다는 사실도 표시로는 드러나지 않습니다. 이 기록 역시 사람이 남겨야 합니다.

한국에서는 인공지능기본법이 2026년 1월 22일에 시행됐습니다. 딥페이크가 아닌 AI 생성물은 눈에 보이는 표시 대신 보이지 않는 워터마크를 써도 됩니다. 정부는 시행일부터 최소 1년 동안 계도 기간을 두고, 그동안 사실조사와 과태료 부과를 미루기로 했습니다[6].

참고

• [1] OpenAI 개발자 커뮤니티, OpenAI's approach to EU text provenance rules, 2026년 10월 5일.
• [2] Anthropic, How Claude's text watermarking works, 2026년 8월 14일.
• [3] AI매터스, 2026년 10월 6일 보도.
• [4] TechCrunch, 2026년 10월 5일 보도.
• [5] 유럽연합 집행위원회, Quick Facts: Transparency rules for AI systems.
• [6] 과학기술정보통신부, 인공지능기본법 보도자료.

자주 묻는 질문