AI 기본법 시행 보름 만에 워터마크 제거법 SNS 확산

핵심 요약

AI 기본법 시행(지난달 22일) 후 보름 만인 2월 초, 유튜브·레딧 등 소셜미디어에서 AI 생성물의 워터마크를 제거하는 방법이 빠르게 공유되고 있다. 플랫폼에 유통된 AI 생성물의 워터마크가 운영체제 기능이나 별도 리무버 도구로 쉽게 지워지는 사례가 확인되면서 법의 실효성에 의문이 제기된다. 업계와 전문가들은 유통 단계의 규율 공백을 문제로 지적하고 국회는 관련 보완 입법을 추진 중이다.

핵심 사실

• AI 기본법은 지난달 22일 시행됐고 AI 생성물에 가시적 또는 비가시적 워터마크 표시는 AI 사업자의 의무다.
• 위반 시 최대 3000만원의 과태료가 부과될 수 있도록 규정되어 있다.
• 2월 5일과 6일 유튜브, 레딧 등에서 ‘워터마크 지우는 법’ 관련 콘텐츠가 확산된 것이 확인됐다.
• 일부 콘텐츠는 윈도 ‘생성형 지우기’, 맥 ‘클린업’ 같은 운영체제 기본 도구 사용법을 안내한다.
• 매직이레이저(MagicEraser), 바일로(Bylo.ai), 소메이크(Somake) 등 유·무료 리무버 툴이 커뮤니티에서 추천되고 있다.
• 국회에서는 지난달 20일 조인철 의원이 플랫폼 유통 단계까지 표시·보존 의무를 확장하는 정보통신망법 개정안을 발의했다.
• 해외에서는 미국(2023년 10월 행정명령, C2PA 권고)과 EU(2024년 8월 AI법 발효, 투명성 규정 시행 중) 등도 관련 기준을 제시했다.

사건 배경

워터마크는 AI 생성물과 인간 제작물을 구분하기 위한 식별장치로 도입됐다. 생성형 AI가 확산하면서 허위정보, 딥페이크 등 위험을 억제하려는 목적으로 주요국과 사업자가 투명성 기준을 마련해왔다. 미국은 2023년 10월 행정명령을 통해 AI 안전·신뢰성 원칙을 강조했고, 상무부는 C2PA 같은 기술 표준을 권고했다. EU는 2024년 8월 AI법을 발효하며 투명성 규정에 워터마크 의무를 포함시켰다. 한국은 이러한 국제 동향을 참고해 지난달 AI 기본법을 시행했고, 특히 딥페이크처럼 식별이 어려운 경우 ‘사람이 인식 가능한 방식’의 표식을 요구한다.

다만 ‘표시 의무’는 주로 AI 사업자에게 부과되는 규정이다. 유통·공유 단계에서 이용자가 워터마크를 제거하거나 훼손해 플랫폼에 올리는 행위에 대한 직접적 제재 규정은 현행법에 미비점이 있다. 결과적으로 기술적·운영적 우회 방법이 등장하면 최초 부착의 효과가 약화될 수 있다는 우려가 제기된다. 이와 같은 유통 단계의 공백을 보완하려는 시도가 최근 국회에서 입법으로 이어지고 있다.

주요 사건

2월 초 소셜미디어에 올라온 다수의 동영상과 글은 AI 생성물의 워터마크를 제거하는 실습 형태로 제작됐다. 게시자들은 운영체제의 기본 이미지 편집 도구와 상용·오픈소스 리무버를 조합해 워터마크 흔적을 지우는 방법을 설명했다. 일부 게시물은 단계별 스크린샷과 함께 특정 툴의 활성화 방법을 상세히 안내해 접근성을 높였다.

플랫폼별 확산 경로는 다양하다. 유튜브는 교육·튜토리얼 형식으로, 레딧과 트위터는 툴 추천과 노하우 공유 중심으로 확산됐다. 게시물 일부는 다운로드 링크나 서비스명·설정값을 제시해 초보자도 따라할 수 있도록 했다. 이러한 게시물은 금새 복제 및 재업로드되며 노출을 늘렸다.

국내 법적 대응은 입법과 행정 차원에서 동시에 진행되고 있다. 과방위 소속 조인철 의원의 개정안은 게시자·플랫폼·이용자의 의무를 결합해 유통 과정에서의 표시 유지 책임을 법적으로 명시하려는 취지다. 해당 법안은 과방위 심사를 거쳐 법제사법위원회·본회의 절차를 밟게 된다.

분석 및 의미

첫째, 현재 나타난 현상은 ‘기술적 조치의 존재’와 ‘유통 과정의 취약성’이 함께 작용한 결과다. 워터마크를 넣는 것 자체는 가능하지만, 유통된 뒤 이용자가 편집 도구로 흔적을 제거하면 식별 기능은 소멸한다. 따라서 정책 설계는 ‘부착’을 넘어서 ‘보존·관리’ 단계까지 책임을 확장할 필요가 있다.

둘째, 규제의 실효성 확보에는 법·기술·플랫폼 운영의 삼중 대응이 필요하다. 법은 행위 규율과 처벌 근거를 제공하고, 기술은 워터마크 내구성·탐지 방법을 개선하며, 플랫폼은 삭제·차단·저작권 정책 등을 통해 유통 통제에 나서야 한다. 한쪽만 강화해서는 우회가 반복될 가능성이 높다.

셋째, 규제 확장은 표현·사생활·기술 혁신 측면의 충돌을 불러올 수 있어 신중한 설계가 요구된다. 권헌영 교수의 지적처럼 제재 대상과 범위를 정확히 정의하지 않으면 과도한 제재로 표현의 자유나 합법적 이용까지 위축될 위험이 있다. 따라서 위법성 판단 기준과 절차를 명확히 하는 보완 입법이 필요하다.

비교 및 데이터

위 표는 각 지역의 정책 흐름과 워터마크 관련 규정의 핵심을 요약한 것이다. 국제적으로는 식별 표준을 권고하거나 의무화하는 방향으로 수렴하고 있으나, 유통 단계 규율을 법적으로 명확히 한 사례는 제한적이다. 한국은 표시 의무를 빠르게 도입했으나 유통·보존 단계의 집행력을 보완하는 법적 장치가 추가로 필요하다는 지적이 나온다.

반응 및 인용

법·기술 전문가들은 워터마크 의무 자체에는 동의하면서도 집행 방안과 범위를 신중하게 설계해야 한다고 말한다. 아래는 관련 발언과 상황 맥락이다.

단순한 삽입 강제만으로는 한계가 있다. 우회·제거 행위에 대한 법적 실효성을 확보해야 한다.

권헌영 고려대 정보보호대학원 교수

권 교수의 발언은 기술적 우회 가능성을 법적 수단으로 보완해야 한다는 취지다. 그는 특히 제재 대상과 범위를 좁혀 과잉 규제를 피할 필요가 있음을 강조했다.

플랫폼과 이용자에 대한 표시 유지·관리 의무를 법적으로 명확히 하는 법안을 제출했다.

조인철 국회의원(과방위, 더불어민주당)

조 의원의 설명은 개정안의 핵심을 요약한 것으로, 게시자·플랫폼·이용자의 책임을 결합해 유통 단계까지 관리하려는 목표를 드러낸다. 법안은 현재 과방위에서 심사 중이다.

플랫폼 차원의 대응은 운영정책과 기술적 필터링을 통해 보완될 수 있다.

플랫폼 운영·관계자(익명 요청)

플랫폼 관계자의 요지는 법률적 기준이 정해지면 내부 정책과 기술을 통해 운영상 보완하겠다는 입장이다. 다만 구체적 기술·운영 방안은 공개되지 않았다.

불확실한 부분

• 일부 게시물이 실제로 어느 정도 성공적으로 워터마크를 완전히 제거했는지는 독립적으로 검증된 자료가 아직 부족하다.
• 플랫폼이 향후 어떤 기술적·운영적 조치를 우선 적용할지에 대한 확정된 계획은 공개되지 않았다.
• 법 개정 후 실제 집행 과정에서 과태료 부과 등 제재가 어떻게 운영될지는 행정해석과 사법 판단에 따라 달라질 수 있다.

총평

AI 기본법의 도입은 생성형 AI 확산에 대응하기 위한 중요한 전환점이다. 그러나 시행 직후 확인된 워터마크 제거법 확산은 ‘부착만으로 끝나는 규제’의 한계를 보여준다. 실효성을 높이려면 부착 의무뿐 아니라 유통·보존·플랫폼 책임을 결합한 통합적 대응이 필요하다.

국회 입법과 플랫폼 운영 개선, 기술적 표준 고도화가 병행될 때 법의 실효성이 강화될 가능성이 크다. 독자는 향후 국회 심사 결과와 플랫폼의 운영방침 변화를 주시할 필요가 있다.

출처

• 디지털투데이(언론)
• C2PA(국제 표준 기구)
• European Commission – AI Act(공식)