선거 때 AI 합성 사진, 표시해도 금지되는 경우가 있다
“누가 봐도 가짜인 AI 합성 사진도 올리면 안 되나요?”라는 질문에 바로 답하자면: 시기에 따라 다르다.
선거일 전 90일부터 선거일까지: 표시 여부와 무관하게 금지
공직선거법 제82조의8 제1항은 “누구든지 선거일 전 90일부터 선거일까지 선거운동을 위하여 인공지능 기술 등을 이용하여 만든 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등을 제작·편집·유포·상영 또는 게시하는 행위를 하여서는 아니 된다”고 규정한다.
이 기간에는 표시 여부와 무관하게 제작·편집·유포·상영·게시 행위 자체가 금지된다. 즉, 딥페이크 사진이나 영상이 합성물임을 명확하게 표시하더라도 여전히 금지된다.
그 외의 기간: 표시 의무
제82조의8 제2항에 따르면, 선거운동을 위하여 딥페이크 영상 등을 제작·편집·유포·상영 또는 게시하는 경우 가상의 정보라는 사실을 “명확하게 인식할 수 있도록” 표시해야 한다.
다시 말해, 선거일 이전 90일이 넘게 남아 있거나 선거일이 지난 후에는 선거운동 목적으로 AI 합성물을 사용할 수 있지만, 반드시 표시 의무를 지켜야 한다. 표시하지 않으면 법을 어기는 것이다.
“누가 봐도 가짜”라는 명백성은 법적 요건이 아니다
질문에 나오는 “누가 봐도 가짜인”이라는 표현은 법적으로 중요하지 않다. 법은 “실제와 구분하기 어려운” 가상의 정보를 규제한다.
- 합성물이 완벽하고 실제처럼 보이는 경우: 규제 대상
- 누구나 가짜임을 알 수 있을 정도로 조악한 합성물: “실제와 구분하기 어려운” 요건에서 벗어날 여지 있음
하지만 명백히 가짜라고 해서 법 적용이 자동으로 배제되지는 않는다. 구체적 상황에서 “실제와 구분하기 어렵다”는 객관적 판단 기준이 중요하다.
“선거운동을 위하여”라는 목적 요건
이 법조는 “선거운동을 위하여” AI 합성물을 사용하는 경우만 규제한다. 선거운동과 무관한 목적(예: 예술, 오락 등)이라면 이 조문의 규제 범위 밖이다.
또한 주의할 점은 규제 주체다. 법은 “누구든지”라고 규정했으므로, 후보자뿐 아니라 일반인, 정당 관계자 등 누구든지 이 조항의 적용을 받을 수 있다.
표시 방법은 별도 규칙으로 정해진다
“명확하게 인식할 수 있도록” 표시해야 한다는 요건은 추상적이다. 실제 표시 방법과 내용은 중앙선거관리위원회 규칙으로 정하도록 위임되어 있다. 따라서 글이나 배너로 표시해야 하는지, 메타데이터로 표시해야 하는지 등의 구체적 방법은 관련 규칙을 확인해야 한다.
정리하면
- 선거일 전 90일부터 선거일까지: 표시 여부 무관하게 선거운동 목적의 딥페이크 제작·편집·유포·상영·게시 금지
- 그 외 기간: 선거운동 목적이라면 표시 의무, 표시하지 않으면 법 위반
- “가짜임이 명백”: 법적으로는 “실제와 구분하기 어려운” 정도인지 여부가 판단 기준
참고 법령
- 공직선거법 제82조의8
