실제와 구분하기 어려운 AI 영상, 꼭 AI라고 밝혀야 할까
요약 및 결론: 인공지능 기본법 제31조제3항에 따라 실제와 구분하기 어려운 AI 영상을 제공할 때는 그것이 인공지능으로 만들어졌다는 사실을 이용자가 명확하게 인식할 수 있도록 고지하거나 표시해야 한다. 이 의무를 어기고 행정 명령까지 따르지 않으면 3천만 원 이하의 과태료를 받을 수 있다.
생성형 인공지능의 급속한 발전으로 실사와 거의 구별 불가능한 영상, 음향, 이미지 등이 대량으로 생산되고 있다. 소비자가 진짜인지 AI가 만든 것인지 판단하기 어려워지면서, 법은 제공자에게 명확한 고지 의무를 부과했다. 그렇다면 이 의무의 범위는 무엇이고, 어기면 어떤 결과가 따를까.
본문
AI로 만든 영상·음향·이미지 표시가 법적 의무일까
네, 인공지능 기본법 제31조제3항은 인공지능사업자가 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공할 때 그것이 인공지능으로 생성되었다는 사실을 이용자가 명확하게 인식할 수 있도록 고지하거나 표시하도록 규정했다. 이는 의무 조항이다.
다만 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유를 저해하지 않는 방식으로 고지하거나 표시할 수 있다. 이 경우에도 표시 의무가 사라지는 것은 아니고, 방식에만 재량이 생긴다는 뜻이다. 예를 들어 영상 끝의 작은 자막이나 메타데이터 기록 같이 작품 감상을 방해하지 않는 형태로 표시하면 된다는 의미다.
구체적인 고지·표시의 방법, 그 기준, 예외 등은 대통령령으로 정하도록 위임되어 있어서, 이 법 조문만으로는 “버튼 클릭”, “캡션”, “워터마크” 등 구체적 형태를 강제하지 않는다.
표시 의무 대상이 되는 경우와 법적 제재
| 행위 | 적용 조문 | 법정형·효과 |
|---|---|---|
| 인공지능으로 생성된 가상 음향·이미지·영상인 사실을 고지·표시하지 않음 | 인공지능 기본법 제31조제3항 | 행정조사·시정명령 대상; 명령 불이행 시 3천만 원 이하 과태료(제40조, 제43조제1항제3호) |
| 생성형 인공지능의 결과물임을 표시하지 않음 | 인공지능 기본법 제31조제2항 | 행정조사·시정명령 대상; 명령 불이행 시 3천만 원 이하 과태료(제40조, 제43조제1항제3호) |
주목할 점은 표시 의무를 어긴 것 자체가 직접 과태료 대상이 아니라는 것이다. 법의 흐름은 다음과 같다. 과학기술정보통신부장관이 표시 의무 위반을 발견하거나 신고를 받으면 조사를 할 수 있고, 위반이 인정되면 중지 또는 시정을 명할 수 있으며, 그 명령을 이행하지 않을 때 과태료가 붙는다. 다만 이 단계들은 모두 “할 수 있다”는 재량이므로, 위반을 발견했다고 해서 반드시 조사나 명령이 뒤따르는 것은 아니다.
과태료는 행정청의 부과 절차를 거치며, 부과와 징수의 구체적 기준은 대통령령에 정해진다.
예술 창작물에도 이 규칙이 적용될까
예술적·창의적 표현물이라면 고지나 표시의 방식에만 조정의 여지가 있다. 음악, 미술, 영상 미디어 등에서 인공지능을 창작 도구로 사용했다면, 작품 감상을 최대한 저해하지 않으면서도 AI 생성임을 알려야 한다는 의미다. 하지만 표시 의무 자체가 면제되지는 않는다.
예를 들어 전시회 입장 안내, 영상 작품의 자막, 온라인 갤러리의 메타데이터, 음악 스트리밍 플랫폼의 곡 정보란 등 다양한 방식으로 AI 생성임을 표기할 수 있다. 대통령령에서 예술 표현물의 예외 기준을 더 자세히 정할 수 있으므로, 현재는 이 정도의 원칙만 명확하다.
관련 법령
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
제40조(사실조사 등) ① 과학기술정보통신부장관은 다음 각 호의 어느 하나에 해당하는 경우에는 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있다.
제43조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 3천만원 이하의 과태료를 부과한다.
자주 묻는 질문
실제와 구분하기 어려운 AI 영상인지 판단하는 기준은 뭔가요?
법 조문은 "실제와 구분하기 어려운"이라는 기준만 제시하고, 그 판단 기준은 대통령령에서 정하도록 위임했다. 현재는 구체적인 판단 기준이 이 기본법에 명시되지 않아서, 어느 정도 유사도가 되어야 규제 대상이 되는지는 시행령을 확인해야 한다.
AI 영상 표시를 하지 않으면 바로 과태료가 붙나요?
아니다. 과태료는 표시를 하지 않은 자체에 붙는 게 아니라, 행정청의 시정 명령을 받은 후에도 이행하지 않을 때 부과된다. 표시 의무 위반이 발견되면 먼저 조사가 진행될 수 있고, 위반이 확인되면 중지 또는 시정을 명할 수 있다.
고의적으로 표시하지 않으면 형사 처벌을 받나요?
이 조항은 행정 규제로, 형사 처벌이 아니다. 과태료는 민사 행정 제재이며, 최대 3천만 원 범위 내에서 부과된다. 형사 처벌 규정은 이 법에 직접 명시되지 않는다.
