실제와 구분하기 어려운 AI 영상, 꼭 AI라고 밝혀야 하나요?
결론부터
인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 “인공지능기본법”) 제31조제3항은 인공지능사업자가 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우, 그 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다고 정한다. “할 수 있다”가 아니라 “하여야 한다”다. 즉 법 문언상으로는 의무다.
다만 이 의무를 어겼을 때 곧바로 과태료가 붙는 구조는 아니다. 과태료가 실제로 어디에 걸리는지는 조문을 하나씩 따라가 봐야 한다.
제31조제3항이 정하는 것 — 그리고 정하지 않는 것
제31조는 네 개 항으로 구성된다.
- 제1항: 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스를 제공할 때, 그 제품·서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 한다.
- 제2항: 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공할 때, 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시해야 한다.
- 제3항: 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공할 때, 그 결과물이 인공지능시스템에 의해 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다.
- 제4항: 제1항의 사전고지, 제2항의 표시, 제3항의 고지 또는 표시의 방법과 그 예외 등은 대통령령으로 정한다.
제3항 후단은 “해당 결과물이 예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다”고 덧붙인다. 여기서 “할 수 있다”는 표시 의무 자체를 면제하는 말이 아니다. 작품의 전시·향유를 해치지 않는 방식을 택할 재량이라는 뜻이다. 즉 예술적·창의적 표현물이라고 해서 고지·표시 의무가 통째로 사라지는 것은 아니다.
구체적으로 어떤 방식으로, 어떤 경우에 예외가 인정되는지는 대통령령에 위임되어 있어 이 법률 조문만으로는 확정할 수 없다.
과태료는 “표시 안 함”이 아니라 “명령 불이행”에 붙는다
여기서 많이 오해하는 지점이 있다. 제43조(과태료)제1항은 3천만원 이하의 과태료를 부과하는 대상을 세 가지 호로 열거하는데, 제31조와 관련된 것은 제1호 하나뿐이다.
제43조제1항제1호: 제31조제1항을 위반하여 고지를 이행하지 아니한 자
즉 과태료 조문이 직접 지목하는 것은 제31조제1항(사전고지) 위반뿐이다. 제31조제2항(결과물 표시)이나 제3항(실제와 구분하기 어려운 결과물의 고지 또는 표시)을 위반했다고 해서 이 제1호로 바로 과태료가 부과되지는 않는다.
그렇다면 제2항·제3항 위반은 아무 제재도 없는가. 그렇지 않다. 다만 과태료로 이어지는 경로가 다르고, 한 단계를 더 거친다.
- 사실조사: 과학기술정보통신부장관은 제31조제2항ㆍ제3항 위반을 발견하거나 혐의를 알게 된 경우, 또는 그에 대한 신고·민원을 받은 경우 자료 제출을 요구하거나 조사를 할 수 있다(제40조제1항제1호ㆍ제2호).
- 중지ㆍ시정명령: 조사 결과 위반 사실이 인정되면, 위반행위의 중지나 시정을 위해 필요한 조치를 명할 수 있다(제40조제3항).
- 명령 불이행에 대한 과태료: 이 중지명령이나 시정명령을 이행하지 아니한 자에게 3천만원 이하의 과태료를 부과한다(제43조제1항제3호).
정리하면, 제31조제2항ㆍ제3항을 위반했다는 사실 자체가 과태료 대상이 아니라, 위반을 전제로 당국이 내린 중지ㆍ시정명령을 따르지 않은 것이 과태료 대상이다. 과태료는 “표시를 안 한 자리”가 아니라 “명령을 어긴 자리”에 붙는다.
제40조는 전부 재량 조항이다
여기서 한 가지 더 유의할 점은, 제40조제1항부터 제3항~의 어미가 전부 “할 수 있다”로 되어 있다는 것이다. 위반 사실을 발견했다고 해서 과학기술정보통신부장관이 반드시 조사를 하거나 중지ㆍ시정명령을 내리는 것은 아니다. 조사 여부, 명령 여부 모두 재량에 속한다. 따라서 제31조제3항을 어겼다는 사정만으로 “곧 과태료가 나온다”고 단정할 수는 없다. 조사 → 명령 → 명령 불이행이라는 단계를 실제로 거쳐야 과태료 부과까지 이어진다.
과태료의 규모와 부과 주체
제43조제1항이 정하는 과태료는 3천만원 이하다. 형사처벌인 벌금이 아니라 행정상 제재인 과태료라는 점도 분명히 해 둘 필요가 있다. 이 과태료는 대통령령으로 정하는 절차에 따라 과학기술정보통신부장관이 부과ㆍ징수한다(제43조제2항). 구체적인 부과 기준은 대통령령에 위임되어 있어 법률 조문만으로는 금액 산정 기준까지 확인되지 않는다.
제43조제1항이 정하는 과태료 대상은 다음 세 가지다.
- 제31조제1항을 위반하여 고지를 이행하지 아니한 자
- 제36조제1항을 위반하여 국내대리인을 지정하지 아니한 자
- 제40조제3항에 따른 중지명령이나 시정명령을 이행하지 아니한 자
정리
- 실제와 구분하기 어려운 AI 생성 영상·이미지·음향은 제31조제3항에 따라 고지 또는 표시 의무의 대상이다. 예술적·창의적 표현물이라 해도 의무 자체가 없어지는 것은 아니고, 전시ㆍ향유를 저해하지 않는 방식을 택할 재량만 주어진다.
- 다만 이 의무를 어겼다고 해서 그 자리에서 과태료가 부과되는 구조는 아니다. 과태료가 직접 걸리는 제31조 관련 조항은 **제1항(사전고지)**뿐이다.
- 제31조제2항·제3항 위반은 사실조사(재량) → 중지ㆍ시정명령(재량) → 명령 불이행(과태료) 순서를 거쳐야 과태료로 이어진다. 그 사이 단계들은 모두 “할 수 있다”로 규정된 재량이다.
- 과태료는 3천만원 이하이며, 과학기술정보통신부장관이 부과ㆍ징수한다. 구체적 방법, 예외, 부과 기준은 대통령령에 위임되어 있어 이 글만으로는 확인할 수 없다.
- “인공지능사업자”, “생성형 인공지능”, “고영향 인공지능”의 정의나 관련 판례는 이 법률 조문의 범위 밖이다.
참고 법령
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조(인공지능 투명성 확보 의무)
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제40조(사실조사 등)
- 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제43조(과태료)
