실제와 구분하기 어려운 AI 영상, 표시 의무와 과태료는 구별해야 합니다
실제와 구분하기 어려운 가상의 영상 결과물을 제공하는 경우, 인공지능사업자는 그 결과물이 인공지능시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지하거나 표시하여야 합니다. 따라서 단순히 실제 영상처럼 보인다는 사정만으로가 아니라, 법문상 “실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물”에 해당하는지가 기준이 됩니다.
이 의무는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제3항에 규정되어 있습니다. 법은 고지와 표시 중 어느 하나의 방식으로 이용자가 인공지능 생성 결과물임을 명확히 알 수 있도록 요구합니다.
예술적·창의적 표현물 또는 그 일부에 해당하는 결과물도 표시 의무 자체가 사라지는 것은 아닙니다. 다만 전시나 향유 등을 저해하지 않는 방식으로 고지 또는 표시할 수 있도록 정하고 있습니다. 이는 의무의 면제가 아니라 표시 방식에 관한 규정입니다.
한편, 표시하지 않았다는 이유만으로 곧바로 과태료가 부과되는 구조는 아닙니다. 제43조제1항제1호가 직접 과태료 대상으로 든 것은 제31조제1항의 사전고지 의무 위반입니다. 이는 제품 또는 서비스가 해당 인공지능에 기반해 운용된다는 사실을 이용자에게 미리 알리지 않은 경우를 말하며, 제31조제3항의 결과물 고지·표시 의무와는 구별됩니다.
제31조제3항 위반 사항이 발견되거나 그 위반에 관한 신고 또는 민원이 접수된 경우, 과학기술정보통신부장관은 자료 제출이나 조사를 하게 할 수 있습니다. 조사 결과 위반 사실이 인정되면 중지 또는 시정에 필요한 조치를 명할 수 있습니다. 다만 조사와 명령은 모두 법문상 “할 수 있다”고 정한 재량 사항입니다.
그 후 중지명령이나 시정명령을 이행하지 않으면, 그 명령 불이행이 과태료 대상이 될 수 있습니다. 과태료는 3천만원 이하이며, 대통령령으로 정하는 바에 따라 과학기술정보통신부장관이 부과·징수합니다. 이는 벌금이나 형사처벌과는 다른 행정상 제재입니다.
정리하면, 실제와 구분하기 어려운 가상 영상에는 인공지능 생성 사실을 명확히 인식할 수 있도록 고지하거나 표시할 의무가 있습니다. 다만 그 표시 의무 위반 자체가 제43조에 따라 직접 과태료가 되는 것은 아니며, 조사와 중지·시정명령을 거쳐 그 명령을 이행하지 않은 경우가 과태료 조항의 대상입니다. 구체적인 고지·표시 방법과 예외는 대통령령에 위임되어 있습니다.
참고 법령·조문
- 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조
- 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제40조
- 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제43조
