실제와 구분하기 어려운 AI 영상, AI가 만들었다고 밝혀야 하나요?
네. 인공지능사업자가 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 영상을 제공하는 경우, 이용자가 그 영상이 인공지능시스템에 의해 생성됐다는 사실을 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다. 음향과 이미지 등에도 같은 조항이 적용됩니다(인공지능기본법 제31조제3항).
예술적·창의적 표현물이라면 전시나 감상 등을 저해하지 않는 방식으로 고지하거나 표시할 수 있습니다. 이는 알리는 방식에 관한 규정이지, 고지·표시 의무가 사라진다는 뜻은 아닙니다. 구체적인 방법과 예외는 대통령령에 위임돼 있어, 이 조문만으로 모든 표시 방식이나 예외를 단정할 수는 없습니다(제31조제3항·제4항).
표시하지 않으면 곧바로 과태료가 부과될까요? 제43조는 제31조제3항 위반 자체를 과태료 대상으로 직접 열거하지 않습니다. 제31조와 관련해 직접 열거한 것은 제1항의 사전고지 의무 위반입니다. 이는 제품이나 서비스가 해당 인공지능에 기반해 운용된다는 사실을 이용자에게 미리 알리는 의무로, 영상 결과물에 관한 제3항의 고지·표시 의무와 구별됩니다(제31조제1항, 제43조제1항제1호).
제3항 위반에 관해서는 과학기술정보통신부장관이 자료 제출을 요구하거나 조사할 수 있고, 조사 결과 위반이 인정되면 중지·시정에 필요한 조치를 명할 수 있습니다. 그 명령을 이행하지 않은 경우 3천만 원 이하의 과태료 대상이 됩니다. 조사와 명령은 법문상 모두 “할 수 있다”로 규정돼 있습니다(제40조, 제43조제1항제3호).
참고 법령
- 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제1항·제3항·제4항, 제40조제1항·제3항, 제43조제1항제1호·제3호 및 제2항
