실제와 구분하기 어려운 AI 영상은 꼭 AI라고 밝혀야 하나요?
요약 및 결론: 인공지능사업자가 실제와 구분하기 어려운 가상의 영상 결과물을 제공하는 경우, 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제31조제3항에 따라 인공지능시스템으로 생성됐다는 사실을 이용자가 명확히 인식할 수 있는 방식으로 고지하거나 표시하여야 합니다. 표시를 하지 않았다는 이유만으로 곧바로 3천만원 이하 과태료가 부과되는 구조는 아니며, 조사와 중지명령 또는 시정명령 뒤 그 명령을 이행하지 않은 경우에 과태료 조항이 적용됩니다.
실제 장면처럼 보이는 가상 영상은 이용자가 생성 사실을 알아차리기 어렵다는 점에서 고지 또는 표시 의무의 대상이 될 수 있습니다. 법은 단순히 결과물의 생성 사실을 밝히도록 정하는 데 그치지 않고, 이용자가 명확하게 인식할 수 있는 방식을 요구합니다.
실제와 구분하기 어려운 AI 영상에는 무엇을 알려야 하나요?
인공지능사업자는 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공할 때, 그 결과물이 인공지능시스템에 의해 생성됐다는 사실을 고지하거나 표시하여야 합니다. 핵심은 결과물을 보는 이용자가 생성 사실을 명확하게 인식할 수 있는 방식인지입니다.
제31조제3항은 “고지 또는 표시”를 선택지로 두고 있습니다. 다만 구체적인 고지·표시 방법과 예외는 대통령령으로 정하도록 되어 있으므로, 이 조문만으로 특정 문구·위치·기술 방식이 반드시 필요하다고 단정할 수는 없습니다.
| 어떤 행위 | 적용 조문 | 법정 제재ㆍ효과 |
|---|---|---|
| 실제와 구분하기 어려운 가상 영상 등의 결과물을 제공하면서 인공지능시스템 생성 사실을 고지 또는 표시하지 않음 | 인공지능기본법 제31조제3항 | 고지 또는 표시 의무. 이 위반 자체를 직접 열거한 과태료 조항은 없음 |
| 제31조제3항 위반 사항이 발견되거나 혐의를 알게 된 경우 | 인공지능기본법 제40조제1항제1호 | 과학기술정보통신부장관이 자료 제출 또는 조사를 하게 할 수 있음 |
| 제31조제3항 위반 신고 또는 민원이 접수된 경우 | 인공지능기본법 제40조제1항제2호 | 과학기술정보통신부장관이 자료 제출 또는 조사를 하게 할 수 있음 |
| 조사 결과 법 위반 사실이 인정된 경우 | 인공지능기본법 제40조제3항 | 위반행위 중지 또는 시정을 위한 조치를 명할 수 있음 |
| 제40조제3항의 중지명령 또는 시정명령을 이행하지 않음 | 인공지능기본법 제43조제1항제3호 | 3천만원 이하 과태료 |
표시를 하지 않으면 바로 과태료가 부과되나요?
제31조제3항의 고지 또는 표시 의무 위반 자체는 제43조제1항의 직접적인 과태료 대상 목록에 들어 있지 않습니다. 제43조제1항제1호가 과태료 대상으로 정한 것은 제31조제1항의 사전고지를 이행하지 않은 경우이며, 제31조제3항의 결과물 표시 의무와는 구별됩니다.
제31조제3항 위반에 관한 문언상 과태료 경로는 제40조에 따른 조사, 중지명령 또는 시정명령, 명령 불이행의 순서입니다. 과학기술정보통신부장관은 제31조제3항 위반 사항을 발견하거나 신고·민원을 받은 경우 조사할 수 있고, 조사 결과 위반 사실이 인정되면 중지 또는 시정을 명할 수 있으며, 그 명령을 이행하지 않은 경우 3천만원 이하 과태료가 부과될 수 있습니다.
예술적·창의적 영상도 표시 의무가 있나요?
예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 결과물도 제31조제3항의 고지 또는 표시 의무와 무관하다고 볼 수는 없습니다. 제31조제3항 후단은 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다고 정합니다.
예술적·창의적 표현물에 관한 문언은 표시 의무를 없애는 규정이 아니라, 전시 또는 향유를 저해하지 않는 표시 방식에 관한 규정입니다. 어떤 방식이 가능한지는 대통령령에 맡겨져 있으므로, 이 조문만으로 개별 표시 방법을 확정할 수는 없습니다.
실제 제재 수위는 어느 정도인가요?
제31조제3항 위반 자체에 법정 과태료 액수는 정해져 있지 않습니다. 제40조제3항에 따른 중지명령 또는 시정명령을 이행하지 않은 경우에만 제43조제1항제3호에 따라 3천만원 이하 과태료가 문제될 수 있고, 과태료는 대통령령으로 정하는 바에 따라 과학기술정보통신부장관이 부과·징수합니다.
이 주제에 관한 판례, 실제 과태료 부과 사례, 공식 통계 또는 양형기준 수치는 제공된 자료에 없습니다. 또한 과태료는 형사처벌이나 벌금이 아닙니다.
관련 법령
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
제40조(사실조사 등) ① 과학기술정보통신부장관은 다음 각 호의 어느 하나에 해당하는 경우에는 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있다.
제43조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 3천만원 이하의 과태료를 부과한다.
자주 묻는 질문
AI로 만든 영상이라고 작은 글씨로만 쓰면 되나요?
제31조제3항은 이용자가 인공지능시스템 생성 사실을 “명확하게 인식할 수 있는 방식”으로 고지 또는 표시하도록 정합니다. 작은 글씨 표시가 그 기준을 충족하는지는 이 자료만으로 판단할 수 없고, 구체적 방법은 대통령령 사항입니다.
AI 영상 표시를 안 하면 무조건 3천만원 과태료인가요?
제31조제3항의 표시 의무를 이행하지 않은 것만으로 곧바로 3천만원 이하 과태료가 부과되는 것은 아닙니다. 제40조제3항에 따른 중지명령 또는 시정명령을 이행하지 않은 경우가 제43조제1항제3호의 과태료 대상입니다.
예술 영상도 AI 생성 사실을 밝혀야 하나요?
예술적·창의적 표현물인 경우에도 제31조제3항은 고지 또는 표시 의무를 전제로 합니다. 다만 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있습니다.
