실제와 구분하기 어려운 AI 영상은 꼭 AI라고 밝혀야 하나요?
요약 및 결론: 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조제3항은 인공지능사업자가 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 결과물을 제공할 때, 그 결과물이 인공지능시스템에 의해 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하도록 의무화한다. 다만 이 의무를 지키지 않았다고 곧바로 과태료가 붙는 것은 아니다. 같은 법 제43조제1항이 직접 과태료 대상으로 열거한 것은 제31조제1항의 사전고지 미이행, 국내대리인 미지정, 중지명령·시정명령 불이행 세 가지뿐이고, 제31조제3항 위반은 사실조사와 명령 절차를 거쳐 그 명령을 이행하지 않을 때 비로소 과태료 대상이 된다.
실제 사람과 구분하기 어려운 합성 영상·음성이 광고, 콘텐츠 제작, 정보 유통 등 여러 상황에서 쓰이면서 "AI가 만들었다고 밝혀야 하는지"를 둘러싼 질문이 늘고 있다. 2026년 7월 21일부터 시행된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법은 이런 결과물에 표시·고지 의무를 명문화했지만, 의무 조항(제31조)과 과태료 조항(제43조)이 서로 다른 항을 가리키고 있어 혼동이 생기기 쉽다. 표시 의무를 어겼을 때 실제로 어떤 절차를 거쳐야 제재로 이어지는지 조문 구조를 그대로 따라가 볼 필요가 있다.
본문
실제와 구분하기 어려운 AI 영상, 표시 의무가 있나요?
있다. 제31조제3항은 인공지능사업자가 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우, 해당 결과물이 인공지능시스템에 의해 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시하여야 한다고 정한다. 이와 별도로 제31조제2항은 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공할 때 그 결과물이 생성형 인공지능에 의해 생성되었다는 사실을 표시하도록 정하고 있어, 제2항과 제3항은 각각 독립된 표시 의무다.
표시하지 않으면 바로 과태료를 무나요?
아니다. 제43조제1항이 직접 과태료 대상으로 열거한 것은 세 가지뿐이다. 제31조제1항을 위반해 사전고지(제품·서비스가 해당 인공지능에 기반해 운용된다는 사실을 미리 알리는 것)를 이행하지 않은 자, 제36조제1항을 위반해 국내대리인을 지정하지 않은 자, 제40조제3항에 따른 중지명령이나 시정명령을 이행하지 않은 자다. 제31조제2항의 결과물 표시나 제31조제3항의 고지·표시는 제43조제1항의 호에 직접 등장하지 않는다.
그러면 표시 의무 위반은 어떻게 과태료로 이어지나요?
제40조가 그 경로다. 과학기술정보통신부장관은 제31조제2항·제3항 위반을 발견하거나 그 혐의를 알게 된 경우, 또는 그에 대한 신고·민원이 접수된 경우 관련 자료 제출을 요구하거나 소속 공무원으로 하여금 조사를 하게 할 수 있다(제40조제1항제1호·제2호). 조사 결과 위반 사실이 인정되면 위반행위의 중지나 시정을 위해 필요한 조치를 명할 수 있고(제40조제3항), 이 중지명령·시정명령을 이행하지 않은 자가 제43조제1항제3호에 따라 과태료 대상이 된다. 즉 과태료는 ‘표시를 하지 않은 데’가 아니라 ‘명령을 이행하지 않은 데’ 붙는다.
행위별 분해
| 어떤 행위 | 적용 조문 | 과태료 상한 |
|---|---|---|
| 제31조제1항 위반 — 제품·서비스의 AI 기반 운용 사실 사전고지 미이행 | 제31조제1항, 제43조제1항제1호 | 3천만원 이하 |
| 제31조제2항 위반 — 생성형 AI 결과물 표시 미이행 | 제31조제2항 | 해당 없음(직접 과태료 규정 없음, 제40조 조사·명령 절차 필요) |
| 제31조제3항 위반 — 실제와 구분하기 어려운 결과물 고지·표시 미이행 | 제31조제3항 | 해당 없음(직접 과태료 규정 없음, 제40조 조사·명령 절차 필요) |
| 제40조제3항 중지명령·시정명령 불이행 | 제43조제1항제3호 | 3천만원 이하 |
| 제36조제1항 위반 — 국내대리인 미지정 | 제43조제1항제2호 | 3천만원 이하 |
사실조사나 중지명령은 반드시 하나요?
아니다. 제40조제1항~제3항의 어미는 모두 “할 수 있다”로, 재량 규정이다. 과학기술정보통신부장관이 위반을 발견하거나 신고를 받았다고 해서 조사·중지명령·시정명령을 반드시 해야 하는 것은 아니며, 할지 여부와 범위는 재량에 속한다.
예술적·창의적 표현물이면 표시를 안 해도 되나요?
표시 의무 자체가 사라지는 것은 아니다. 제31조제3항 후단은 해당 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우, “전시 또는 향유 등을 저해하지 아니하는 방식으로” 고지 또는 표시할 수 있다고 정한다. 이는 고지·표시를 면제하는 것이 아니라 고지·표시의 ‘방식’에 재량을 준 것이며, 구체적인 방법과 예외는 제31조제4항에 따라 대통령령으로 정해질 사항이다.
실제 처벌 수위는 어느 정도인가요?
제31조제1항·제36조제1항 위반 또는 제40조제3항 명령 불이행에 대해 제43조제1항은 3천만원 이하의 과태료를 정하고 있고, 이 과태료는 대통령령으로 정하는 바에 따라 과학기술정보통신부장관이 부과·징수한다(제43조제2항). 과태료이므로 형사처벌이나 벌금과는 법적 성격이 다르다. 실제 부과 건수나 평균 부과액 등 공식 통계·운영 현황에 관한 공표 자료는 없음.
관련 법령
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
제40조(사실조사 등) ① 과학기술정보통신부장관은 다음 각 호의 어느 하나에 해당하는 경우에는 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있다.
제43조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 3천만원 이하의 과태료를 부과한다.
자주 묻는 질문
AI 영상인데 표시 안 하면 바로 과태료 내나요?
아니다. 제31조제3항 위반 자체가 과태료 조문(제43조제1항)에 직접 열거되어 있지 않다. 사실조사(제40조제1항) 후 중지명령·시정명령(제40조제3항)이 내려지고, 그 명령을 이행하지 않을 때 제43조제1항제3호로 과태료 대상이 된다.
AI라고 밝히는 구체적인 방법은 법에 정해져 있나요?
제31조 본문은 "이용자가 명확하게 인식할 수 있는 방식"이라고만 정하고 있고, 사전고지·표시·고지 또는 표시의 구체적 방법과 그 예외는 제31조제4항에 따라 대통령령으로 정하도록 위임되어 있다. 대통령령의 구체적 내용은 이 글이 다룬 자료 범위 밖이다.
국내대리인을 지정하지 않은 것도 과태료 대상인가요?
그렇다. 제36조제1항을 위반해 국내대리인을 지정하지 않은 자는 제43조제1항제2호에 따라 3천만원 이하의 과태료 부과 대상이며, 이는 제31조와는 별개의 의무 위반이다.
