실제와 구분하기 어려운 AI 영상, 꼭 AI로 만들었다고 밝혀야 할까
요약 및 결론: 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 '인공지능기본법') 제31조제3항에 따라, 인공지능사업자는 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 결과물을 제공할 때 인공지능시스템으로 생성했다는 사실을 이용자가 명확하게 인식할 수 있게 고지하거나 표시해야 합니다. 다만 제43조는 제31조제3항 위반을 과태료 대상으로 직접 정하지 않았습니다. 과학기술정보통신부장관이 중지명령이나 시정명령을 내렸는데 이행하지 않으면 그때 3천만원 이하의 과태료가 붙습니다(제40조제3항, 제43조제1항제3호). 이 과태료는 벌금이 아니며 형사처벌도 아닙니다.
현행 인공지능기본법 제31조·제40조·제43조는 2026년 7월 21일부터 시행되고 있습니다. 실제 사람의 목소리나 얼굴과 구분하기 어려운 AI 생성물이 늘면서, 이런 결과물에 'AI 생성' 사실을 꼭 밝혀야 하는지, 밝히지 않으면 바로 제재를 받는지 묻는 사람이 많아졌습니다. 조문을 보면 의무는 분명히 정해져 있지만 과태료가 붙는 지점은 따로 정해져 있어서, 이 둘을 구분해서 봐야 합니다.
실제와 구분하기 어려운 AI 결과물은 꼭 표시해야 하나요?
꼭 표시해야 합니다. 인공지능기본법 제31조제3항의 어미는 “고지 또는 표시하여야 한다”이고, 이는 의무 조항입니다. 의무를 지는 사람은 ‘인공지능사업자’이고, 대상은 인공지능시스템을 이용해 만든 “실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물”입니다.
제31조제3항은 표시하는 방식에 대해서도 기준을 둡니다. 이용자가 “명확하게 인식할 수 있는 방식”이어야 합니다. 이용자가 알아보기 어려운 형태로 고지하거나 표시하면 조문 문언이 요구하는 수준에 이르지 못할 수 있습니다.
흔히 ‘딥페이크’라고 부르는 결과물이 이 조항과 관련이 깊지만, 조문에는 ‘딥페이크’라는 단어가 없습니다. 법적으로 따질 때는 “실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물”에 해당하는지가 기준입니다.
‘인공지능사업자’, ‘생성형 인공지능’, ‘고영향 인공지능’이 무엇인지는 이 법의 정의 규정에서 정합니다. 이 글은 그 정의를 다루지 않습니다. 개인이 AI 영상을 만들어 게시하는 경우가 ‘인공지능사업자’에 해당하는지도 이 글에서는 판단하지 않습니다.
제31조의 세 가지 의무는 어떻게 다른가요?
인공지능기본법 제31조는 4개 항으로 되어 있고 호는 없습니다. 제1항부터 제3항까지가 의무이고, 각각 무엇을 언제 알려야 하는지가 다릅니다.
- 제1항(사전고지): 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 그 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지해야 합니다.
- 제2항(결과물 표시): 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우, 결과물이 생성형 인공지능으로 생성되었다는 사실을 표시해야 합니다.
- 제3항(실제와 구분하기 어려운 결과물의 고지 또는 표시): 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 음향·이미지·영상 등의 결과물을 제공하는 경우, 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 합니다.
- 제4항(위임): 사전고지·표시·고지 또는 표시의 방법과 “그 예외” 등에 필요한 사항은 대통령령으로 정합니다.
제4항이 예외를 대통령령에 맡기고 있으므로, 제31조의 의무가 어떤 경우에도 똑같이 적용된다고 단정할 수는 없습니다. 대통령령이 정한 구체적인 방법과 예외는 이 글이 근거로 삼은 자료에 들어 있지 않습니다.
예술 작품이면 AI 표시를 안 해도 되나요?
예술 작품이어도 표시 의무는 그대로입니다. 인공지능기본법 제31조제3항 후단은 결과물이 “예술적ㆍ창의적 표현물에 해당하거나 그 일부를 구성하는 경우”에 “전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다”고 정합니다.
후단의 “할 수 있다”는 표시를 생략해도 된다는 뜻이 아닙니다. 고지하거나 표시하는 방식을 감상을 방해하지 않는 쪽으로 고를 수 있다는 뜻입니다. 따라서 예술적·창의적 표현물이어도 고지 또는 표시는 해야 하고, 달라지는 것은 방식뿐입니다.
표시하지 않으면 바로 과태료를 내나요?
바로 과태료를 내지는 않습니다. 인공지능기본법 제43조제1항은 과태료 대상을 3개 호로 정하고 있는데, 제31조와 직접 연결된 것은 제1호 “제31조제1항을 위반하여 고지를 이행하지 아니한 자”뿐입니다. 제31조제2항의 표시 의무나 제31조제3항의 고지 또는 표시 의무를 위반한 것 자체는 제43조의 과태료 대상에 들어 있지 않습니다.
제43조제1항제1호의 “고지”는 제31조제1항의 사전고지, 곧 제품이나 서비스가 인공지능에 기반하여 운용된다는 사실을 미리 알리는 것을 말합니다. 제31조제2항의 “표시”나 제31조제3항의 “고지 또는 표시”와는 다른 의무입니다.
조문상 제31조제2항·제3항 위반이 과태료로 이어지는 경로는 하나입니다.
- 사실조사(제40조제1항·제2항): 과학기술정보통신부장관은 제31조제2항·제3항 위반 사항을 발견하거나 혐의가 있음을 알게 된 경우(제1호), 또는 위반 신고를 받거나 민원이 접수된 경우(제2호)에 인공지능사업자에게 자료를 내게 하거나 소속 공무원에게 조사하게 할 수 있습니다. 필요하면 사무소·사업장에 출입해 장부·서류 등을 조사하게 할 수도 있습니다.
- 중지명령·시정명령(제40조제3항): 조사 결과 법을 위반한 사실이 있다고 인정되면, 과학기술정보통신부장관은 위반행위를 멈추거나 바로잡는 데 필요한 조치를 명할 수 있습니다.
- 명령 불이행 시 과태료(제43조제1항제3호): “제40조제3항에 따른 중지명령이나 시정명령을 이행하지 아니한 자”에게는 3천만원 이하의 과태료를 부과합니다.
결국 과태료의 원인은 표시를 하지 않은 사실이 아니라 명령을 이행하지 않은 사실입니다. 또 제40조제1항부터 제3항까지의 어미는 모두 “할 수 있다”입니다. 위반이 있어도 조사나 중지·시정명령이 반드시 뒤따르는 것은 아니고, 과학기술정보통신부장관의 재량에 달려 있습니다.
행위별로 정리하면 어떤 제재가 따르나요?
인공지능기본법에서 과태료가 붙는 행위는 제43조제1항 3개 호뿐입니다. 제31조제2항·제3항 위반은 직접적인 과태료 대상이 아니고, 사실조사와 명령의 대상이 될 수 있는 행위입니다.
| 어떤 행위 | 적용 조문 | 법정 제재 |
|---|---|---|
| 고영향·생성형 인공지능 기반 제품 또는 서비스라는 사실을 사전에 고지하지 않음 | 제31조제1항, 제43조제1항제1호 | 3천만원 이하 과태료 |
| 생성형 인공지능 결과물에 생성 사실을 표시하지 않음 | 제31조제2항, 제40조제1항·제3항 | 직접 정한 과태료 없음. 사실조사, 중지·시정명령 대상이 될 수 있음(재량) |
| 실제와 구분하기 어려운 가상의 음향·이미지·영상 등 결과물에 생성 사실을 고지 또는 표시하지 않음 | 제31조제3항, 제40조제1항·제3항 | 직접 정한 과태료 없음. 사실조사, 중지·시정명령 대상이 될 수 있음(재량) |
| 제40조제3항에 따른 중지명령이나 시정명령을 이행하지 않음 | 제40조제3항, 제43조제1항제3호 | 3천만원 이하 과태료 |
| 제36조제1항을 위반해 국내대리인을 지정하지 않음 | 제43조제1항제2호 | 3천만원 이하 과태료 |
표의 과태료는 모두 행정질서벌입니다. 인공지능기본법 제43조는 벌금이나 징역을 정하지 않습니다. 제43조제2항에 따라 과태료는 “대통령령으로 정하는 바에 따라” 과학기술정보통신부장관이 부과·징수합니다.
실제로는 과태료가 얼마나 부과되나요?
공표된 자료가 없습니다. 인공지능기본법 제43조제1항이 정한 것은 상한인 “3천만원 이하”뿐이고, 위반 유형별로 얼마를 부과할지는 제43조제2항에 따라 대통령령으로 정합니다. 이 글의 근거 자료에는 그 대통령령의 부과기준이 없습니다.
인공지능기본법 제31조·제40조·제43조에 관한 법원 판례도 이 글의 근거 자료에는 없습니다. 실제 부과 사례나 액수 통계 역시 공표 자료가 확인되지 않았습니다.
이 조문들은 언제부터 적용되나요?
인공지능기본법 제31조·제40조·제43조는 시행일이 2026년 7월 21일인 현행 조문이고, 2026년 10월 24일 기준으로 효력이 있습니다. 세 조문에는 연혁 표기가 없어서, 지금의 문언을 어느 개정이 만들었는지는 확인되지 않았습니다.
법률 제21311호(2026. 1. 20. 일부개정)는 제2조, 제3조, 제6조, 제8조 등 여러 조문을 고쳤지만 제31조·제40조·제43조는 고치지 않았습니다. 이 개정법의 부칙은 본문 시행일을 2026년 1월 22일로 정하고 일부 조항만 공포 후 6개월이 지난 날부터 시행하도록 했는데, 그 단서 조항에도 제31조·제40조·제43조는 없습니다. 이 부칙에는 적용례나 경과조치 규정이 없습니다.
관련 법령
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
제40조(사실조사 등) ① 과학기술정보통신부장관은 다음 각 호의 어느 하나에 해당하는 경우에는 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있다.
제43조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 3천만원 이하의 과태료를 부과한다.
자주 묻는 질문
AI로 만든 영상에 AI 표시 안 하면 과태료 내나요?
인공지능기본법 제43조는 제31조제3항의 고지 또는 표시를 하지 않은 것 자체를 과태료 대상으로 정하지 않았습니다. 과학기술정보통신부장관이 제40조제3항에 따라 중지명령이나 시정명령을 내렸는데 이행하지 않으면, 제43조제1항제3호에 따라 3천만원 이하의 과태료가 부과됩니다. 조사와 명령은 모두 "할 수 있다"로 정해진 재량 사항입니다.
AI 표시 의무 위반하면 벌금이나 형사처벌 받나요?
표시 의무 위반 자체는 인공지능기본법 제43조의 과태료 대상이 아니고, 제43조가 정한 제재는 3천만원 이하의 과태료로서 벌금이나 형사처벌이 아닙니다. 과태료는 대통령령으로 정하는 바에 따라 과학기술정보통신부장관이 부과·징수합니다(제43조제2항).
예술 작품에 쓴 AI 이미지도 AI라고 표시해야 하나요?
표시해야 합니다. 인공지능기본법 제31조제3항 후단은 예술적·창의적 표현물이면 "전시 또는 향유 등을 저해하지 아니하는 방식으로" 고지 또는 표시할 수 있다고 정합니다. 이 규정은 표시 방식을 고를 수 있게 한 것이지 표시 의무를 없앤 것이 아닙니다.
