실제와 구분하기 어려운 AI 영상, AI로 만들었다고 밝혀야 하나요?
요약 및 결론: 인공지능사업자가 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 영상을 제공한다면, 이용자가 AI로 생성된 사실을 명확히 인식할 수 있는 방식으로 고지하거나 표시해야 합니다(인공지능기본법 제31조제3항). 이를 어겼다는 이유만으로 곧바로 과태료가 부과되는 것은 아니지만, 중지명령이나 시정명령을 받고도 이행하지 않으면 3천만 원 이하의 과태료 대상이 됩니다.
실제 촬영물처럼 보이는 AI 영상이 제공될 때, 쟁점은 생성 사실을 알려야 하는지와 표시가 없을 때 곧바로 과태료가 붙는지입니다. 2026년 10월 24일 현재 시행 중인 인공지능기본법은 표시 의무와 과태료가 부과되는 경로를 구분하고 있습니다.
본문
어떤 AI 영상에 생성 사실을 알려야 하나요?
인공지능사업자가 인공지능시스템을 이용해 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우가 제31조제3항의 대상입니다. 이용자가 AI로 생성됐다는 사실을 명확히 인식할 수 있는 방식으로 고지 또는 표시하여야 합니다. 고지·표시의 구체적인 방법과 예외는 제31조제4항에 따라 대통령령으로 정하도록 되어 있으며, 그 내용은 이 글의 자료에 포함돼 있지 않습니다.
예술적·창의적 표현물이라는 이유만으로 고지·표시 의무가 없어지지는 않습니다. 제31조제3항 후단은 그런 표현물이나 그 일부에 대해서는 전시 또는 향유 등을 저해하지 않는 방식으로 고지하거나 표시할 수 있다고 정합니다.
표시하지 않으면 바로 과태료가 나오나요?
제31조제3항의 고지·표시 의무 위반 자체는 제43조제1항의 직접적인 과태료 항목에 들어 있지 않습니다. 제31조제2항의 생성형 인공지능 결과물 표시 의무도 마찬가지입니다. 제43조제1항제1호가 직접 과태료 대상으로 정한 것은 제31조제1항의 사전고지를 이행하지 않은 경우입니다.
| 어떤 행위 | 적용 조문 | 법정 제재 |
|---|---|---|
| 고영향 인공지능이나 생성형 인공지능을 이용한 제품·서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전고지하지 않음 | 제31조제1항, 제43조제1항제1호 | 3천만 원 이하 과태료 |
| 생성형 인공지능 결과물에 생성 사실을 표시하지 않음 | 제31조제2항, 제40조제1항·제3항 | 위반 자체에 대한 직접 과태료 규정은 없음. 조사 및 중지·시정명령 대상이 될 수 있음 |
| 실제와 구분하기 어려운 가상의 결과물에 생성 사실을 고지하거나 표시하지 않음 | 제31조제3항, 제40조제1항·제3항 | 위반 자체에 대한 직접 과태료 규정은 없음. 조사 및 중지·시정명령 대상이 될 수 있음 |
| 제40조제3항에 따른 중지명령 또는 시정명령을 이행하지 않음 | 제43조제1항제3호 | 3천만 원 이하 과태료 |
표시 의무 위반은 어떤 절차를 거쳐 과태료로 이어질 수 있나요?
제31조제2항·제3항 위반을 발견하거나 그 혐의를 알게 된 경우, 또는 신고·민원이 접수된 경우 과학기술정보통신부장관은 제40조제1항에 따라 사실조사를 할 수 있습니다. 조사 결과 법 위반이 인정되면 제40조제3항에 따라 중지명령이나 시정명령을 할 수 있습니다. 그 명령을 이행하지 않은 때 제43조제1항제3호의 3천만 원 이하 과태료 대상이 됩니다.
제40조의 조사와 명령은 조문상 모두 “할 수 있다”로 규정돼 있습니다. 따라서 제31조제2항·제3항 위반이 확인되었다고 해서 조사, 명령, 과태료가 반드시 차례로 이루어진다고 단정할 수는 없습니다.
실제로 얼마의 과태료가 부과되나요?
제43조제1항의 3천만 원 이하는 과태료의 법정 상한입니다. 과태료는 벌금이나 형사처벌이 아니므로 형사사건의 실제 선고 형량과 구분해야 합니다. 이 글에 제공된 자료에는 실제 부과액에 관한 공표 자료 없으며, 구체적인 부과·징수 기준은 제43조제2항이 대통령령에 위임하고 있습니다.
관련 법령
제31조(인공지능 투명성 확보 의무) ① 인공지능사업자는 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하여야 한다.
제40조(사실조사 등) ① 과학기술정보통신부장관은 다음 각 호의 어느 하나에 해당하는 경우에는 인공지능사업자에 대하여 관련 자료를 제출하게 하거나, 소속 공무원으로 하여금 필요한 조사를 하게 할 수 있다.
제43조(과태료) ① 다음 각 호의 어느 하나에 해당하는 자에게는 3천만원 이하의 과태료를 부과한다.
자주 묻는 질문
AI 영상에 워터마크만 넣으면 표시 의무를 지킨 건가요?
제31조제3항은 이용자가 AI 생성 사실을 명확하게 인식할 수 있는 방식으로 고지하거나 표시하도록 정합니다. 워터마크라는 특정 수단을 법문이 지정하지는 않으며, 구체적인 방법과 예외는 대통령령에 위임돼 있어 제공된 자료만으로 특정 워터마크의 적법 여부를 판단할 수 없습니다.
AI 영상을 표시하지 않으면 바로 3천만 원 과태료인가요?
실제와 구분하기 어려운 가상의 AI 영상에 관한 제31조제3항 위반은 그 자체로 제43조의 직접 과태료 항목이 아닙니다. 제40조제3항에 따른 중지명령이나 시정명령을 받고도 이행하지 않은 경우 제43조제1항제3호에 따라 3천만 원 이하의 과태료 대상이 됩니다.
예술 작품에 들어간 AI 영상도 밝혀야 하나요?
인공지능사업자가 제공하는 결과물이 제31조제3항의 요건에 해당하면, 예술적·창의적 표현물이라는 이유만으로 고지·표시 의무가 면제되지는 않습니다. 다만 전시 또는 향유 등을 저해하지 않는 방식으로 고지하거나 표시할 수 있습니다.
