중요한 것은, AI 기본법의 경우 ‘권고만 하고 끝’이 아니라
고지, 표시, 의무 불이행 등에 대한 제재가 이루어진다는 것입니다.
이를 위반하면 3천만 원 이하 과태료 대상이 될 수 있고, 중지 명령, 시정명령 등을 이행하지 않으면 역시 과태료 대상이 될 수 있다는 취지로 정리되어 있습니다.
크리에이터, 기업, 브랜드를 불문하고 요즘 가장 관심이 큰 주제는 생성형 AI죠.
이미지, 영상, 음악 등 다양한 분야에서, 실제 사람이 만든 결과물과 구분하기 어려울 정도로 기술은 빠르게 발전하고 있습니다.
이런 흐름 속에서, 국내에서는 AI 법과 관련해 중요한 변화가 있는데요.
우리나라가 내년 1월 22일 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 (AI 기본법)을 시행하며, 관련 법규를 실질적으로 적용하는 첫 번째 국가가 되었습니다.
그렇다면 이 법은 구체적으로 어떤 내용을 담고 있으며, 크리에이터와 기업은 AI를 활용할 때 어떤 점을 특히 주의해야 할까요?
AI 기본법이란 무엇이며, 왜 중요한가
우리나라가 2026년 1월 22일 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)을 시행합니다.
AI 기본법은 한국에서 인공지능을 키우는 것과 안전하게 쓰게 하는 것을 동시에 잡기 위해 만들어진 기본 프레임 법으로, 특정 산업 하나만 겨냥하는 규제가 아니라, AI를 만들거나 이것을 붙여서 서비스하는 기업, 공공정책까지 넓게 걸쳐 적용이 됩니다.
이 법이 중요한 이유는, 이제는 어떤 경우에는
✔️ AI를 미리 쓴다는 사실을 미리 알려야 하고
✔️ 어떤 결과물은 AI가 만들었다고 반드시 표시를 해야 하며
✔️ 규모가 큰 AI는 안전 관리 의무까지 생기기 시작했다는 뜻이기 때문인데요.
특히 생성형 AI를 쓰는 크리에이터, 브랜드, 플랫폼 운영자들이 체감이 클 예정입니다.
AI 기본법 주요 내용
1. AI 썼다는 사실을 사전에 고지해야 함 (사전 고지 의무)
시행령(안) 기준으로 고영향 또는 생성형 AI를 이용한 제품, 서비스를 제공하는 사업자는 해당 제품 및 서비스가 AI 기반으로 운용된다는 사실을 사전에 이용자에게 고지해야 합니다.
실무적으로 중요한 포인트는 ‘고지 방식’인데요. 시행령(안)에서는 아래와 같은 방식을 예시로 들고 있습니다.
제품/서비스 화면이나 단말기 등에 표시
계약서/사용설명서/이용약관 등에 기재 (앱/웹 서비스일 경우)
제공 장소에 게시 (오프라인 결합 서비스일 경우)
2. 생성형 AI 결과물은 표시 이슈가 커짐 (결과물 표시 의무)
실제와 구분하기 어려운 결과물은 생성형 AI로 생성됐다는 사실을 이용자가 명확히 인식할 수 있게 해야 합니다. 또한 이용자의 연령, 신체적 조건 등을 고려하라는 문구가 포함되어 있습니다. 크리에이터가 가장 체감하는 건 보통 이 파트인데요.
시행령(안)에서는 생성형 AI 결과물 표시를 아래 중 하나로 할 수 있게 되어 있습니다.
사람이 인식할 수 있는 방식
기계가 판독할 수 있는 방식 (메타데이터, 워터마크 등)
또한 딥페이크 (실제와 구분이 어려운 음향, 이미지, 영상 등) 결과물은 더 강하게, 이용자가 ‘명확히 인식’ 가능한 방식으로 고지, 표시하도록 되어 있습니다.
그 외에, 아래와 같은 내용이 법에 포함되어 있습니다.
규모가 큰 AI는 안전성 확보 의무가 생김
고영향 AI라는 레벨이 생기며, 여기에 추가 책무, 절차, 영향 평가가 붙음
💡
크리에이터·기업 대응 전략 체크리스트
🔖크리에이터 체크리스트
AI를 사용했는지 콘텐츠 제작 단계에서 기록하기
법이 투명성/표시를 요구하는 방향으로 가는 만큼, 표시 문구를 언제/어디에 넣을지 판단하기 위해서는 당사자가 무엇을 했는지를 먼저 정리해 놓는 것이 중요합니다. 때문에 제작 단계에서 AI를 사용했다면, 이를 미리 기록해 두는 것이 좋습니다.
어떤 툴을 썼는지
어떤 파트에서 들어갔는지
원본 대비 변형 정도가 어느 정도인지
실제와 구분이 어려운 결과물은 가시적으로 표시하는 쪽이 안전
시행령(안)에서도 딥페이크 결과물은 이용자가 명확히 인식이 가능해야 한다는 취지로 정리되어 있습니다.
때문에 실제와 구분이 어려운 아래와 같은 결과물이라면, 되도록 표시를 하는 쪽이 안전합니다.
사람 얼굴, 목소리가 진짜처럼 보이는 합성
뉴스/인터뷰처럼 사실로 오해될 수 있는 포맷
광고와 섞여 소비자 오인을 만들 수 있는 경우
🔖기업,브랜드 체크리스트
내부 가이드라인 만들기
스타트업, 플랫폼, 커머스, 에이전시 기업 경우, 내부 가이드라인을 먼저 작성하는 것이 좋습니다.
✔️ AI 사용 여부를 누가, 어느 단계, 어떻게 기록할지
✔️ 어떤 경우에 표기를 해야 할지
외부 협업 시 계약서에 AI 사용, 표시 책임을 명시하기
크리에이터와 기업 또는 외주, 파트너사와 협업하는 경우라면 AI 사용, 표시에 대한 책임을 사전에 확실히 해두는 것이 좋습니다.
✔️ 표시를 누가 할지, 어떻게 할지, 어디까지 할지
투명성 UI/문구를 제품 문장으로 만들기
웹/앱 서비스를 제공한다면, 고지 방식 및 문구에 대한 사전 협의가 필요하며, 생성형 결과물의 경우 가시적 표시와 기계 판독 표시를 같이 하는 것이 좋습니다.
✔️ 이 기능은 AI로 작동합니다.
✔️ AI가 답변을 생성합니다.
정부는 AI 기본법 시행 초기 제도의 현장 안착과 기업에 대한 준비 기간을 제공하기 위해 과태료 계도 기간을 최소 1년 이상 운영할 계획이라고 밝혔습니다.
시행 직후 계도 기간이 있다고 해도, 예상치 못한 돌발 상황 등이 발생할 수 있기 때문에, 지금부터 위의 내용을 미리 숙지하시어 사전에 대비하는 것을 추천드립니다.
Share article