한국, 혁신과 안전의 균형을 꾀한 세계 최초의 포괄적 AI법 제정

한국, AI 기본법으로 세계 선도

한국이 세계 최초라고 주장하는 인공지능 관련 포괄적 법률을 공식 제정했다. 6장 43조로 구성된 ‘AI 기본법’은 목요일 법률로 공포돼, 이례적으로 광범위한 AI 활동과 관련 주체를 아우르는 규제 체계를 마련했다. 이 법은 시민을 보호하는 한편, AI가 사회 전반에 확산되는 가운데 당국이 ‘신뢰의 기반’이라고 설명하는 토대를 구축하는 것을 목표로 한다.

이번 조치로 한국은 AI 거버넌스에 통합적으로 접근하는 체계를 마련하며 주요 경제권보다 앞서게 됐다. 유럽연합(EU)은 지난해 일부 AI 관련 규정의 시행에 들어갔지만, AI법의 핵심 내용은 8월부터 단계적으로 시행된다. 미국에는 아직 연방 차원의 AI 법률이 없다. 다만 백악관은 지난달 AI 혁신을 저해한다고 판단되는 주 차원의 ‘과도한’ 법률에 이의를 제기하는 행정명령을 발표했다. 중국은 기존 사이버보안법에 윤리 또는 위험 모니터링 관련 조항을 추가하는 등 다른 방식으로 접근해 왔다.

한국의 AI 기본법은 인공지능 기술 규제를 위한 전 세계적 노력에서 중요한 진전이다. 이 법은 상호 보완적인 두 가지 목표를 추구한다. 한국 AI 산업의 성장을 촉진하는 동시에 AI 도입에 따르는 잠재적 위험으로부터 시민을 보호하는 데 필요한 안전장치를 마련하는 것이다.

우리는 세계적 합의의 가장 기본적인 수준에서 이 문제에 접근하고 있습니다. 규제를 통해 AI 개발을 막으려는 것이 아닙니다. 사람들이 신뢰를 갖고 AI를 이용할 수 있도록 하는 것이 목표입니다.

과학기술정보통신부 AI정책실의 김경만 차관의 이 발언은 기술 발전을 저해하지 않으면서 안전과 신뢰성에 대한 대중의 우려를 해소하는 균형 잡힌 체계를 만들려는 한국의 의지를 보여준다.

고영향 AI 시스템의 정의

한국 새 법의 핵심은 인간의 생명과 안전 또는 기본권에 중대한 영향을 미칠 가능성이 있는 시스템인 ‘고영향 AI’에 초점을 맞춘다는 점이다. 법은 강화된 감독과 투명성 조치가 필요한 분야로 다음 11개 영역을 명시했다.

• 에너지 공급 시스템
• 식수 생산 공정
• 보건의료 서비스 시스템
• 의료기기의 개발 및 사용
• 핵물질 및 핵시설 관리
• 범죄 수사를 위한 생체정보 분석
• 채용 및 대출 심사
• 교통 시스템 및 관리
• 공공서비스에 영향을 미치는 정부의 의사결정
• 교육 분야의 학생 평가
• 그 밖에 인간의 생명·안전·권리에 중대한 영향을 미치는 분야

이러한 고영향 분야에 AI를 적용하는 기업은 몇 가지 핵심 안전조치를 마련해야 한다. 요청이 있을 경우 AI 시스템의 의사결정 논리를 설명할 수 있어야 하고, 필요할 때 사람이 개입할 수 있도록 해야 하며, 이용자가 AI 기반 서비스와 상호작용하고 있다는 점을 명확히 알려야 한다. 대출이나 채용 지원자를 심사하는 시스템 등이 이에 해당한다.

이 법은 ‘고영향 AI’와 한국이 ‘고성능 AI’라고 부르는 개념을 구분한다. EU가 규제에서 주로 용도별 위험에 초점을 맞추는 반면, 한국은 기술적 기준치를 적용해 어떤 시스템을 규제할지 판단하는 다른 접근법을 택했다. 누적 학습 연산량 등의 지표를 기준으로 삼기 때문에 가장 엄격한 안전 요건의 적용 대상은 극히 제한된 수의 첨단 모델에 그칠 전망이다.

현재 한국 정부는 국내외에 규제 대상이 될 만큼 기준을 충족하는 AI 모델은 없다고 밝히고 있다. 마찬가지로 당국은 현재 국내 서비스 중 ‘고영향’ 범주에 해당하는 사례도 없다고 설명한다. 다만 향후 레벨 4 이상 완전자율주행차는 이 기준에 해당할 가능성이 있다.

투명성 요건과 AI 표시

한국 AI 규제에서 가장 눈에 띄는 부분 중 하나는 AI 생성 콘텐츠의 투명성 요건이다. 새 법에 따라 기업은 실제 상황으로 오인될 수 있는 AI 생성 콘텐츠에 워터마크와 같은 명확한 시각적 표시 또는 청각적 표시를 해야 한다. 이 요건은 딥페이크 콘텐츠와 허위 정보나 기만의 위험을 초래할 수 있는 기타 AI 결과물을 겨냥한다.

표시 방식은 콘텐츠 유형에 따라 달라진다. 실제 콘텐츠와 AI 생성물을 구분하는 것이 안전이나 진위 확인에 중요한 경우에는 눈에 보이는 표시가 의무화된다. 반면 게임, 애니메이션, 웹툰 등 AI를 활용해 만든 창작물은 최종 이용자에게 바로 보이지 않을 수 있는 메타데이터에 표시하는 등 비교적 덜 눈에 띄는 방식으로 공개할 수 있다.

이처럼 세분화된 접근법은 웹툰 제작 등 관련 업계에서 ‘AI 생성’ 콘텐츠의 범위를 어디까지 볼 것인지 불확실하다는 우려를 낳았다. 배경 생성, 채색, 편집 등 일부 작업에 AI를 활용하는 경우에도 공개 의무가 발생할 수 있는지가 여전히 쟁점이다. 법은 AI 도구를 단순히 사용하는 개인 이용자를 규제하지는 않지만, AI 기반 창작 도구를 제공하거나 AI 생성 작품을 유통하는 플랫폼과 기업에는 적용된다.

AI 생성 콘텐츠에 워터마크를 적용하는 것은 딥페이크 콘텐츠와 같은 AI 기술 악용의 부작용을 막기 위한 최소한의 안전장치입니다.

한 정부 부처 관계자의 이 발언은 AI 오용을 막기 위한 기본적인 보호 조치로서 표시를 중시하는 정부의 입장을 보여준다. 투명성 요건은 콘텐츠 표시를 넘어 이용자가 AI 기반 서비스와 상호작용할 때 의무적으로 알리는 내용까지 포함한다. 기업은 고영향 AI 또는 생성형 AI를 활용한 제품이나 서비스를 제공할 때 일반적으로 팝업 알림이나 눈에 잘 띄는 고지 등을 통해 이용자에게 사전에 알려야 한다.

거버넌스 체계와 산업 지원

AI 기본법은 한국의 AI 정책을 위한 포괄적인 거버넌스 체계를 마련한다. 과학기술정보통신부가 AI 정책 시행을 총괄하고, 국가인공지능위원회는 대통령 소속으로 더 폭넓은 AI 정책 방향을 심의·의결한다. 이 법은 정책 시행을 지원하고 안전 문제에 대응하기 위해 AI정책센터와 AI안전연구소도 설립한다.

규제 조치 외에도 이 법에는 한국의 AI 개발과 성장을 지원하기 위한 여러 조항이 포함돼 있다. AI 연구개발 지원, AI 기술 표준화, AI 학습용 데이터 개발, 기업의 AI 기술 도입과 활용을 돕는 사업 등이 이에 해당한다. 중소기업과 스타트업 지원, AI 분야 인재 양성에도 각별한 관심을 둔다.

또한 이 법은 한국의 AI 기술 발전을 위한 정책 로드맵 역할을 할 ‘AI 기본계획’ 수립의 법적 근거를 제공한다. 이러한 포괄적 접근은 성공적인 AI 규제를 위해 제한뿐 아니라 혁신과 글로벌 AI 경쟁력 강화를 위한 적극적인 지원도 필요하다는 점을 반영한다.

기업의 초기 부담을 줄이기 위해 한국 정부는 최소 1년의 유예기간을 두기로 했다. 이 기간 당국은 사실조사나 행정제재를 하지 않고 상담과 교육에 집중한다. 기업이 자사 시스템의 법 적용 여부와 적절한 대응 방안을 확인할 수 있도록 전담 AI 기본법 지원 창구도 마련했다.

AI안전연구소와 한국지능정보사회진흥원 등의 전문가로 구성된 AI 기본법 헬프데스크는 새 규정을 준수하면서 인공지능 도구를 개발하거나 이를 이용해 사업을 하거나 사용하는 이들에게 비밀이 보장되는 상담과 안내를 제공한다.

준수 의무와 벌칙

한국에서 사업을 운영하거나 한국 이용자에게 서비스를 제공하는 기업은 새 법에 따른 구체적인 준수 의무를 부담한다. 글로벌 연매출이 1조원(6억8,100만 달러) 이상이거나 국내 매출이 100억원 이상인 경우, 또는 국내 일일 이용자가 100만명 이상인 경우 등 일정 기준을 충족하는 외국 AI 기업은 당국과 소통할 국내 대리인을 지정해야 한다. 현재 오픈AI와 구글 등 주요 기업이 이 요건에 해당한다.

AI 사업자는 AI를 개발해 제공하는 AI 개발사업자와 개발자가 제공한 AI를 이용해 AI 제품이나 서비스를 제공하는 AI 이용사업자로 구분된다. 두 범주 모두 투명성 의무를 부담하지만, 규제의 핵심 초점은 여전히 고영향 AI와 생성형 AI 시스템에 맞춰져 있다.

한국의 법에 따른 집행 방식은 다른 관할권에 비해 의도적으로 가볍게 설계됐다. 형사처벌은 부과하지 않는다. 대신 위반 시 시정명령을 우선하고, 이를 이행하지 않을 때에만 최대 3,000만원(2만6,200달러)의 과태료를 부과한다. 정부 관계자들이 강조해 온 것처럼 처벌보다는 법 준수를 중시하는 접근법이다.

이에 비해 EU 규제 체계는 위반 유형에 따라 여러 수준의 강력한 제재를 규정하고 있으며, 과징금은 글로벌 연매출의 최대 7%에 이를 수 있다. 제재 수준의 이처럼 큰 차이는 최소한의 규제를 유지하면서도 기본적인 안전 체계를 마련하겠다는 한국의 방침을 반영한다.

한국 법에 따라 과태료가 부과될 수 있는 구체적인 위반 행위는 세 가지다. 고영향 AI 또는 생성형 AI를 활용한 제품이나 서비스를 제공하면서 관련 AI 기반 사업에 대해 당국에 알리지 않는 경우, 의무가 있는데도 국내 대리인을 지정하지 않는 경우, 과학기술정보통신부 장관이 내린 정지명령 또는 시정명령을 따르지 않는 경우다.

업계 반응과 스타트업의 우려

정부는 AI 기본법이 안전을 확보하면서 혁신을 뒷받침하는 균형 잡힌 접근법이라고 설명하지만, 기술 업계 모두가 이에 동의하는 것은 아니다. 한국 스타트업들은 새 규정이 부과할 수 있는 준수 부담에 우려를 나타냈다. 특히 다른 국가의 유사한 체계보다 이른 시기에 시행된다는 점이 부담으로 꼽힌다.

스타트업얼라이언스 설문조사에 따르면 AI 분야 스타트업 가운데 공식적인 준수 계획을 마련했다고 답한 곳은 2%에 불과했고, 절반가량은 새 법의 요건을 충분히 이해하지 못한다고 인정했다. 규정이 명확하지 않아 창업자들 사이에서는 법률의 모호한 표현 때문에 규제 위험을 피하려고 지나치게 신중한 개발 전략을 택해야 할 수 있다는 불안감이 커지고 있다.

왜 우리가 이걸 가장 먼저 해야 하는지에 대해 약간의 불만이 있습니다.

스타트업얼라이언스 공동의장인 임정욱의 이 발언은 글로벌 경쟁사보다 먼저 포괄적인 AI 규제를 적용받는 데 대해 일부 기업가들이 느끼는 답답함을 담고 있다. 많은 창업자는 AI 규제에 앞장서는 것이 한국에 이점을 가져올지, 국내 기업을 국제 무대에서 불리하게 만들지 의문을 제기한다.

이재명 대통령은 정책 입안자들에게 업계의 의견을 듣고 벤처기업과 스타트업에 충분한 지원을 제공하라고 촉구하며 이러한 우려를 인정했다. 최근 참모진과의 회의에서 이 대통령은 예상되는 부작용을 선제적으로 관리하는 동시에 제도적 지원을 통해 업계의 잠재력을 극대화하는 것이 중요하다고 강조했다.

과학기술정보통신부는 유예기간 중 기업을 위한 안내 플랫폼과 전담 지원센터를 마련하겠다고 밝혔다. 한 대변인은 정부가 업계 부담을 최소화할 방안을 계속 검토하고 있으며, 국내외 산업 여건에 따라 유예기간 연장도 고려하고 있다고 말했다.

국제적 접근법과의 비교

한국의 AI 기본법은 주요 경제권의 접근법과 차별화되는 독자적인 규제 철학을 보여준다. 이 법은 민간 부문의 자율성을 중시하는 미국 모델과 안전·신뢰성을 강조하는 EU 규제 모델을 모두 참고한다. 궁극적으로 한국은 최소한의 규제와 AI 진흥을 조화시켜 글로벌 AI 경쟁력을 갖춘 선도국이 되려는 독자적인 길을 택했다.

EU AI법과 마찬가지로 한국의 체계는 AI 시스템을 정의하고 기본권 영향평가(FRIA)를 포함해 고영향 AI와 관련한 여러 의무를 규정한다. 다만 구체적인 규제 수준은 향후 하위법령에 따라 달라질 수 있으며, 하위법령은 2025년 상반기 공개될 것으로 예상된다.

한국과 EU 접근법의 중요한 차이는 의무를 구성하는 방식에 있다. EU AI법은 AI 가치사슬에 참여하는 주체의 유형에 따라 차등적인 의무를 규정한다. 반면 한국의 AI 기본법은 참여 주체의 유형을 구분하지 않고 의무를 포괄적으로 정한다. 이처럼 간소화된 접근법은 복잡성을 낮출 수 있지만, 다양한 AI 생태계 전반에 적절한 감독을 적용하는 데 어려움을 낳을 수도 있다.

고영향 AI의 정의 방식도 EU와 다르다. EU는 보건의료, 채용, 법 집행 등 특정 분야의 AI 활용에 초점을 맞춰 용도별 위험을 따진다. 반면 한국은 규제 대상 시스템을 가리기 위해 누적 학습 연산량 등의 지표를 포함한 기술적 기준치를 적용한다. 그 결과 현재의 기술 수준에서는 규제 대상 시스템이 훨씬 적을 가능성이 있다.

규제 철학의 차이는 위반에 대한 제재에서도 드러난다. EU는 글로벌 연매출의 최대 7%에 이르는 과징금을 부과할 수 있는 강력한 제재 체계를 마련했다. 반면 한국의 체계에서 행정 과태료는 최대 3,000만원(약 2만6,200달러)이다. 이처럼 큰 차이는 처벌보다 준수와 시정에 중점을 두려는 한국의 방침을 보여준다.

세계적 파급효과와 향후 전망

한국의 포괄적 AI 법률 제정은 글로벌 AI 환경에 중요한 영향을 미친다. EU에 이어 두 번째로 포괄적 AI 규제 체계를 도입한 국가로서, 한국은 다른 국가들이 자체적인 AI 거버넌스 방안을 마련할 때 참고할 수 있는 새로운 입법 사례를 제시했다.

윤석열 대통령의 계엄 선포와 이후 탄핵을 둘러싼 정치적 혼란에도 법안이 통과된 것은 AI 규제의 중요성에 대한 초당적 공감대를 보여준다. 이 법은 2024년 12월 26일 국회 본회의에서 여야의 압도적인 지지를 받아 통과됐으며, AI 문제 대응을 둘러싼 폭넓은 정치적 합의를 드러냈다.

한국 당국은 현행 법률이 완성된 결과물이 아니라 출발점이라고 인정했다. 여러 조항의 구체적인 시행 방식은 하위법령과 분야별 지침에 달려 있으며, 법이 2026년 1월 전면 시행되기 전 1년의 준비 기간 동안 확정될 예정이다.

한국이 규제 대상이나 분야의 특성을 고려해 관계 부처의 전문성을 조율하는 과정에서 국가인공지능위원회의 조정 기능은 중요해질 전망이다. 개인정보와 저작권부터 보건의료와 국방에 이르기까지 모든 분야에 AI가 확산되는 만큼, 효과적인 거버넌스를 위해서는 여러 정부 기관 간 세심한 조율이 필요하다.

AI에 관한 국제 규범과 거버넌스 논의가 활발해지는 가운데, AI의 신뢰성을 보장하기 위해 규제의 국제적 상호운용성과 협력이 필요한 이유도 더욱 커졌다. 특히 AI 거버넌스에서 혁신과 안전 우려 사이의 균형을 어떻게 맞출지에 관한 국제 논의에 한국의 접근법이 영향을 미칠 수 있다.

핵심 내용

• 한국은 인공지능의 개발·도입·이용을 아우르는 세계 최초의 포괄적 AI 법률인 AI 기본법을 제정했다.
• 이 법은 보건의료, 금융, 교통, 정부 서비스 등 11개 핵심 분야의 ‘고영향 AI’를 규정하고, 강화된 감독과 사람의 개입 기능을 요구한다.
• AI 생성 콘텐츠에는 표시를 해야 한다. 현실로 오인될 수 있는 콘텐츠에는 눈에 보이는 워터마크를 적용하고, 웹툰과 애니메이션 등 창작물에는 덜 눈에 띄는 표시를 허용한다.
• 매출액이나 이용자 수 기준을 충족하는 외국 AI 기업은 한국 내 대리인을 지정해야 한다.
• 법 위반에 따른 과태료는 최대 3,000만원(2만6,200달러)으로, 글로벌 연매출의 최대 7%에 이를 수 있는 EU 과징금보다 크게 낮다.
• 법에는 처벌보다 안내에 초점을 둔 1년의 유예기간이 있으며, 준수 지원을 요청하는 기업을 위한 전담 헬프데스크도 마련된다.
• 스타트업들은 규제 준수 부담과 법률의 모호한 표현에 우려를 나타냈으며, 공식적인 준수 계획을 마련했다고 답한 곳은 2%에 그쳤다.
• 이 법은 AI 기술에 대한 신뢰 기반을 구축하면서 한국을 세계 3대 AI 강국으로 자리매김하는 것을 목표로 한다.
• 한국은 첨단 AI 시스템 규제에서 용도별 위험보다 기술적 기준치에 초점을 맞춰 EU와 다른 접근법을 취한다.
• 하위법령과 세부 지침을 마련하는 1년의 준비 기간을 거쳐 2026년 1월 전면 시행될 예정이다.