한국의 무료 AI 보급, 접근성 확대가 위험 대응에 앞설 수 있을지 시험대

공공 AI 서비스, 기대에서 시험대로

한국은 모든 시민에게 인공지능을 무료로 이용할 수 있도록 준비하고 있다. 챗봇과 AI 에이전트를 학교 과제, 의료, 공공 서비스, 일상적 의사결정에 활용할 수 있게 하려는 것이다. ‘AI for All’이라는 이름의 이 사업은 기술을 널리 확산하고 미국·중국과의 경쟁에서 한국의 입지를 강화하는 것을 목표로 한다. 동시에 어려운 질문을 정면으로 제기한다. AI가 공공 생활의 일상적인 일부가 될 때 안전장치도 그 속도를 따라갈 수 있을까?

이재명 대통령 정부는 베타 서비스를 먼저 시작한 뒤, 내년부터 시범 사업을 상시적인 납세자 부담 공공 서비스로 전환할지 검토할 계획이다. 제안된 서비스는 SK텔레콤, KT, 카카오가 이끄는 국내 3개 컨소시엄이 개발한 범용 AI 도구를 시민과 연결한다. 정부는 까다로운 AI 시스템을 학습시키고 실행하는 데 쓰이는 특수 칩인 엔비디아 B200 그래픽처리장치 수백 대를 각 컨소시엄에 대여했다.

정부는 장기적으로 AI 중개 서비스가 정부와 연계된 서비스를 통해 병원 진료를 예약하고, 주거지를 찾고, 세금 관련 안내를 구하는 일을 도울 것으로 내다본다. 복잡한 서류나 긴 대기 시간에 어려움을 겪는 사람들에게 공공 시스템을 더 쉽게 이용하도록 돕는 효과가 있을 수 있다. 반면 오류, 개인정보 침해, 편향된 추천이 필수 서비스를 이용하는 사람들에게 영향을 미칠 가능성도 커진다.

정부는 2027년까지 사업 시행에 2,500억 원을 배정했다. 이번 회계연도 AI 예산 10조 원은 별도다. 이는 AI 역량을 키우고 유료 구독을 감당할 수 있는 사람에게만 기술이 제한되지 않도록 접근성을 넓히려는 국가 전략의 규모를 보여준다. 시범 사업은 무료 이용이 유용한 공공 인프라로 이어지는지, 또 시민들이 개인정보와 질문을 처리하는 시스템을 신뢰할 수 있는지를 시험하게 된다.

AI 업계 지도자들은 왜 기술을 경고하는가?

한국의 계획은 AI 업계의 저명인사들이 급속한 기술 발전에 심각한 위험이 따른다고 경고하는 가운데 추진되고 있다. 앤트로픽의 다리오 아모데이 최고경영자는 업계가 개발 속도를 늦춰야 한다고 촉구했다. 앤트로픽과 오픈AI에서 일했던 한 전직 엔지니어는 회사를 떠난 뒤, 통제되지 않은 개발이 “우리 모두가 가까운 미래에 죽을 수도 있다”는 뜻일 수 있다며 “진심으로 두렵다”고 말했다. 흔히 ‘AI의 대부’로 불리는 노벨상 수상자이자 컴퓨터 과학자인 제프리 힌턴도 첨단 시스템이 인간의 통제를 벗어나면 실존적 위협이 될 수 있다고 경고해 왔다.

이러한 경고가 가리키는 위험에는 자율 무기와 기계에 의한 사이버 공격부터 대량 실업까지 다양한 가능성이 포함된다. 이미 더 익숙해진 위험도 있다. 진짜처럼 보이는 가짜 이미지와 영상, 차별적인 자동화 의사결정, 자신 있게 답하지만 부정확한 정보를 내놓는 시스템에 대한 의존 등이 그것이다. 공공 부문 도입이 이런 위험을 모두 새로 만들어내는 것은 아니지만, AI를 대규모로 더 쉽게 사용할 수 있게 해 위험 노출을 키울 수 있다.

범용 AI 시스템은 인간과 같은 방식으로 세상을 이해하기보다 데이터의 패턴을 찾아 응답을 생성한다. 초안 작성, 요약, 정보 검색에는 유용할 수 있지만, 거짓을 사실인 것처럼 말할 수도 있다. 정부나 보건 관련 환경에서 이용자는 답변을 확인할 명확한 방법과 이를 바로잡을 권한이 있는 담당자에게 연락할 수단을 필요로 한다.

서울시는 어떤 안전장치를 마련하고 있나?

한국은 AI 이용 확대에 따른 규칙을 마련하기 위해 1월 시행된 AI 기본법에 의존하고 있다. 이 법은 인간의 감독, 영향평가, 생성 콘텐츠의 명확한 표시를 규정한다. 이러한 조치는 AI가 만든 콘텐츠를 쉽게 알아볼 수 있도록 하고, 조직이 시스템을 도입하기 전에 잠재적 피해를 검토하도록 하는 데 목적이 있다.

국가 지원을 받는 AI 안전연구소도 위험을 평가하고 기술 감시자 역할을 맡는다. 공식 규칙 못지않게 연구소의 활동도 중요하다. 시스템이 안정적으로 작동하는지, 민감한 정보가 보호되는지, 이용자가 중대한 결정에 이의를 제기할 수 있는지를 살펴야 한다. 영향평가는 현실에서 발생하는 결과를 검토하고 문제가 드러날 때 변화를 이끌어낼 때만 유용하다.

정부 서비스와 연계할 계획인 만큼 책임 소재를 명확히 하는 일이 특히 중요하다. AI 비서가 잘못된 세금 안내를 하거나 진료 예약 요청을 부적절하게 처리하면 이용자는 어느 기관이 책임지는지, 어떻게 도움을 받을 수 있는지 알아야 한다. 시스템이 시민과 의사결정권을 가진 공무원 사이의 장벽이 되어서는 안 된다. 인간의 검토는 접근이 쉽고 신속하며 자동화된 권고를 뒤집을 수 있을 때 실질적인 의미를 갖는다.

무료 이용이라고 운영 비용까지 들지 않는다는 뜻은 아니다. 공공기관은 컴퓨팅, 보안, 유지관리, 평가 비용을 부담하는 동시에 서비스가 개인정보를 얼마나 보관해야 하는지도 정해야 한다. 컴퓨팅 하드웨어와 소프트웨어에 대한 정부 투자는 지속 가능한 공공 서비스의 한 부분일 뿐이다. 감독과 지원에도 지속적인 재원이 필요하다.

일자리와 딥페이크 악용은 이미 논쟁의 중심에 있다

한국이 우려하는 일부 문제는 이미 발생하고 있는 피해에 뿌리를 두고 있다. 한국은행은 15~29세 취업자 수가 2022년 6월부터 올해 6월까지 28만5,000명 감소했다고 밝혔다. 감소분의 94%가 자동화에 크게 노출된 업종에서 발생한 것으로 추정했다. 이 수치는 청년 고용과 기술 변화가 상당 부분 겹친다는 점을 보여주지만, AI만이 감소 원인임을 입증하지는 않는다. 경기 상황과 그 밖의 채용 변화도 고용에 영향을 줄 수 있다.

자동화는 특정 업무를 대체할 수 있지만 직업 전체를 없애지는 않을 수도 있다. 그래도 초급 업무가 자동화되거나 고용주가 채용을 줄이는 노동자에게 이런 구분은 위안이 되지 않는다. 일상적인 행정·서비스 업무가 전통적으로 취업의 진입 경로였다면 청년층이 특히 큰 영향을 받을 수 있다. AI 도입이 확산되는 가운데 정책 담당자는 전체 고용 수치뿐 아니라 일자리의 질과 채용 양상도 추적해야 한다.

많은 한국인에게 가장 당면한 우려는 범죄적 악용, 특히 성적 학대 목적의 딥페이크다. 2020년 온라인 성착취 사건인 N번방 사건과 이후 발생한 사건들은 2024년 딥페이크 관련 법률 강화의 계기가 됐다. 그러나 국제앰네스티 한국지부가 최근 포럼에서 공개한 수치에 따르면 경찰은 지난해 딥페이크 관련 범죄 1,553건을 기록했다.

디지털 성범죄 수사 단체 팀플레임의 원은지 대표는 탐사보도 매체 뉴스타파와 함께 올해 상당 기간 텔레그램 대화방 약 50곳에 들어가 활동했다. 원 대표는 AI 도구로 익명의 가해자 풀이 확대되고 피해자 연령대가 낮아지는 양상을 기록했다. 이미지 생성과 얼굴 합성 도구는 불법 촬영물이나 성착취물을 더 쉽게 만들도록 할 수 있고, 암호화되거나 익명성이 보장되는 온라인 공간은 수사와 책임 추궁을 더 어렵게 만들 수 있다.

형사법은 대응의 한 축이지만 예방과 지원도 중요하다. 피해자는 이미지의 신속한 삭제, 피해 신고를 위한 실질적 도움, 추가 유포로부터의 보호를 필요로 한다. AI 도구가 널리 보급되면 공공 접근 정책은 의도가 선하더라도 시스템이 유해한 콘텐츠를 만들거나 유포하는 데 쓰일 가능성을 고려해야 한다.

학교는 AI의 효용을 별도로 검증해야 한다

교육도 또 다른 마찰의 지점이 됐다. 교육자들은 정부가 AI 기반 교과서에 1조2,000억 원을 투입하려던 계획을 지난해 철회하기 전까지 이에 항의했다. 우려는 소프트웨어가 제대로 작동하는지에만 그치지 않았다. 학생이 문제를 스스로 풀어보기도 전에 시스템이 답을 내놓으면 무엇을 잃게 되는지도 문제로 제기했다.

시위에 참여한 충남의 초등학교 5학년 교사 송근상은 AI가 “그냥 답을 알려준다”며 “교육적 가치가 크지 않다”고 말했다. 그의 비판은 교육의 기본적인 구분을 짚는다. 과제를 끝내는 것과 과제 수행 방법을 배우는 것은 같지 않다. 어려운 개념을 설명하거나 학생 수준에 맞춰 연습 문제를 조정하는 도구는 도움이 될 수 있다. 읽기, 추론, 쓰기를 건너뛰게 하는 도구는 오히려 이런 능력을 약화시킬 수 있다.

읽기 점수 하락에 대한 우려는 논쟁의 시급성을 더하지만, 이를 학생 성취도 변화의 원인이 AI라는 증거로 취급해서는 안 된다. 학교는 특정 도구가 독해력, 집중력, 독립적인 학습에 어떤 영향을 미치는지 근거를 확보해야 한다. 교사에게도 AI가 수업을 지원하는 때와 학습 과정에서 배제해야 할 때를 결정할 역할이 필요하다.

교실에 적용되는 규칙은 일반 공공 챗봇에 적용되는 규칙과 다를 수 있다. 학생에게는 연령에 적합한 보호, 명확한 개인정보 수집 제한, 학생 스스로의 이해도를 평가하는 과제가 필요하다. AI가 교사의 수업 준비를 돕거나 학생에게 다른 설명을 제공할 수는 있지만, 교육적 관계를 대신하거나 모든 학생의 필요를 신뢰성 있게 판단할 수는 없다.

보편적 접근으로 공공의 신뢰를 쌓을 수 있을까?

‘AI for All’은 AI 접근성을 공공 인프라로 다루려는 야심 찬 사업이다. 이 모델은 첨단 도구를 부유한 개인과 대기업만 이용할 수 있는 격차를 줄일 수 있다. 신뢰할 수 있는 AI 비서는 사람들이 정보를 찾고, 일상적인 서류를 작성하고, 이용하기 어려운 서비스에 접근하도록 도울 수 있다. 이러한 효과는 도구의 품질과 시스템이 실패했을 때 이용자가 사람에게 답변을 구할 수 있는지에 달려 있다.

보편적 접근은 설계 선택의 결과도 바꾼다. 민간 챗봇의 결함은 이용자에게 영향을 주지만, 공공 서비스의 결함은 훨씬 더 많은 사람에게 미칠 수 있다. 시스템이 공공 기록이나 정부기관 업무 절차와 연결된다면 보안 침해와 부정확한 결과는 단일 대화를 넘어서는 영향을 줄 수 있다. 강력한 개인정보 보호 기준, 독립적인 시험, 시스템 성능에 관한 명확한 기록, 이의 제기 절차가 서비스에 대한 신뢰를 좌우할 것이다.

한국에는 탄탄한 기술 산업과 상당한 규모의 시범 사업을 운영할 자원이 있다. 핵심 과제는 기술적 역량을 갖추는 동시에 서비스를 시민에게 책임지는 구조로 만드는 것이다. 그러려면 시스템이 어떤 데이터를 수집하는지 설명하고, 오류에 누가 책임지는지 밝히며, 외부 검증에 필요한 정보를 충분히 공개해야 한다. 이용자 수나 기능 수를 성공의 증거로 삼지 말고, 서비스가 실제로 사람들에게 도움이 되는지도 측정해야 한다.

이번 사업은 공공 투자를 통해 접근성을 넓히면서도 실수가 큰 비용을 초래하는 분야에서 인간의 판단력을 지킬 수 있는지를 시험하게 된다. 한국의 법과 안전연구소는 기본 틀을 제공하지만, AI가 교실과 직장, 정부기관에 들어서는 가운데 그 가치는 실제 작동 방식으로 평가받을 것이다.

핵심 내용

• 한국은 SK텔레콤, KT, 카카오와 관련된 컨소시엄이 주도하는 무료 AI 시범 사업을 추진한다.
• 정부는 진료 예약과 세금 안내 같은 서비스에 연결되는 AI를 상시적인 공공 서비스로 만들고자 한다.
• AI 기본법은 인간의 감독, 영향평가, 생성 콘텐츠 표시를 규정한다.
• 고용 우려에는 자동화에 노출된 업종에 집중된 15~29세 취업자 감소가 포함된다.
• AI 도구를 이용한 성착취 우려가 이어지는 가운데 경찰은 지난해 딥페이크 관련 범죄 1,553건을 기록했다.
• 교사들은 즉각적인 답변이 학습을 방해할 수 있다며 AI 기반 교과서에 문제를 제기했다.