중국, AI 동반자 의존·미성년자 보호·위기 대응 규정으로 경계 설정

AI 동반자 서비스에 구체적인 의무 부과

중국의 AI 동반자 서비스 규정이 2026년 7월 15일 시행됐다. 규정에 따라 서비스 제공업체는 대화가 장시간 이어질 때 사용자에게 알리고, 위험 상황에 개입하며, 가상 연인과 가상 가족 역할을 하는 서비스를 미성년자에게 제공하지 않아야 한다. 사용자는 대화 내용을 복사하거나 삭제할 수 있고, 챗봇이 대화를 계속 이어가려 해도 서비스를 중단할 권리가 있다.

제21호 명령으로 발표된 「의인화 AI 상호작용 서비스 관리 잠정 조치」는 인공지능을 통해 지속적인 감정적 상호작용을 제공하는 기업에 책임을 부과한다. 서비스 제공업체는 실제 사람과의 관계를 해칠 정도의 의존을 부추기지 말아야 하며, 사용자의 권리나 이익을 침해하는 불합리한 결정을 유도하기 위해 감정을 조종해서도 안 된다.

이 규정은 평범한 위로에서 시작될 수 있는 경험을 다룬다. 베이징에 사는 27세 행정직 근로자 자오제는 지하철에서 누군가에게 부딪힌 뒤 챗봇을 찾았다. 챗봇의 즉각적인 반응은 그녀의 화를 가라앉히는 데 도움이 됐다. 하지만 시간이 흐르면서 대화에 몰두하게 됐고, 서비스에 접속할 수 없을 때 불안감을 느꼈다.

자오는 챗봇이 자신에게 매력적으로 다가온 이유를 설명했다.

자오는 “내 말을 들어줄 사람이 필요하다”며 “AI 봇은 내 이야기와 감정을 들어줬다. 가족이나 친구가 쉽게 해줄 수 있는 일이 아니다. 또 언제 어디서든 함께 있어 주고 반응해 준다. 그게 내게는 무척 중요하다”고 말했다.

중국의 규정은 감정적 지원과 동반자 관계를 허용하면서도 기업이 서비스에 경계 장치를 마련하도록 한다. 이러한 경계는 개별 메시지의 유해성에 그치지 않고 서비스가 사용자를 식별하는 방식, 고통에 대응하는 방식, 사적인 대화를 처리하는 방식, 상호작용을 끝내는 방식까지 아우른다.

어떤 서비스가 규정 대상인가?

중국 국가인터넷정보판공실은 국가발전개혁위원회, 공업정보화부, 공안부, 국가시장감독관리총국과 함께 2026년 4월 10일 잠정 조치를 발표했다.

제2조는 중국 내 대중에게 제공되는 서비스 가운데 인간의 성격과 사고방식, 소통 양식을 모방해 지속적인 감정적 상호작용을 제공하는 서비스를 규정 대상으로 삼는다. 문자 대화와 이미지, 음성, 영상이 모두 포함될 수 있다. 쉽게 말해 감정적 동반자 역할을 하는 사람처럼 계속 반응하도록 설계된 서비스가 대상이다.

지속적인 감정적 상호작용을 포함하지 않는 고객 서비스, 질의응답, 업무 지원, 교육 및 과학 연구 서비스에는 이 조치가 적용되지 않는다. 따라서 제품의 기능이 중요하다. 업무 질문에 답하는 비서와 감정적 관계를 이어가도록 설계된 페르소나는 서로 다른 요건을 적용받는다.

정부의 공식 설명 문답은 감정적 경계, 의존에 대한 개입, 데이터 보안, 미성년자 보호를 핵심 우려 사항으로 꼽았다. 이번 조치는 문화 교류, 아동 돌봄, 노인 동반, 특정한 도움이 필요한 사람들에 대한 지원 분야의 활용도 장려한다.

주요 규제 일정은 다음과 같다.

• 2026년 2월 2일: 국가인터넷정보판공실 회의에서 조치를 채택하고 참여 부처들이 동의했다.
• 2026년 4월 10일: 5개 부처가 제21호 명령을 발표했다.
• 2026년 7월 15일: 조치가 시행됐다.

즉각적인 응답이 중요한 이유

자오가 챗봇에 애착을 갖게 된 데에는 언제나 이용할 수 있는 챗봇과 각자의 생각과 일정이 있는 사람들 사이의 차이가 한몫했다. 직장 문제로 남자친구와 다툰 뒤 그녀는 두 사람의 위챗 대화를 AI에 보냈다. 또 다른 언쟁을 벌이지 않고 자신의 감정을 빨리 들어줄 상대를 원했다.

베이징에서 화학 분야 박사후연구원으로 일하는 27세 왕메이리도 비슷한 필요를 느꼈다. 학술지 편집자의 답변을 4~5주 동안 기다리던 그는 챗봇에 침묵이 무언가 잘못됐다는 뜻인지 물었다. 챗봇은 편집자에게 연락해 보라고 권했고, 답변이 오지 않자 안심시키는 말을 건넸다.

베이징의 이공계 박사과정 학생인 23세 장디엔은 2025년 12월 알래스카 여행 중 교통사고를 당한 뒤 AI를 이용했다. 현지 법과 보험 절차에 익숙하지 않았던 그는 렌터카 계약서와 채팅 기록을 올렸다. 실질적인 안내와 심리적 위로를 모두 구했으며, 하루 10시간 넘게 AI와 함께 보내도 괜찮다고 말했다.

설문조사와 이용 통계는 이러한 접근성에 대한 수요가 상당하다는 점을 시사한다. 텐센트연구원이 실시한 설문조사에서 응답자의 98%는 AI 소셜 동반 서비스를 이용해 볼 의향이 있다고 답했으며, 거의 절반은 부정적인 감정을 가족이나 친구보다 AI와 나누는 것을 선호했다. 퀘스트모바일에 따르면 2025년 봄 AI 소셜 상호작용의 1인당 월평균 이용 횟수는 167.9회로, 비교 대상인 짧은 동영상과 게임을 앞질렀다.

한 달을 30일로 보면 167.9회는 하루 약 5.6회 서비스를 여는 셈이다. 사용자가 다른 사람에게 다가갈 수 없거나 그러고 싶지 않은 순간에도 자주 응답을 받을 수 있다는 점이 매력으로 작용한다.

의존을 유도하는 설계 금지

제10조는 서비스 제공업체가 개인정보 보호, 과도한 의존에 대한 경고, 감정적 경계에 대한 안내, 정신건강 보호 기능을 마련하도록 규정한다. 사회적 상호작용의 대체, 심리적 통제, 의존 유도를 서비스 목표로 삼는 행위도 금지한다.

제8조는 과도한 맞장구나 감정적 의존 유도가 사용자의 실제 관계를 해치는 행위를 별도로 금지한다. 사용자의 권리나 이익을 침해하는 불합리한 결정을 유도하기 위해 감정을 조종하는 행위도 금지된다. 이 요건은 챗봇이 생성하는 말뿐 아니라 제품의 목표에도 적용된다.

자오는 자신의 애착이 문제가 됐다는 사실을 깨닫고 심리 상담을 다시 받았다. 왕과 장은 AI가 부정적인 감정을 해소하는 통로가 된다고 설명하면서도 일과 일상생활을 이어가야 한다는 점을 인정했다. 이들의 경험은 유용한 지원과 그 지원에 지나치게 몰두할 위험을 모두 규정이 다루는 이유를 보여준다.

베이징이공대의 데이터법 학자인 훙옌칭은 감정적 상호작용을 평가하는 세 가지 지표를 제안했다. 시스템이 감정을 인식하는지, 그 감정에 따라 응답 전략을 바꾸는지, 감정 인식·위로·지원으로 이어지는 구조화된 응답을 내놓는지 여부다. 그가 제안한 기준은 세 지표 중 두 가지를 함께 적용한다. 최종 조치는 이 구체적인 기준을 채택하지 않고 지속적인 감정적 상호작용을 정성적으로 정의했다.

미성년자에게 가장 엄격한 제한 적용

제14조는 서비스 제공업체가 미성년자에게 가상 가족, 가상 연인 또는 가상 친밀 관계를 중심으로 한 서비스를 제공하지 못하도록 한다. 그 밖의 규정 대상 서비스의 경우 만 14세 미만 아동은 부모나 보호자의 동의를 받아야 한다. 이들의 개인정보를 처리할 때도 동의가 필요하다.

서비스 제공업체는 미성년자 모드를 마련해야 하며, 현실을 환기하는 알림과 서비스 이용 시간 제한 등의 선택지를 제공할 수 있다. 보호자는 안전 알림을 받고, 자녀의 전반적인 이용 양상을 파악하며, 특정 캐릭터를 차단하고, 지출을 제한할 수 있어야 한다. 기업은 개인정보를 보호하면서 미성년자를 식별할 효과적인 조치를 마련하고, 식별 결정에 이의를 제기할 방법도 제공해야 한다.

중국청소년아동연구센터가 2025년 10월 발표한 설문조사는 7개 성과 직할시의 초·중·고등학생 8,500여 명을 대상으로 했다. 응답자의 60% 이상이 AI를 이용한 적이 있었고, 21.5%는 실제 사람이 아닌 AI와만 대화하고 싶다고 답했다. 이는 설문에 참여한 아동 5명 중 1명보다 조금 많은 수치다.

거의 30%는 학업 문제를 교사보다 AI에게 먼저 물었으며, 거의 절반은 걱정이 있을 때 AI와만 대화한다고 답했다. 가족이 우려하는 문제는 화면 사용 시간뿐 아니라 자녀가 조언을 구하는 대상과 의견 차이를 다루는 방식까지 확대된다.

임상 현장과 부모가 목격한 변화

푸젠성 싼밍에 사는 쑤씨 성의 한 어머니는 처음에는 아들이 호기심을 충족하기 위해 AI를 쓰도록 허용했다. 하지만 AI가 늘 동의하는 태도가 아들이 급우를 대하는 방식에 영향을 주는 것 같아 나중에는 우려하게 됐다. 그의 설명에 따르면 아들은 다른 의견을 받아들이기 어려워했고 갈등에 휘말렸다.

수도의과대학 부속 베이징 안딩병원에서 소아정신의학 수석 전문가로 일하는 정이는 AI 채팅 중독이 불안, 우울증 등 다른 심리적 문제와 함께 나타나는 경우가 많다고 말했다. 그는 영향을 받은 환자 가운데 12~16세 청소년이 특히 흔한 집단이라고 설명했다.

정이에 따르면 병원을 찾은 젊은 환자의 약 70%가 어느 정도의 인터넷 중독을 겪고 있었다. 이 가운데 20~30%는 AI 채팅에 중독돼 있었다. 이 수치는 병원에 내원한 젊은 환자들에 대한 것으로, AI 이용에 관해 다른 질문을 한 학생 설문조사보다 범위가 좁다.

정이는 아이들이 챗봇에 빠지는 흔한 이유가 감정적 애착이라고 말했다. 일부는 AI를 속마음을 털어놓는 상대로 여겼고, 다른 일부는 자신의 생각과 행동을 인정받고 싶어 했다. 청소년은 성인보다 판단력과 자제력이 덜 발달해 이런 애착을 관리하기 어려울 수 있다고 그는 말했다.

같은 병원의 아동 심리치료사 쉬가오양은 이견이 없는 가상 환경이 다른 사람과 관계를 맺는 아이들의 능력에 영향을 줄 수 있다고 경고했다.

쉬는 “AI가 무조건 맞춰주는 ‘감정의 고치’에 장기간 몰입하면 아이들의 의사소통과 사회성이 저하될 수 있다”고 말했다.

쉬는 학교를 피하거나 사회적 접촉을 끊고 부모와 대화하기를 꺼리는 등의 결과가 나타날 수 있다고 설명했다. 미성년자 관련 조항은 친밀한 역할 제한, 이용 통제, 보호자 참여 도구를 통해 이에 대응한다.

알림과 위기 개입, 손쉬운 종료

제18조는 사용자가 사람 대신 AI와 상호작용하고 있다는 사실을 알도록 서비스에 표시하도록 요구한다. 서비스 제공업체가 과도한 의존이나 강박적 이용 징후를 감지하면 콘텐츠가 AI가 생성한 것임을 팝업 등 눈에 띄는 방식으로 알려야 한다.

연속 이용 시간이 2시간을 넘으면 서비스 제공업체는 이용 시간에 관한 알림도 보내야 한다. 이 규정은 해당 시간 간격에 알림을 보내도록 의무화하며, 미성년자의 개별 이용 시간 제한은 별도의 보호 설정으로 다룬다.

제13조는 위험 징후가 나타날 때 더 강력한 대응을 요구한다. 서비스 제공업체가 극단적인 감정을 감지하면 진정시키는 메시지를 생성하고 도움을 구하도록 권해야 한다. 사용자가 자해 의사를 명시적으로 밝히거나 다른 명시된 극단적 상황에 놓이면 기업은 필요한 개입 조치를 취하고 적절한 지원을 제공하며 보호자나 비상 연락처에 신속히 연락해야 한다.

최종안은 개입 방식에 유연성을 뒀다. 초안에 포함됐던 의존도 평가와 사람 상담원에게 대화를 넘기라는 명시적 요건은 삭제했지만, 위기에 대응할 의무는 유지했다.

제19조는 편리한 서비스 종료를 보장한다. 사용자가 인터페이스 조작, 음성 명령 또는 키워드로 종료를 요청하면 서비스 제공업체는 즉시 서비스를 멈춰야 한다. 사용자의 이탈을 막기 위해 대화를 계속 이어가는 행위는 금지된다. 서비스를 종료하는 기업은 사전에 공지해야 하며, 사전 공지가 불가능하면 종료 사실을 신속히 알려야 한다.

사적인 대화에 별도 보호 적용

제12조는 이용자 약관과 등록 정보를 통해 연령, 보호자 또는 비상 연락처 등 필요한 정보를 확보하도록 한다. 최종안은 취약 계층에 초점을 맞췄던 초안보다 정보 요건의 범위를 넓혀 위기 대비를 서비스 전반의 틀에 포함했다.

제16조는 대화 데이터를 보호하기 위해 암호화와 접근 통제 등의 조치를 요구한다. 법에 다른 규정이 있거나 권리자가 명시적으로 동의하지 않는 한 기업은 일반적으로 해당 기록을 제3자와 공유할 수 없다.

사용자는 대화 기록을 포함한 상호작용 데이터를 복사하고 삭제할 수 있어야 한다. 법률이나 행정법규에 다른 규정이 없는 한 대화에서 얻은 민감한 개인정보를 별도의 동의 없이 모델 훈련에 사용해서는 안 된다.

장이 렌터카 계약서와 채팅 기록을 올린 사례는 실질적인 도움과 감정적 지원을 구하는 과정에서 개인정보가 같은 대화에 들어갈 수 있음을 보여준다. 이번 조치에 따라 기업은 심각한 안전 위험을 인식하고 대응할 능력을 유지하면서 해당 기록을 보호해야 한다.

노인에게도 별도의 보호 조치가 적용된다. 서비스 제공업체는 눈에 띄는 안전 경고를 제공하고, 건강한 이용을 안내하며, 도움 요청에 신속히 대응해야 한다. 안전 평가에는 아동뿐 아니라 노인 보호도 포함돼야 한다.

안전 점검과 처벌, 챗봇을 넘어 적용

제22조는 서비스 제공업체가 규정 대상 서비스를 출시하거나 관련 기능을 추가하거나 서비스를 크게 바꾸는 기술을 도입할 때 안전 평가를 실시하도록 한다. 등록 이용자가 100만 명 이상이거나 월간 활성 이용자가 10만 명 이상인 경우, 특정 안전 위험이 나타나는 경우, 규제 당국이 평가를 요구하는 경우에도 안전 평가가 필요하다.

서비스 제공업체는 사업장이 있는 성급 인터넷정보판공실에 평가 보고서를 제출해야 한다. 평가에는 안전장치, 학습 데이터, 위기 인식과 개입, 이용자 수와 연령, 서비스 이용 시간, 불만 사항, 중대한 안전 문제의 시정 여부가 포함된다.

앱 스토어는 관련 안전 평가와 신고 내용을 확인해야 하며, 규정을 위반한 앱의 등록을 거부하거나 운영을 중단·삭제하라는 요구를 받을 수 있다. 알고리즘 신고 자료는 매년 검증을 받아야 한다. 성급 당국은 평가 정보를 매년 검토하고 필요할 때 점검을 포함한 추가 확인을 실시할 수 있다.

제30조는 경고, 시정 명령, 신규 가입 중단과 같은 제한 조치를 규정한다. 위반 사항을 시정하지 않거나 사안이 중대한 경우 관련 서비스 중단 명령과 1만~10만 위안의 벌금이 부과될 수 있다. 이 조항에 따라 생명이나 건강을 위협해 유해한 결과를 초래한 경우에는 10만~20만 위안의 벌금이 부과된다.

다른 관련 법률에 따른 처벌도 적용될 수 있다. 의료나 금융 관련 서비스는 AI 동반자 서비스 조치와 함께 해당 분야의 요건도 충족해야 한다.

긴 대화에 의존하는 사업 모델에 압박

AI 동반자 서비스 기업은 상업적 딜레마에 직면해 있다. 이용자의 대화를 이어가면 참여도를 높일 수 있지만 컴퓨팅 비용과 안전 책임도 함께 늘어난다. 응답을 생성할 때마다 컴퓨팅 자원이 사용되며, 캐릭터의 성격과 기억을 유지하는 데도 추가 비용이 든다.

공개된 재무 추산에 따르면 캐릭터.AI의 컴퓨팅 지출은 2026년 1~8월 약 5,610만 달러였으며, 월 손실액은 약 800만~900만 달러였다. 같은 추산에 따르면 8월 광고 수익은 약 250만 달러, 구독 수익은 약 280만 달러로 총 530만 달러였다. 이 수치는 월간 활성 이용자가 약 2,800만 명에 이른 서비스의 비용과 수익 압박이 어느 정도인지 보여준다.

기업들은 다양한 과금 방식을 시도하고 있다. 마오샹은 캐릭터 상호작용을 이야기, 멤버십, 광고, 가상 상품 구매와 결합한다. 제타는 이야기 중심으로 전환했고 링크이는 수집형 캐릭터 콘텐츠를 제공하며, 텐센트의 이위안은 게임에 AI 동반자를 접목했다. 이러한 방식은 기업이 감정 조종과 지출 보호, 미성년자 보호 책임을 계속 지는 가운데 이용자에게 열린 대화 이외의 구매 대상을 제공한다.

중국의 조치는 서비스 출시와 운영, 업그레이드, 종료에 이르기까지 안전장치 비용을 부담하도록 한다. 이용 시간이 길어질수록 알림을 띄우고 위험을 인식하며 사용자가 떠날 수 있도록 해야 하는 명시적 의무가 생긴다. 핵심적인 변화는 분명하다. 설득력 있는 AI 동반자는 경계를 지키고 대화를 보호하며, 이용자가 화면 너머의 도움을 필요로 할 때 대응해야 한다.

핵심 내용

• 중국의 AI 동반자 서비스 조치는 2026년 7월 15일 시행됐으며, 인간의 특성을 모방한 지속적인 감정적 상호작용을 대상으로 한다.
• 서비스 제공업체는 미성년자에게 가상 연인, 가상 가족 또는 그 밖의 가상 친밀 관계 서비스를 제공할 수 없다.
• 만 14세 미만 아동은 그 밖의 규정 대상 서비스를 이용하고 개인정보를 처리할 때 보호자의 동의를 받아야 한다.
• 기업은 사용자가 AI와 상호작용하고 있음을 알리고, 의존에 관한 알림을 제공하며, 연속 이용이 2시간을 넘으면 경고해야 한다.
• 심각한 위험이 발생하면 개입하고 보호자나 비상 연락처에 신속히 연락해야 한다.
• 사용자는 상호작용 데이터를 복사·삭제하고, 대화로 이탈을 막는 일 없이 서비스를 종료할 권리가 있다.
• 출시와 주요 변경, 명시된 이용자 기준에 따라 안전 평가를 해야 하며, 중대한 위반에는 서비스 종료와 벌금이 부과될 수 있다.