탐지 속도 빨라졌지만 콘텐츠 삭제는 여전히 과제
한국의 디지털성범죄피해자지원센터는 직원들이 의심 콘텐츠를 찾아 삭제를 요청할 수 있도록 돕는 인공지능 시스템을 활용해 4월부터 9월까지 아동 성착취물 9만6,210건을 확인했다. 여성가족부는 모니터링 담당자 1인당 일일 탐지 건수가 시스템 도입 전 20.8건에서 202건으로 늘어 약 9.7배 증가했다고 밝혔다.
목차
4월 도입된 이 시스템은 소셜미디어와 온라인 커뮤니티, 랜덤 채팅 애플리케이션을 24시간 검색한다. 직원들은 결과를 검토한 뒤 플랫폼에 삭제를 요청한다. 직원들이 웹사이트를 직접 검색하고 보고서를 수작업으로 작성해야 했던 업무를 이제 훨씬 빠르게 처리할 수 있다.
이 수치는 센터가 자료를 찾아 신고하는 역량이 크게 높아졌음을 보여준다. 그러나 웹사이트가 실제 조치에 나서게 하는 것은 별개의 과제다. 센터에 따르면 2025년 삭제 요청의 28.5%가 이행되지 않았다. 서버 위치를 확인할 수 있었던 웹사이트 가운데 최소 95.5%는 해외에 서버를 두고 있었다.
피해자에게 실질적인 어려움은 최초 삭제 요청 이후에도 이어진다. 이미지가 복사돼 다시 업로드될 수 있어 반복 검색과 지속적인 지원이 필요하다. 디지털성범죄피해자지원센터는 모니터링과 삭제 지원에 더해 법적 대응 관련 도움도 제공한다.
한국의 사례는 같은 기술이 두 가지 용도로 쓰인다는 점도 보여준다. 인공지능은 흔히 딥페이크라고 불리는 조작 성적 이미지를 만들 수 있는 한편, 탐지 시스템은 직원들이 이런 자료를 식별하고 더 빠르게 대응하도록 도울 수 있다. 의심되는 학대물을 검토할 때나 피해자를 지원할 때 모두 사람의 판단이 과정에 남아 있다.
국가 시스템은 어떻게 작동하나
센터의 시스템은 모니터링 업무에서 추린 약 220개 키워드를 활용해 게시물을 수집한다. 텍스트와 이미지를 함께 분석한 뒤 평가 결과와 그 근거를 직원에게 제시한다. 최종 신고 여부는 직원이 결정한다.
직원이 신고를 승인하면 시스템은 해당 플랫폼이나 기관이 요구하는 정보를 준비한다. 현재 삭제 요청을 처리하는 데는 약 1분 이하가 걸린다. 이는 요청서를 준비하고 처리하는 데 필요한 시간이며, 이후 웹사이트가 응답해 콘텐츠를 삭제해야 한다.
이미지는 기본적으로 흐리게 표시되며, 직원은 판단에 필요한 경우에만 이미지를 선명하게 확인한다. 이를 통해 검토 절차를 유지하면서 충격적인 자료에 반복적으로 노출되는 일을 줄인다. 센터는 자체 데이터베이스를 활용해 시스템을 학습시켜 탐지 정확도도 높일 계획이다.
김미순 디지털성범죄피해자지원센터장은 자동화가 업무를 어떻게 지원하는지 설명했다.
자료의 유통 여부를 탐지하는 단계부터 삭제 요청을 제출하는 단계까지, 시스템이 대부분의 과정을 자동으로 처리해 각 단계마다 사람의 개입이 필요하지 않게 됐습니다.
센터는 구글, X, 블루스카이, 텔레그램 등을 포함한 14개 플랫폼에 데이터 수집기를 설치했다. 이 수집기는 평가 대상 자료를 자동으로 모은다. 이에 따라 직원들은 수작업 검색에 쓰는 시간을 줄이고 검토와 피해자 지원에 더 많은 시간을 할애할 수 있다.
증가 폭을 수치로 보면
센터는 2025년 한 해 동안 총 4만5,438건을 처리했다. 이듬해 4월부터 9월까지 처리한 9만6,210건은 그 연간 수치의 약 2.1배로, 6개월 만에 달성한 규모다. 모니터링 담당자 1인당 일일 처리량은 20.8건에서 202.1건으로 181.3건 증가했다.
센터의 지원을 받은 피해자는 2020년 4,973명에서 2025년 1만637명으로 늘었다. 5년간 5,664명, 약 114% 증가한 수치다. 피해자 수는 지원을 받은 사람을 집계한 것이며, 처리 건수는 자료와 삭제 요청에 대한 센터의 업무량을 나타낸다. 콘텐츠가 유통되면서 한 사람의 사건에 반복적인 조치가 필요할 수 있다.
여성가족부는 2027년 모니터링 대상 플랫폼을 139개로 확대할 계획이다. 부처 발표는 현재 대상이 74개 플랫폼이라고 밝혔지만, 현재 총 79개라는 수치도 제시된 바 있다. 센터는 자동 수집 대상 플랫폼을 14개에서 139개로 늘리는 계획을 별도로 설명한다. 공개된 수치만으로는 모니터링 대상 확대와 수집기 설치의 정확한 관계를 알기 어렵다.
여성가족부가 제시한 74개를 기준으로 하면 139개까지 65개 플랫폼이 추가돼 약 88% 늘어난다. 대상이 넓어지면 학대물이 나타날 수 있는 더 많은 공간이 모니터링에 포함되는 동시에 직원들이 평가해야 할 자료도 늘어난다.
지원 대상의 다수는 청소년과 20대
2025년 디지털성범죄피해자지원센터의 지원을 받은 사람 가운데 77.6%는 10대와 20대였다. 10대가 28.5%, 20대가 49.1%를 차지했다. 센터는 20세 미만 3,052명을 지원했으며, 이 가운데 10세 미만 여아는 20명이었다.
센터는 가해자들이 채팅 애플리케이션을 통해 잠재적 피해자에게 접근해 빠르게 신뢰를 쌓은 뒤 착취로 이어지는 양상도 확인했다. 아동은 학대물이 유통되고 있다는 사실을 모를 수 있고, 도움을 요청하기 두려워할 수도 있다. 이에 센터는 피해자가 요청하지 않은 경우에도 아동 성착취물을 선제적으로 검색한다.
경찰 통계는 온라인 성범죄의 규모를 별도로 보여준다. 2024년 11월부터 2025년 10월까지 한국 경찰은 온라인 성범죄 사건 용의자 3,557명을 검거했다. 용의자의 거의 절반은 10대였으며, 딥페이크 관련 범죄는 전체 사건의 35.2%를 차지했다.
딥페이크는 인공지능으로 이미지와 영상 또는 음성을 조작하거나 생성해 특정 인물이 실제로 하지 않은 행동을 하거나 하지 않은 말을 하는 것처럼 보이게 만든 자료다. 성범죄에 쓰이는 경우 조작된 자료에 피해자의 얼굴을 성적 콘텐츠와 합성할 수 있다. 김 센터장은 센터 시스템이 육안으로 식별하기 어려운 딥페이크도 찾아낼 수 있다고 말했다.
서울시, 별도 시스템으로 신고 처리 단축 사례 제시
서울시는 2023년 자체 AI 모니터링 시스템을 도입하고 2025년 자동 신고 기능을 발표했다. 서울시는 5월 23일 발표에서 이전에는 2시간 30분에서 3시간 걸렸던 탐지와 식별을 6분 만에 마칠 수 있다고 밝혔다.
서울시 시스템은 상시 모니터링을 하고 보고서를 작성하며, 호스팅 웹사이트에 자료 삭제를 요청하는 이메일 초안을 만든다. 삭제 지원 담당관이 초안을 검토한 뒤 발송한다. 해외에서 운영되는 웹사이트에 요청을 전달하기 위해 영어, 중국어, 일본어, 러시아어 등 7개 언어로 이메일을 작성할 수 있다.
서울시는 더 한정된 처리 과정에 대한 수치도 제시했다. 키워드 입력과 결과 생성에 걸리는 시간이 3분으로, 담당자가 수작업으로 처리할 때 평균 2시간 걸렸던 것과 비교된다. 시는 이를 97.5% 단축한 것으로 계산했다. 6분과 3분은 처리 과정 중 서로 다른 업무를 가리킨다.
서울시 AI 시스템이 처리한 삭제 사례는 2022년 2,509건에서 1만4,256건으로 늘어 약 468% 증가했다. 서울디지털성범죄안심지원센터는 3년간 3,650명을 지원하고 수사·법률 지원, 심리 상담, 의료 지원 등을 포함해 총 6만4,677건의 지원 사례를 기록했다.
아동·청소년 지원 사례는 2022년 50건으로 전체의 16.2%를 차지했다. 2024년에는 624건, 22.1%로 늘었다. 사례 수는 약 12.5배가 됐고 전체 비중은 5.9%포인트 상승했다. 서울시의 지자체 서비스와 국가 센터는 별도의 시스템으로 운영되므로 두 기관의 활동 수치는 서로 다른 사업에 해당한다.
삭제 요청만으로 학대가 끝나지 않는 이유
2025년 센터의 삭제 요청 중 28.5%가 이행되지 않았다는 것은 요청 4건 중 1건 이상이 원하는 삭제 조치로 이어지지 않았다는 뜻이다. 김 센터장은 연락을 받은 웹사이트의 4분의 1 이상이 아예 응답하지 않았다고도 말했다. 일부 불법 사이트는 접속 경로를 바꿔 차단을 피하려 한다.
해외에 서버를 둔 경우에는 업무가 한층 복잡해진다. 센터는 경찰과 수사기관은 물론 해외 지원단체, 대사관과도 협력한다. 적절한 언어로 요청을 보내면 플랫폼이 조치에 나서는 데 도움이 될 수 있지만, 협조하지 않는 운영자에 대한 집행에는 센터를 넘어선 협력이 필요하다.
여성가족부와 경찰, 방송통신심의위원회는 학대물 유통을 차단하는 데 초점을 맞춘 피해자 지원 공동 대응단을 구성했다. 추진 중인 조치에는 서버 단계에서 삭제를 추진하거나 불법 웹사이트를 폐쇄하는 방안이 포함된다.
김 센터장은 삭제 이후에도 콘텐츠가 복사돼 다시 유통될 수 있어 지속적인 지원이 필요하다고 강조해 왔다. 따라서 피해자를 지원하려면 새로 올라온 자료를 검색하고 추가 삭제 요청을 하며, 장기간 법률 또는 심리 지원을 제공해야 할 수 있다.
다음 목표는 대화 속 그루밍 탐지
디지털성범죄피해자지원센터는 대화가 전개되는 양상을 분석해 온라인 그루밍을 탐지하는 기술을 개발하고 있다. 그루밍은 성인이거나 다른 가해자가 청소년의 신뢰를 쌓아 성적 착취로 유인하는 과정이다.
여기서는 키워드 검색에 한계가 있다. 개별 메시지에는 평범한 표현이 담길 수 있기 때문이다. 외모에 대한 언급이나 나이를 묻는 말은 사적인 대화나 성적 행위를 강요하는 말이 뒤따를 때 더 우려스러운 대화의 일부가 될 수 있다. 개발 중인 기술은 고립된 단어에만 의존하지 않고 대화의 순서와 맥락을 평가할 예정이다.
센터는 취약한 청소년에게 지원 서비스 정보를 제공하는 AI 챗봇도 개발하고 있다. 두 사업 모두 이미 온라인에 유통 중인 자료를 찾는 데서 업무 범위를 넓힌다. 하나는 착취로 이어질 수 있는 접근을 알아보는 것이고, 다른 하나는 도움을 더 쉽게 찾도록 하는 것이 목표다.
대화 분석 도구와 챗봇의 도입 시기는 발표되지 않았다. 일정이 제시된 확대 목표는 2027년이며, 센터는 그때까지 AI 모니터링 범위를 139개 플랫폼으로 넓힐 계획이다.
지원의 책임은 여전히 사람에게
디지털성범죄피해자지원센터는 2018년 운영을 시작했으며, 성폭력 예방과 피해자 보호 관련 법률이 개정된 뒤 현재 이름으로 바뀌었다. 센터는 한국여성인권진흥원 산하에 있으며, 4개 팀과 정원 43명으로 운영된다.
자동화는 직원들이 시간을 쓰는 방식을 바꾼다. 상시 검색과 결과 분류, 요청서 작성은 소프트웨어가 일부 처리할 수 있다. 그러나 어떤 조치를 할지 결정하고, 법적 구제 절차를 밟도록 돕고, 고통을 겪는 사람에게 대응하는 일에는 여전히 직원이 필요하다.
박광수 한국여성인권진흥원장은 지원 서비스에서 사람의 역할을 다음과 같이 설명했다.
어떤 인공지능이나 기술을 활용하든 피해자 지원은 사람으로 시작해 사람으로 끝나야 합니다.” 박 원장은 말했다. “그리고 그 사이 수많은 단계에도 사람이 필요합니다.
흐림 처리된 미리보기, 자동화된 서류 작성, 빨라진 자료 수집은 반복 업무와 유해 이미지 노출을 줄여 이러한 접근을 뒷받침한다. 센터의 확대가 성과를 내기 위해서는 더 많은 자료를 찾아내는 동시에, 이에 대응하는 데 필요한 사람의 검토와 지원을 유지해야 한다.
대응 체계의 발전 과정
한국의 국가 및 지자체 사업은 여러 단계를 거쳐 발전해 왔다. 각 사업의 연혁을 보면 피해자 지원이 자동 검색 및 신고와 함께 확대돼 왔음을 알 수 있다.
- 2018년: 디지털성범죄피해자지원센터 운영 시작.
- 2023년: 서울시, AI 모니터링 시스템 도입.
- 2024년 11월~2025년 10월: 경찰, 온라인 성범죄 용의자 3,557명 검거.
- 2025년 5월 23일: 서울시, 삭제 이메일 발송 전 담당자가 검토하는 자동 신고 기능 발표.
- 2025년: 디지털성범죄피해자지원센터, 피해자 1만637명 지원 및 4만5,438건 처리.
- 2026년 4~9월: 디지털성범죄피해자지원센터, 4월 AI 시스템 도입 후 9만6,210건 처리.
- 2027년: 디지털성범죄피해자지원센터, AI 모니터링 범위를 139개 플랫폼으로 확대할 계획.
다음으로 예정된 확대는 모니터링 대상 플랫폼과 관련돼 있다. 실질적인 효과는 의심 자료가 얼마나 빨리 사람의 검토를 거치는지, 그리고 플랫폼과 관계 기관이 후속 요청에 얼마나 효과적으로 대응하는지에 달려 있다.
핵심 내용
- 디지털성범죄피해자지원센터는 4월부터 9월까지 아동 성착취물 9만6,210건을 확인했다.
- 모니터링 담당자 1인당 일일 탐지 건수는 20.8건에서 202.1건으로 늘어 이전의 약 9.7배가 됐다.
- 삭제 요청을 제출하기 전에 직원이 의심 자료를 검토한다.
- 2025년 센터의 삭제 요청 중 28.5%는 이행되지 않았다.
- 국가 차원의 지원을 받은 피해자 가운데 10대와 20대가 77.6%를 차지했다.
- 서울시는 별도 AI 시스템을 운영하며 담당자 검토를 위해 7개 언어로 삭제 요청 이메일 초안을 작성한다.
- 센터는 2027년 모니터링 범위를 139개 플랫폼으로 넓힐 계획이며, 그루밍 식별과 지원 정보 제공 기술도 개발하고 있다.






