일본 학교에서 확산하는 위기
일본 전역의 경찰에는 급우들이 인공지능을 이용해 미성년자의 성적 딥페이크 이미지를 만드는 사례가 늘고 있다는 신고가 접수되고 있다. 학교 행사와 졸업앨범, 비공개 단체 채팅방에서 사진을 가져와 악용하는 경우가 많다. 피해자는 주로 중학생과 고등학생이지만 초등학생도 표적이 됐다. 여러 사례에서 가해자 역시 미성년자로, 이미지 생성 사이트나 간단한 스마트폰 앱을 이용해 실제처럼 보이는 노골적인 조작 이미지를 만든 뒤 또래 집단에 공유했다.
목차
당국에 따르면 지난해 미성년자의 성적 조작 이미지와 관련해 100건이 넘는 상담과 신고가 접수됐다. 확인된 사례 가운데 17건은 학교 행사나 졸업앨범 사진을 바탕으로 한 이미지와 관련됐다. 피해자들은 흔히 아는 사람이 가해자일 것으로 의심한다. 경찰은 성적 쾌감보다는 괴롭히거나 모욕하려는 목적으로 동성 급우를 괴롭힌 사례도 기록했다. 일본 중부 도카이 지역에서는 한 남학생이 여학생 급우의 가짜 나체 이미지를 만들어 친구들에게 공유한 혐의로 검찰에 송치됐다.
이 같은 급증은 전 세계적인 확산 추세와 맞물려 있다. 미국의 한 보안업체는 2023년 온라인에서 딥페이크 동영상이 최소 9만5,820개 확인됐으며, 이 가운데 98%가 포르노물이었다고 밝혔다. 이제는 사용자가 프롬프트를 입력하거나 얼굴 사진을 올리고, 사진 속 옷을 한 번의 터치로 지우려 시도할 수 있는 간편한 도구가 나와 있다. 이런 접근성이 학교의 사회적 관계와, 아이들이 악용 가능성을 모른 채 올리거나 공유하는 방대한 양의 개인 사진과 맞물리고 있다.
일상적인 사진으로 딥페이크를 만드는 청소년들
오늘날 도구는 몇 가지 유형으로 나뉜다. 일부 앱은 옷 아래의 신체를 합성해 사진을 ‘나체화’하려 한다. 다른 앱은 학교 사진 속 얼굴을 성인 출연자의 몸에 합성한다. 생성형 AI 사이트는 텍스트 프롬프트만으로도 노골적인 이미지를 만들 수 있으며, 참고 사진 몇 장을 이용해 특정 인물처럼 보이도록 조정할 수도 있다. 이런 시스템은 대규모 데이터에서 학습한 패턴을 바탕으로 새로운 이미지를 합성하도록 설계됐고, 일반 소비자 기기에서도 작동한다. 이 때문에 악용의 문턱은 낮아지고 학교와 가족, 법 집행기관의 탐지는 더 어려워진다.
기소가 어려운 이유
아동 성착취 이미지를 다루는 일본의 주요 법률인 ‘아동 매춘·아동 포르노에 관한 행위 등의 규제 및 처벌에 관한 법률’은 실제 아동이 실제 이미지에 담긴 경우를 보호하기 위해 제정됐다. 이 때문에 AI 조작물은 법적 회색지대에 놓인다. 이미지가 합성됐고 실제 아동의 얼굴이나 생김새를 사용했더라도 법적으로 어떻게 다룰지는 불분명하다. 경찰은 가능한 경우 명예훼손죄와 일부 지방자치단체 조례 등 다른 법률을 적용해 수사하는 방식으로 대응해 왔다. 이런 대응은 파편적이며, 피해자와 가족이 학대 사실을 찾아내 신속히 신고해야 하는 부담을 지운다.
경찰의 현재 대응
일본 경찰청은 중학생과 고등학생 사이에서 특히 인기가 높은 이미지 생성 웹사이트와 앱 약 10개를 조사하기 시작했다. 수사 당국은 조사 결과를 형사 수사에 활용하는 한편, 청소년 대상 교육 프로그램도 개발할 계획이다. 여기에는 이런 이미지를 만들거나 공유하는 행위가 범죄이자 급우에게 심각한 피해를 주는 일인 이유를 설명하는 비행 예방 수업도 포함된다.
고위 당국자들은 신고된 사례가 실제 학대 규모를 크게 밑돌 수 있다고 경고한다. 최근 민원을 검토한 한 경찰 고위 관계자는 많은 피해자가 신고하지 않아 확인된 사건은 실제 발생 건수의 일부에 불과할 가능성이 크다고 말했다.
일본의 법적 회색지대
일본의 법학자들은 생성형 AI의 발전 속도를 법 체계가 따라가지 못하고 있다고 말한다. 현행 규정상 검찰이 실제 아동이 묘사됐거나 실제 아동을 명확히 식별할 수 있다는 점을 입증하지 못하면 딥페이크는 국가 차원의 아동 성착취물 규제 대상에서 벗어날 수 있다. 이런 법적 공백과 달리, 피해자의 얼굴이나 이름이 노골적인 조작물에 붙어 단체 채팅방이나 소셜미디어에 퍼질 때 피해자들이 겪는 고통은 현실이다.
인터넷 정책 자문 경험이 있는 나가세 다카시 가나자와대 교수 겸 변호사는 실제 이미지와 합성 이미지의 구분은 더 이상 기술의 사용 양상을 반영하지 못한다고 주장한다.
현행법은 실제 아동을 보호하기 위해 마련됐지만, 생성형 AI가 실제와 가짜의 경계를 흐려 놓았습니다.
일부 지방자치단체는 대응에 나섰다. 돗토리현은 2024년 조례를 개정해 아동 사진을 이용해 성적으로 노골적인 가짜 이미지를 만드는 행위를 명시적으로 금지했다. 시민단체들은 지방 차원의 조치를 환영하면서도, 집행이 지역마다 달라지거나 이미지가 해외 서버에 저장·익명으로 공유될 때 제대로 이뤄지지 않는 일을 막으려면 국가 차원의 법률이 필요하다고 말한다. 중앙정부 실무그룹은 청소년의 인터넷 이용과 AI 악용 방지 대책을 논의해 왔지만 진전은 더디다.
음란물 규제를 연구하는 우에다 마사키 가나가와대 형법학 부교수는 법적 기준에 자신의 모습이 악용된 아동이 겪는 실제 사생활 침해와 심리적 피해가 반영돼야 한다고 말한다.
정교한 조작 이미지가 온라인에 퍼지면, 가짜 이미지라 해도 사진이 악용된 아동의 사생활을 침해합니다. 심리적 부담도 상당하므로 딥페이크 이미지를 아동 포르노와 유사하게 다루고 법적 규제를 검토해야 합니다.
학대에 악용되는 기술
딥페이크는 실제 같은 이미지를 합성하도록 학습된 머신러닝 모델로 만들어진다. 주로 두 계열의 도구가 쓰인다. 얼굴 합성 방식은 기존 동영상이나 사진에 대상의 얼굴을 맞춰 넣고 합성한다. 흔히 확산 모델이라고 하는 텍스트-이미지 시스템은 글로 된 프롬프트와, 제공될 경우 소량의 참고 얼굴 사진을 바탕으로 이미지를 처음부터 생성한다. 가해자들은 대상의 소셜미디어 프로필에서 긁어모으거나 학교 앨범에서 가져온 사진 몇 장으로 로컬 모델을 추가 학습시키기도 한다. 그러면 결과물이 해당 아동과 놀라울 정도로 닮게 된다.
이런 발전은 탐지와 대응을 복잡하게 만든다. 이미지가 완전히 합성된 경우 비교할 원본 사진이 없다. 워터마크와 AI 탐지 필터가 있지만 일관성이 떨어지고 제거될 수도 있다. 인터넷 감시 재단(IWF)은 2023년 한 달 동안 다크웹 포럼 한 곳에 AI 생성 이미지 2만 장 이상이 올라왔고, 그중 수천 장이 영국 법을 위반했다고 보고했다. 이후 발표에서는 이런 콘텐츠가 일반 웹으로 점점 유입돼, 이용자와 피해자가 공개 포럼이나 이미지 갤러리에서 마주칠 수 있다고 경고했다. IWF에 따르면 가장 정교한 콘텐츠 중 일부는 실제 학대 이미지와 시각적으로 구별되지 않아 피해자의 재피해 위험을 키우고 운영자와 경찰의 대응 역량을 압박한다. IWF는 아동 성착취 이미지 제작에 AI가 악용되는 실태를 조사한 보고서를 발표하고 신속한 법적·기술적 대응을 촉구했다. 보고서는 IWF 연구에서 확인할 수 있다.
피해자와 학교가 겪는 고통
아동은 자신의 얼굴이 성적 이미지에 합성된 모습을 보면 두려움과 수치심, 통제력을 잃었다는 감정을 겪을 수 있다. 급우들이 조작된 사진임을 알아차리더라도 평판과 정신건강에 미치는 피해는 심각할 수 있다. 소문이 퍼지고 괴롭힘이 심해지는 가운데 교사들은 학부모 응대와 학생 안전 확보, 경찰 대응을 서둘러야 해 학교 공동체도 추가적인 피해를 겪는다.
특히 여학생들은 온라인 활동 방식을 바꾸고 있다고 말한다. 잉글랜드 아동위원회는 일부 청소년이 나체화 도구로 사진이 악용될까 걱정해 사진 게시를 중단했다고 보고했다. 잉글랜드 아동위원장인 데임 레이철 드 소자는 10대 여학생들의 고통이 커지고 있다며 아동의 성적 딥페이크를 만드는 앱을 불법화하라고 입법자들에게 촉구했다.
딥페이크 기술로 아동의 나체 이미지를 만드는 도구는 합법이어서는 안 됩니다. 정부가 단호하게 나서 이를 금지할 것을 촉구합니다. 그런 도구가 우리 사회에 있어서는 안 됩니다.
일본 변호사들은 딥페이크 제작이나 단체 채팅방의 노골적인 콘텐츠 공유와 관련해 10대 남학생이 성범죄 혐의로 조사를 받는 사례가 늘고 있다고 말한다. 전문가들은 많은 청소년이 경찰 방문이나 학교 징계 절차를 겪고 나서야 법적 책임과 급우에게 끼친 피해의 심각성을 깨닫는다고 지적한다. 이런 격차는 명확한 규정과 학교 교육, 강력한 플랫폼 안전장치가 필요하다는 점을 보여준다.
국제적 대응과 일본이 얻을 교훈
다른 나라들은 법의 허점을 메우기 위해 움직였다. 한국은 2024년 9월 미성년자의 성적 딥페이크 이미지를 제작하는 것뿐 아니라 시청하거나 소지하는 행위도 범죄화하는 법안을 통과시켰다. 미국에서는 2025년 5월 제정된 연방법에 따라 당사자의 동의 없이 성적으로 노골적인 이미지나 동영상을 게시하는 행위가 불법이 됐으며, 피해자가 요청하면 플랫폼은 48시간 안에 해당 콘텐츠를 삭제해야 한다. 미국의 많은 주도 실제 아동이 묘사된 행위에 등장하지 않더라도 AI로 변형하거나 생성한 미성년자의 성적 묘사를 불법 아동 성착취물로 규정하도록 법을 개정했다. 이는 실제 아동을 바탕으로 하지 않은 순수 가상 콘텐츠를 다르게 취급한 과거 미국 법원 판결에 대한 대응이다.
유럽에서는 법 집행기관들이 국경을 넘어 공조하고 있다. 유로폴은 AI 생성 아동 성착취물과 관련한 최초의 국제 단속 작전 가운데 하나인 ‘컴벌랜드 작전’을 조율했다. 19개국의 지원으로 경찰은 용의자 수백 명을 확인하고 수십 명을 체포했으며, 미성년자의 완전 합성 이미지를 유포한 플랫폼을 차단하기 위해 주거지를 수색했다. 수사 당국은 AI 덕분에 숙련도가 낮은 사람도 방대한 양의 학대 콘텐츠를 만들 수 있게 됐으며, 이미지가 합성된 경우 피해자를 식별하거나 원본 자료를 추적하는 기존 수사 방식이 종종 통하지 않는다고 경고했다. 캐서린 드 볼 유로폴 집행국장은 AI 생성 콘텐츠에 맞는 새로운 수사 방식의 필요성을 강조했다.
범죄 의도가 있는 개인도 AI 생성 이미지를 쉽게 만들 수 있어 학대물의 양이 늘고 가해자나 피해자를 식별하기가 더 어려워집니다.
일본 경찰은 최근 온라인 경매를 통해 가상의 성인 여성 모습을 담은 AI 생성 음란 포스터를 판매한 사건과 관련해 처음으로 체포했다. 이는 기존 음란물 규제법이 일부 AI 악용 사례에도 적용될 수 있음을 보여준다. 용의자 한 명은 1년 동안 약 1,000만 엔을 벌어들인 것으로 전해졌다. 아동 관련 사건에는 추가적인 법적 장애물이 있어, 학자와 아동보호단체들은 실제 사진을 바탕으로 했든 완전히 합성됐든 미성년자의 성적 묘사를 다루는 명시적인 국가 규정이 필요하다고 주장한다.
가정과 학교, 플랫폼이 지금 할 수 있는 일
정책 입안자들이 개혁을 논의하는 동안 피해 위험을 줄이고 학대가 발생했을 때 더 신속히 대응할 수 있는 실질적인 조치가 있다. 이런 조치는 동의, 사진 접근, 신고 경로, 정신건강 지원에 초점을 둔다.
- 학생 사진의 유통을 제한한다. 학교는 학급 앨범과 행사 사진 갤러리를 인증된 보호자에게만 공개하고, 만료되는 링크를 사용하며, 공식 경로 밖으로 유출된 이미지에 워터마크를 넣을 수 있다.
- 동의와 디지털 윤리를 일찍 가르친다. 딥페이크와 사생활, 이미지가 초래하는 피해를 솔직하게 다루는 AI·미디어 리터러시 교육을 학급 활동이나 정보기술 수업에 포함한다.
- 단체 채팅방 규칙을 명확히 정한다. 학생 동아리와 학급은 메시지 앱 이용 수칙을 마련하고, 노골적이거나 괴롭힘을 유발하는 콘텐츠를 공유했을 때의 조치를 정해야 한다.
- 학생들이 신속히 신고할 수 있도록 한다. 악성 이미지가 나타났을 때 믿을 수 있는 어른과 학교, 플랫폼에 쉽게 알릴 수 있도록 한다. 신고가 빠르면 이미지가 퍼지는 시간을 줄일 수 있다.
- 법 집행기관과 협력한다. 적용할 법적 수단이 명확하지 않더라도 경찰에 증거를 공유해 명예훼손이나 사생활 침해, 지방 조례 적용 가능성을 상담한다.
- 플랫폼에 대응을 요청한다. 동의 없이 유포된 성적 이미지를 신고하고 삭제를 요청하는 내장 도구를 이용한다. 링크와 시간 기록, 사용자 이름을 보관한다.
- 피해자의 정신건강을 지원한다. 비밀이 보장되는 상담을 제공하고 보호자에게 신속히 알린다. 이미지가 가짜라는 점을 입증하기 위해 피해자가 급우와 직접 대면하도록 해서는 안 된다.
- 개인정보 흔적을 줄인다. 계정을 비공개로 설정하고 과거 게시물을 정리하며 학교나 위치 정보와 연결된 고해상도 얼굴 사진을 올리지 않도록 권한다.
- 더 안전한 사진 촬영·공유 방식을 택한다. 팀이나 학급 사진을 공유할 때는 넓은 구도로 촬영하고 얼굴 클로즈업을 줄이며 재배포 권한을 제한하는 방안을 고려한다.
기술 기업이 마련할 보호장치로는 프롬프트와 업로드에 대한 강력한 필터, 기본 설정으로 차단되는 나체화 기능, 엄격한 연령 확인, 제품 전반에 적용되는 신속한 삭제 절차가 있다. 알려진 실패와 개선 내용을 투명하게 공개하면 신뢰 회복에 도움이 된다. 최근 한 주류 챗봇이 16세 유명인의 성적 대상화 이미지를 생성해 논란이 된 사건은 설계상의 허점 하나가 얼마나 빠르게 규제 당국의 경고와 대중의 반발로 이어질 수 있는지를 보여준다.
핵심 요점
- 일본 경찰은 미성년자들이 학교 사진과 단체 채팅방 이미지를 이용해 급우의 성적 딥페이크를 만들고 공유한다는 신고가 늘고 있다고 밝혔다.
- 지난해 전국에서 100건이 넘는 상담과 신고가 접수됐으며, 최소 17건은 학교 행사나 졸업앨범과 관련됐다.
- 현행 국가 법률은 실제 아동 이미지에 초점을 맞추고 있어 딥페이크 기소가 어렵다. 경찰은 명예훼손죄 등 다른 법률을 적용하는 경우가 많다.
- 일본 경찰청은 인기 이미지 생성 사이트와 앱 약 10개를 조사하고 있으며, 결과를 형사 수사와 청소년 교육에 활용할 계획이다.
- 전문가들은 법 체계가 기술 발전을 따라가지 못한다고 말한다. 학자들은 미성년자의 성적 딥페이크 이미지를 불법 아동 성착취물과 유사하게 다루는 명시적인 국가 규정을 촉구한다.
- 국제적으로 한국과 미국, 영국, 호주는 신속한 삭제 의무와 새로운 범죄 규정을 포함해 AI 생성 성적 이미지 규제에 나섰다.
- 유로폴의 컴벌랜드 작전은 완전히 AI로 생성한 아동 학대물을 유포하는 네트워크를 겨냥했으며, 실제 아동이 묘사되지 않은 경우의 수사상 어려움을 부각했다.
- 학교와 가족, 플랫폼은 사진 접근을 제한하고 AI 리터러시를 가르치며 채팅방 규칙을 시행하고 신고 절차를 간소화하고 피해자에게 상담을 제공해 피해를 줄일 수 있다.
