딥페이크 콘텐츠 1만3,883건 삭제…플랫폼에 연말까지 강화된 대응 요구
말레이시아 통신멀티미디어위원회(MCMC)의 삭제 요청과 대중의 신고에 따라 딥페이크 콘텐츠 1만3,883건이 삭제됐으며, 이 가운데 정치 지도자가 등장하는 콘텐츠는 1,178건이었다고 파미 파질 통신부 장관이 11월 17일 의회에서 밝혔다.
목차
삭제 건수 집계 기간은 2024년 1월 1일부터 2026년 10월 31일까지다. 정부는 플랫폼들이 이용자에게 같은 콘텐츠를 계속 신고하도록 두는 대신, 반복적으로 올라오는 딥페이크와 허위 콘텐츠에 자동 대응할 수 있는 체계를 2026년 말까지 마련하도록 요구하고 있다.
파미 장관은 플랫폼이 위험 완화 규정을 준수하지 않을 경우 위반 건당 100만 링깃에서 1,000만 링깃의 벌금을 부과받을 수 있다고 말했다. 6월 1일 발효된 이 규정에 따라 허가받은 사업자는 유해 콘텐츠를 식별·평가하고 대응해야 하며, 인공지능으로 제작하거나 조작한 특정 콘텐츠에 명확한 표시를 하고 신고 도구를 쉽게 이용할 수 있도록 해야 한다.
이번 수치는 정치인 사칭이 더 광범위한 문제의 일부임을 보여준다. 정치 지도자가 등장하는 콘텐츠는 삭제된 1만3,883건의 약 8.5%, 즉 12건 중 1건꼴이었다. 나머지 1만2,705건은 해당 범주에 속하지 않았지만, 파미 장관은 구체적인 내용별 분류를 공개하지 않았다.
소셜미디어 이용자에게 현실적인 우려는 간단하다. 익숙한 얼굴이나 목소리가 당사자가 실제로 말하거나 행동한 적 없는 장면을 담은 그럴듯한 영상에 등장할 수 있다는 것이다. 정부는 삭제 요청, 플랫폼 규정, 형사 수사와 함께 정보를 공유하기 전에 사실 여부를 확인하라고 촉구하는 대국민 캠페인을 병행하고 있다.
플랫폼이 바꿔야 할 점
파미 장관은 효과적인 플랫폼 대응 없이 반복되는 신고가 정부와 MCMC가 직면한 핵심 과제라고 지적했다. 같은 허위 영상이 다른 게시물이나 계정을 통해 다시 올라오면 한 번 삭제하는 것만으로는 문제가 해결되지 않는다.
2026년 말까지로 정한 시한은 플랫폼들이 반복 유포에 자동으로 대응하도록 유도하기 위한 것이다. 파미 장관은 알로르스타르 지역구의 국민전선연합(PN) 소속 아프난 하미미 타이브 아잠우딘 의원이 딥페이크를 게시 전에 심사하고 제작자를 식별하는 방안에 관해 보충 질의를 하자 이 내용을 발표했다.
위험 완화 규정은 2025년 온라인 안전법에 근거한다. 허가받은 사업자는 유해 콘텐츠를 식별하고, 그로 인한 위험을 평가하며, 대응하는 체계를 마련해야 한다. 표시 의무는 진짜 콘텐츠로 오인될 수 있는 AI 생성·조작 이미지와 음성, 영상에 적용된다.
파미 장관은 질의응답 시간에 표시 의무를 설명했다.
그는 “이 규정은 진짜 콘텐츠로 오인될 수 있는 AI 생성·조작 이미지, 음성 또는 영상에 명확한 표시를 하도록 요구한다”고 말했다.
표시는 시청자에게 영상이 생성되거나 변경됐음을 알린다. 삭제는 게시 중단이 필요한 콘텐츠에 대응하는 조치다. 또한 규정은 접근하기 쉬운 신고 도구를 마련하도록 해 이용자가 유해 콘텐츠를 접했을 때 플랫폼에 알릴 수 있도록 한다.
규정은 선거 기간에도 각별한 주의를 요구한다. 플랫폼은 위험 평가에 선거 기간 중 위험이 커지는 점을 반영해야 한다. 말레이시아 제16대 총선은 2028년 2월까지 치러져야 하므로 선거운동에 앞서 대비하는 일이 논의의 시급한 과제가 되고 있다.
최근 집계 전 신고 급증
테오 니 치엉 통신부 차관은 앞서 하원에서 MCMC가 접수한 딥페이크 관련 신고가 2024년 917건에서 2025년 3,612건으로 늘었으며, 2026년 6월 15일까지 7,967건이 추가로 접수됐다고 밝혔다.
2025년 신고 건수는 2024년의 거의 네 배였다. 2026년 6월 15일까지 접수된 건수는 이미 2025년 연간 총계의 두 배를 넘어섰다. 이런 급증은 플랫폼이 신고를 더 신속히 처리하고 반복 게시를 막아야 한다는 압박이 커진 이유를 보여준다.
신고 건수는 MCMC에 접수된 신고를 집계한 것이고, 최근 삭제 수치는 사업자가 삭제한 콘텐츠 항목을 집계한 것이다. 신고, 게시물, 형사 수사는 서로 다른 단위다. 하나의 영상이 여러 게시물로 유포될 수 있고, 하나의 수사에서 여러 콘텐츠와 관련된 행위를 살펴볼 수도 있다.
파미 장관은 앞서 2025년 1월 1일부터 2026년 9월 15일까지 정치 지도자가 등장하는 게시물 713건이 삭제됐다고 밝혔다. 최근 집계된 1,178건은 기간이 더 길어 2024년 1월부터 2026년 10월까지를 포함한다.
대응과 관련한 주요 날짜는 다음과 같다.
- 2024년 1월 1일: 최근 삭제 건수 집계 기간 시작.
- 2026년 6월 1일: 위험 완화 규정 발효.
- 2026년 6월 15일: 연간 딥페이크 신고 건수 7,967건 기록.
- 2026년 10월 31일: 삭제 콘텐츠 1만3,883건으로 최근 집계 마감.
- 2026년 11월 17일: 파미 장관이 의회에서 수치와 플랫폼 의무를 설명.
- 2026년 말: 플랫폼의 자동 대응 체계 마련 시한.
- 2028년 2월: 제16대 총선 실시 시한.
AI 오용 수사로 벌금·경고 조치
MCMC는 1998년 통신멀티미디어법 제233조에 따라 AI 오용 관련 사건 61건을 수사했다. 파미 장관의 집행 요약 자료에는 수사 기간이 2025년 1월 1일부터 2026년 10월 31일까지로 기재됐지만, 같은 건수의 기간을 2026년 1월 1일부터 10월 31일까지라고도 인용했다.
이 가운데 10건은 법원에 회부됐다. 6건은 판결이 나와 총 1만9,500링깃의 벌금이 부과됐고, 4건은 법원에 계류 중이다. 계류 사건의 심리 날짜는 공개되지 않았다.
다른 7건에는 총 75만5,000링깃의 합의금 납부 제안이 이뤄졌고, 경고장 17건이 발부됐다. 합의금은 집행 절차를 통해 제시되는 금전적 합의로, 법원이 부과하는 벌금과는 별개다.
파미 장관은 추가 설명에서 나머지 27건을 수사가 진행 중인 사건과 추가 조치가 필요하지 않은 것으로 분류된 사건, 두 범주로 나눴다. 각 범주에 해당하는 건수는 밝히지 않았다.
장관은 콘텐츠가 법률상 범죄 구성 요건을 충족할 경우 제233조를 적용할 수 있다고 말했다. 온라인 안전법과 관련 규정은 플랫폼의 책임을 다루는 반면, 통신멀티미디어법에 따른 수사는 범죄 혐의를 조사한다. 이에 따라 정부는 유해한 온라인 콘텐츠와 그 배후 행위 모두에 대응할 수 있다.
정치인의 목소리를 모방하기 쉬운 이유
말레이시아 사이버소비자협회(MCCA)의 시라즈 잘릴 회장은 후보자가 연설하는 짧은 녹음과 스마트폰 또는 기본 사양의 노트북만으로도 그럴듯한 정치 딥페이크를 만들 수 있다고 경고했다.
그는 제작자에게 필요한 장비와 자료가 얼마나 적은지 설명했다.
그는 “스마트폰이나 기본 사양의 노트북, 후보자의 공개 연설에서 가져온 15~30초 분량의 음성 클립, 시중에서 구할 수 있는 생성형 AI 도구만 있으면 누구나 몇 분 만에 무료로, 또는 몇 링깃만 내고 목소리를 복제하고 입 모양을 동기화할 수 있다”고 말했다.
음성 복제는 소프트웨어를 이용해 특정인의 목소리를 흉내 내는 기술이다. 여기에 입 모양 동기화를 적용하면 얼굴이 조작된 말을 하는 것처럼 보이게 할 수 있다. 시청자는 얼굴과 목소리를 모두 알아볼 수 있어 허위 발언을 익숙하고 믿을 만하게 느낄 수 있다.
시라즈 회장은 정치인들이 연설과 생중계, 기자회견을 통해 방대한 영상 자료를 제공한다고 말했다. 이런 공개 녹화 자료는 가짜 영상을 만드는 이들에게 당사자의 목소리와 표정, 움직임을 보여주는 뚜렷한 본보기가 된다.
정치 관련 영상 중에는 유머를 위해 제작된 것도 있지만, 구체적인 허위 주장을 담은 것도 있다. 믈라카주 선거운동 기간 바리산 나시오날 부의장 모하마드 하산은 자신이 모든 사람에게 2만5,000링깃을 주겠다고 약속하는 모습이 담긴 AI 영상이 틱톡에 올라왔다며 유권자들에게 주의를 당부했다. 정치인이 한 적 없는 약속을 담은 영상은 금전 지원이나 정책에 대한 기대를 부추길 수 있다.
선거 기간 신속한 삭제가 중요한 이유
시라즈 회장은 플랫폼이 영상이 확산된 뒤 신고에 대응하는 방식에 지나치게 의존하고 있다고 지적했다. 이용자들이 신고하고 관리자가 검토하는 동안 영상은 몇 시간에서 며칠까지 온라인에 남아 있을 수 있다.
그사이 사람들은 화면을 녹화해 왓츠앱이나 텔레그램의 비공개 그룹에 복사본을 전달할 수 있다. 원본 게시물을 삭제해도 다른 곳에서 복사본이 계속 유통될 수 있다.
MCCA 회장은 선거운동 중 신속한 대응이 왜 중요한지 설명했다.
그는 “짧은 기간에 집중적으로 치러지는 선거운동에서는 속도가 무엇보다 중요하다”고 말했다.
시라즈 회장은 이용자에게 게시물이 AI로 생성됐다고 직접 표시하도록 맡기는 대신, 콘텐츠가 올라올 때 플랫폼이 자동 탐지와 눈에 띄는 워터마크를 활용해야 한다고 촉구했다. 워터마크는 시청자가 합성 콘텐츠임을 알아볼 수 있도록 돕는 표시다.
그는 전담 선거 대응팀을 꾸리고, 선거관리위원회와 후보자 또는 공인된 팩트체커가 신고한 선거 관련 딥페이크를 확인한 뒤 2시간 이내에 삭제하도록 시한을 정하자고도 제안했다. 출처가 확인되지 않은 정치 콘텐츠를 유료 홍보하거나 추천 시스템으로 확산시키는 행위를 금지해야 한다고 촉구했다.
이런 조치는 MCCA의 제안이다. 정부는 자동 대응 체계 마련 시한을 정하고 현행 규정상 의무를 설명한 반면, 시라즈 회장은 다음 총선에 앞서 대응 속도와 탐지, 유통에 관한 보다 구체적인 기준을 요구하고 있다.
공유 전에 확인할 수 있는 사항
시라즈 회장은 시청자들에게 입과 치아, 턱선이 약간 흐릿한지, 눈을 부자연스럽게 깜빡이는지, 빠르게 말할 때 치아가 지나치게 매끈해 보이는지 살펴보라고 조언했다. 음성에서는 특히 현지 말레이어 억양이 평탄하거나 지나치게 리듬감 있게 들리는지, 배경 소음이 갑자기 바뀌는지 확인할 수 있다.
콘텐츠를 올린 계정도 주의 깊게 살펴야 한다. 시라즈 회장은 딥페이크가 후보자의 공식 채널이나 기존 언론사보다 새로 만들어진 익명·미인증 페이지에 올라오는 경우가 많다고 말했다.
실용적인 확인 방법은 해당 인물의 공식 채널에 같은 발표가 있는지 찾아보고, 연설이나 행사 전체 녹화본을 확인하는 것이다. 영상이 돈을 약속하거나 놀라운 정책을 발표하거나 누군가의 자극적인 발언을 전한다면, 전달하기 전에 사실을 확인하는 것만으로도 복사본의 추가 확산을 막을 수 있다.
MCMC의 ‘세이프 인터넷’ 캠페인은 이런 습관을 기르기 위한 것이다. 파미 장관은 캠페인에서 디지털 문해력 향상과 함께 딥페이크 탐지, 신원 사칭, AI 생성 허위 정보 문제를 다룬다고 말했다.
통신부 장관은 의회에서 캠페인의 취지를 설명했다.
그는 질의응답 시간에 “예방 차원에서 정부는 MCMC를 통해 대중의 인식과 디지털 문해력을 높이는 ‘세이프 인터넷’ 캠페인도 시행하고 있다. 특히 딥페이크 콘텐츠와 신원 사칭, AI 생성 허위 정보를 식별하는 데 중점을 두고 있다”고 말했다.
이용자가 당장 할 수 있는 일은 잠시 멈추고, 사실을 확인한 뒤, 의심스러운 콘텐츠를 플랫폼의 신고 도구로 제보하는 것이다. 사업자에게 다가오는 시한은 개별 신고뿐 아니라 반복 게시에도 대응할 것을 요구한다. 다음 구체적인 시험대는 2026년 말까지 자동 대응 체계가 마련되는지 여부다.
핵심 내용
- MCMC가 대중의 신고를 바탕으로 요청한 뒤 2024년 1월부터 2026년 10월까지 딥페이크 콘텐츠 1만3,883건이 삭제됐다.
- 정치 지도자가 등장하는 콘텐츠는 1,178건으로 전체의 약 8.5%였다.
- 허가받은 사업자는 해당 AI 콘텐츠에 표시하고, 유해 콘텐츠를 평가하며, 접근하기 쉬운 신고 도구를 제공해야 한다.
- 플랫폼은 딥페이크와 반복 게시되는 허위 콘텐츠에 자동 대응할 체계를 2026년 말까지 마련해야 한다.
- MCMC는 AI 오용 사건 61건을 수사했으며, 법원 판결 6건에 따라 총 1만9,500링깃의 벌금이 부과됐다.
- 법원에 계류 중인 사건은 4건이며, 27건은 수사가 진행 중이거나 추가 조치가 필요 없는 것으로 분류됐다.
- MCCA는 2028년 2월까지 치러져야 하는 총선을 앞두고 선거 관련 콘텐츠의 신속한 삭제와 강화된 탐지 조치를 요구하고 있다.






