틱톡, AI 콘텐츠 검사기 및 잠재적 딥페이크 신고를 위한 글로벌 도구 도입

읽는 시간 6분
TikTok Adds AI Content Checker and Global Tool to Flag Possible Deepfakes

두 가지 도구가 AI 라벨 및 무단 초상권 도용 겨냥

틱톡은 사람들이 미디어가 자사의 AI 창작 기능으로 제작되었는지 확인하고, 자격 요건을 갖춘 공인이 허락 없이 자신의 이미지를 사용할 수 있는 AI 생성 콘텐츠를 찾는 데 도움을 주는 두 가지 도구를 도입합니다. 공개 검사기는 틱톡 계정 없이도 이용할 수 있습니다. 두 번째 기능인 '초상권 감지(Likeness Detection)'는 선택 사항이며, 전 세계의 자격 조건을 갖춘 크리에이터와 공인을 대상으로 점진적으로 출시되고 있습니다.

목차
  1. 두 가지 도구가 AI 라벨 및 무단 초상권 도용 겨냥
  2. 공개 검사기는 무엇을 검사할 수 있나요?
  3. 왜 자격증명과 숨겨진 워터마크를 모두 사용할까요?
  4. 초상권 감지는 어떻게 작동하나요?
  5. 틱톡이 이번 출소를 선거와 연계하는 이유
  6. 감지는 콘텐츠 검사의 일부일 뿐입니다
  7. 이 도구들이 다른 플랫폼 조치와 비교되는 방식
  8. 알아야 할 사항

검사기는 두 가지 종류의 단서를 찾습니다. 디지털 파일이 어떻게 제작되거나 편집되었는지 기록할 수 있는 '콘텐츠 자격증명(Content Credentials)'과 틱톡의 보이지 않는 워터마크인 '베라두라(VeraDura)'입니다. 틱톡은 50억 개가 넘는 AI 생성 영상에 라벨을 부착했다고 밝혔습니다. 별도의 기능을 통해 시청자는 '추천(For You)' 피드에 나타나는 AI 생성 콘텐츠의 노출 정도를 조절할 수 있습니다.

출시 시기는 두 가지 방식으로 언급됩니다. 틱톡의 일본 발표문에는 2026년 11월 20일로 기재되어 있는 반면, 글로벌 표시는 11월 19일 런던 행사에서도 발표되었습니다. 2027년 선거 준비와 초상권 도구의 연계를 언급한 런던 행사에서는 틱톡의 유럽 선거 담당 대외협력 책임자 프란체스카 스카폴로(Francesca Scapolo)가 연설했습니다.

이 도구들은 서로 다른 문제를 해결합니다. 검사기는 지원되는 틱톡 또는 바이트댄스 도구가 파일 제작이나 편집에 사용되었다는 흔적을 찾을 수 있습니다. 초상권 감지는 틱톡의 콘텐츠가 자신의 얼굴이나 기타 초상권을 사용할 가능성이 있을 때 등록된 사용자에게 알리도록 설계되었습니다. 두 기능 모두 신고된 게시물에 대한 인간의 검토를 대체하지는 않습니다.

광고

공개 검사기는 무엇을 검사할 수 있나요?

누구나 틱톡의 투명성 센터(Transparency Centre)를 통해 파일을 업로드하고 지원되는 AI 창작 도구와 관련된 신호가 포함되어 있는지 확인할 수 있습니다. 이 인터페이스는 이미지, 비디오, 오디오를 허용하며, 보고된 업로드 한도는 이미지 20메가바이트, 비디오 또는 오디오 파일 100메가바이트입니다. 틱톡은 업로드된 파일이 저장되지 않는다고 밝혔습니다.

지원되는 도구에는 틱톡 자체의 AI 기능과 캡컷(CapCut), 드리미나(Dreamina), 피핏(Pippit), 하이픽(Hypic) 같은 바이트댄스 애플리케이션이 포함됩니다. 이 검사기는 모든 AI 이미지, 음성, 비디오에 대한 일반적인 테스트가 아닙니다. 틱톡 및 바이트댄스 제품과 연관된 신호를 검색하므로, 오픈AI의 소라(Sora)나 구글의 뷰(Veo) 같은 다른 시스템으로 제작된 소재는 범위에서 벗어날 수 있습니다.

감지된 신호가 없는 결과라고 해서 파일이 진짜임을 확인할 수 있는 것은 아닙니다. 의심스러운 영상을 평가하는 사람은 여전히 그 출처가 어디인지, 등장 인물이 동의했는지, 그리고 다른 신뢰할 수 있는 증거가 그 주장을 뒷받침하는지 고려해야 합니다.

왜 자격증명과 숨겨진 워터마크를 모두 사용할까요?

콘텐츠 자격증명은 디지털 파일에 부착되어 제작 및 편집 이력을 설명할 수 있는 메타데이터입니다. 이 표준은 C2PA 연합에 의해 개발되었으며, 틱톡은 2024년부터 자사 도구로 제작된 콘텐츠에 이러한 자격증명을 추가해 왔습니다. 다른 서비스가 해당 정보를 손상되지 않게 유지한다면, 미디어가 어떻게 제작되었는지 파악하는 데 도움이 될 수 있습니다.

메타데이터는 파일을 다운로드하거나 편집할 때, 또는 메타데이터를 제거하는 서비스를 통해 공유할 때 사라질 수 있습니다. 베라두라는 또 다른 단서를 제공하기 위한 것으로, 틱톡측이 제거하기 더 어렵다고 밝힌 콘텐츠 내에 삽입된 보이지 않는 마크입니다. 검사기는 크리에이터의 라벨에만 의존하는 대신 두 가지 유형의 신호를 모두 찾습니다.

틱톡은 7월 10일까지 30억 개의 AI 생성 영상에 라벨을 부착했으며, 약 4개월 후에는 50억 개 이상으로 늘어났다고 밝혔습니다. 라벨은 자신의 소재를 식별하는 크리에이터, 콘텐츠 자격증명 또는 틱톡의 워터마크 기술에서 비롯될 수 있습니다. 증가하는 총계는 플랫폼이 라벨을 얼마나 광범위하게 적용하고 있는지 보여주며, 새로운 검사기는 사람들이 일반 피드 외에서도 파일을 검사할 수 있도록 하기 위한 것입니다.

광고

초상권 감지는 어떻게 작동하나요?

초상권 감지는 옵트인(opt-in) 기능입니다. 참가자는 틱톡이 자신의 초상권 사용 가능성을 검색하기 전에 외부 제공 업체를 통해 신원을 인증해야 합니다. 틱톡은 인증에 사용된 신분증이 프로세스 완료 후 틱톡에 보관되지 않는다고 밝혔습니다.

가입 후 참가자는 틱톡이 자신의 외모를 사용할 수 있는 비디오나 계정을 식별할 때 알림을 받을 수 있습니다. 그들은 자료를 검토하고 플랫폼의 안전 팀에 직접 신고할 수 있습니다. 틱톡은 커뮤니티 가이드라인을 위반하는 콘텐츠는 검토 후 삭제될 수 있다고 밝혔습니다.

출시 대상에는 정부 기관, 정치인, 정당을 포함하여 자격 조건을 갖춘 크리에이터와 공인이 포함됩니다. 틱톡은 자격 규칙을 공개하지 않았습니다. 이 도구는 글로벌 출시 전 7월부터 미국 크리에이터 소그룹을 대상으로 테스트되었으며, 신원 확인은 주미오(Jumio)가 담당했습니다.

틱톡 계정이 없는 사람을 포함하여 초상권 감지를 사용할 수 없는 사람들은 틱톡의 개인정보 보호 신고 양식을 통해 비동의 AI 콘텐츠 의심 사례를 여전히 신고할 수 있습니다. 감지 기능은 잠재적인 오용을 찾아 신고하는 수법이지, 모든 사칭을 찾아내거나 신고된 게시물이 자동으로 삭제된다는 보장은 아닙니다.

틱톡이 이번 출소를 선거와 연계하는 이유

틱톡은 2027년에 이탈리아, 프랑스, 그리스에서 예정된 선거를 지적했습니다. AI가 생성한 오디오나 비디오는 실제 사람이 결코 일어난 적이 없는 말을 하거나 행동하는 것처럼 보이게 만들 수 있습니다. 선거 기간 동안 이러한 자료는 시청자가 확인할 기회를 갖기도 전에 후보나 정부 관리에 대한 주장을 퍼뜨릴 수 있습니다.

스카폴로는 선거 보호를 회사의 핵심 책임으로 설명했습니다. 런던 안전 및 혁신 행사에서 틱톡의 유럽 선거 담당 대외협력 책임자는 다음과 같이 말했습니다:

선거의 무결성을 보호하는 것은 틱톡이 가진 가장 중요한 책임 중 하나입니다.

그녀는 이 도구가 정치인과 정부가 동의 없이 공유된 잠재적 AI 생성 콘텐츠를 식별하는 데 도움이 될 수 있다고 말했습니다. 유럽연합(EU)은 8월부터 딥페이크 및 기타 AI 생성 자료에 라벨을 부착하는 요건을 포함하여 AI 투명성 규정을 시행하기 시작했습니다. 틱톡 역시 수년 동안 사실적인 AI 생성 이미지, 오디오, 비디오에 라벨을 부착할 것을 요구해 왔습니다.

광고

감지는 콘텐츠 검사의 일부일 뿐입니다

틱톡은 또한 거짓 정보를 포함할 수 있는 비디오를 검토하기 위해 프랑스 통신사(Agence France Presse)를 비롯한 여러 국가의 1a십여 개가 넘는 팩트체크 기관과 협력하고 있습니다. 그 작업은 비디오의 주장이 정확한지 다루는 반면, 새로운 검사기는 파일이 어떻게 만들어졌는지에 대한 기술적 신호를 찾고, 초상권 감지는 사람들이 자신의 신원 무단 도용 가능성을 신고할 수 있도록 돕습니다.

이러한 구별은 시청자에게 중요합니다. 비디오는 허위 주장을 하지 않고도 AI로 생성될 수 있으며, 감지된 AI 신호가 없는 비디오도 여전히 오해를 불러일으키거나 조작되었을 수 있습니다. 라벨이나 검사기 결과는 하나의 정보 조각일 뿐이며, 주장과 그 맥락을 확인하는 것을 대체할 수 없습니다.

플랫폼은 또한 허위 정보, 혐오 발언, 음란물 같은 콘텐츠를 검토하기 위해 자동화된 시스템에 더 많이 의존하고 있습니다. 틱톡은 2025년에 기술 향상 덕분에 전 세계적으로 중재 관련 일자리와 장소를 줄일 수 있게 될 것이라고 밝혔습니다. 새로운 기능은 특정 종류의 합성 미디어를 식별하는 방법을 추가하지만, 신고는 여전히 안전 팀으로 전달되어 검토를 거칩니다.

이 도구들이 다른 플랫폼 조치와 비교되는 방식

유튜브는 크리에이터를 위한 유사한 초상권 감지 기능을 개발했으며, 이 도구는 2025년 말 수익 창출 크리에이터를 위한 초기 출시 이후 2026년 5월 주요 크리에이터들에게 공개되었습니다. 틱톡의 출시는 자격 조건을 갖춘 크리에이터와 공인을 대상으로 하며, 자격 요건에 대한 공개 목록 없이 점진적인 글로벌 출시로 진행됩니다.

틱톡의 기존 '주제 관리(Manage Topics)' 제어 기능은 사용자에게 또 다른 선택권을 제공합니다. 바로 '추천' 피드에 표시되는 AI 생성 콘텐츠의 양을 조절할 수 있다는 점입니다. 이는 시청자가 보는 것을 변경하는 반면, 검사기는 파일을 검사하고 초상권 감지는 개인의 이미지에 대한 신고에 초점을 맞춥니다.

크리에이터, 공인, 정치 조직의 경우 가장 명확하고 즉각적인 조치는 자격이 될 경우 등록하고 신고하기 전에 알림을 검토하는 것입니다. 다른 사용자의 경우, 파일이 지원되는 바이트댄스 도구로 제작되었을 때 공개 검사기가 도움이 될 수 있으며, 무단 초상권 도용 의심 사례에는 틱톡의 개인정보 보호 양식이 여전히 옵션으로 남아 있습니다.

알아야 할 사항

  • 틱톡의 공개 검사기는 이미지, 비디오, 오디오를 허용하며 계정 없이도 사용할 수 있습니다.
  • 모든 AI 시스템이 아닌, 지원되는 틱톡 및 바이트댄스 도구의 콘텐츠 자격증명 및 베라두라 신호를 검색합니다.
  • 초상권 감지는 정치 및 정부 계정을 포함하여 자격 조건을 갖춘 크리에이터와 공인을 위한 옵트인 방식의 글로벌 출시입니다.
  • 참가자는 알림을 검토하고 오용 의심 사례를 신고할 수 있습니다. 틱톡은 신분증이 보관되지 않는다고 밝혔습니다.
  • 틱톡은 AI 생성 영상에 라벨을 부착한 총량이 7월 10일 30억 개에서 50억 개 이상으로 증가했다고 밝혔습니다.
이 기사 공유

추천 기사