딥페이크 표적 된 배우들…시각효과 전문가, AI 콘텐츠에 명확한 표시 촉구

커지는 문제 속 작은 표시

배우 잔비 카푸르, 키르티 수레시, 수나이나가 인공지능 딥페이크에 자신의 얼굴과 모습을 무단으로 사용한 데 반발했다. 논란이 된 이미지와 영상이 나온 뒤 법적 대응 경고도 이어졌다. 이들이 겪은 일은 소셜미디어 플랫폼에 실질적인 질문을 던진다. 시청자는 화면 속 인물이 디지털로 만들어졌다는 사실을 얼마나 쉽게 알아챌 수 있을까?

시각효과 전문가이자 펄 아카데미 커뮤니케이션·영화·게임학부 학장인 CB 아룬 쿠마르는 AI로 만든 콘텐츠에 명확하고 눈에 띄는 표시를 의무화하는 법률을 촉구하고 있다. 기존 안내 문구는 지나치기 쉬워 조작된 콘텐츠가 실제 사진이나 녹화 영상, 뉴스 현장처럼 보일 수 있다는 설명이다.

그가 비판의 중심에 둔 것은 인스타그램의 ‘AI 정보’ 표시다. 계정 사용자 이름과 게시된 이미지 또는 영상 사이에 작은 글씨로 안내가 나온다고 그는 설명했다. 문제는 표시가 얼마나 잘 보이느냐다. 시청자가 알아채지 못하고 지나친다면 공개 표시가 실질적인 도움이 되기 어렵다.

아룬 쿠마르는 더 엄격한 표시 의무를 요구하는 이유를 다음과 같이 설명했다.

인터넷에 퍼지는 일부 재난 영상처럼 AI 콘텐츠가 더는 뉴스인 척할 수 없도록 명확하고 눈에 띄는 표시를 의무화하는 엄격한 법이 필요합니다. 관객이 무엇이 진짜이고 무엇이 가짜인지 더는 구분하지 못하게 될 때 진짜 문제가 발생합니다.

그의 제안은 서로 맞닿은 두 가지 문제를 다룬다. 배우들은 자신의 정체성이 논란이 되는 콘텐츠에 등장하는 피해를 입는다. 시청자들은 실제로 일어나지 않은 장면을 실제 사건으로 받아들일 위험에 놓인다. 눈에 잘 띄는 표시는 시청자가 이미지를 마주한 순간, 믿거나 공유하기로 결정하기 전에 필요한 정보를 제공할 수 있다.

배우들에게 무슨 일이 있었나?

카푸르, 수레시, 수나이나는 자신의 얼굴과 모습이 논란이 되는 딥페이크 사진이나 영상에 등장한 뒤 충격을 표하거나 반발한 배우들이다. 이들은 무단 사용에 책임이 있는 이들을 상대로 법적 대응을 경고하기도 했다.

딥페이크는 AI를 이용해 누군가가 실제로 하지 않은 행동을 하거나 하지 않은 말을 하는 것처럼 보이도록 만든, 또는 변조한 이미지·영상·음성 녹음이다. 배우의 경우 알아볼 수 있는 얼굴 특징 때문에 제작에 전혀 참여하지 않았는데도 조작물이 설득력 있게 보일 수 있다.

당면한 문제는 자신의 정체성을 통제할 권리다. 배우는 어떤 역할을 맡고, 어떤 사진을 공개하며, 어떤 제품을 홍보할지 선택할 수 있다. 조작된 이미지는 같은 배우를 본인이 승인한 적 없는 장면에 등장시킬 수 있고, 시청자는 처음에 그 모습이 진짜라고 여길 수 있다.

아룬 쿠마르가 요구한 것은 법적 의무를 강화하는 일이지, 새 규정이 이미 시행됐다는 발표가 아니다. 그의 발언에서는 구체적인 법안이나 시행 기한, 제안된 처벌이 확인되지 않았다.

AI 이전에도 가짜 이미지는 있었다

아룬 쿠마르는 현재의 우려를 조작된 엔터테인먼트 이미지의 더 오랜 역사 속에서 바라본다. 오늘날의 AI 도구가 등장하기 전에도 대역 배우, 포토샵, 복제와 모핑 같은 시각효과 기법으로 가짜 장면을 만들 수 있었다.

복제는 이미지나 영상 안의 요소를 복사하는 기법이다. 모핑은 한 이미지를 다른 이미지로 바꾸며, 얼굴이나 외모를 변형하는 데도 쓰인다. 관객이 연출된 장면임을 알고 있는 영화 제작에서는 두 기법 모두 정당한 용도로 활용될 수 있다. 문제는 조작된 콘텐츠를 누군가의 실제 행동을 기록한 것처럼 제시할 때 발생한다.

AI는 이런 콘텐츠를 만드는 또 다른 수단을 제공했다. 관심과 유통을 통해 빠르게 금전적 이익을 얻으려는 이들도 여기에 포함된다. 아룬 쿠마르는 기술 자체가 아니라 활용 방식을 기준으로 판단해야 하며, 논란이 되는 콘텐츠의 책임자에게는 이미 마련된 법적 구제 수단을 적용해야 한다고 주장한다.

아룬 쿠마르는 기존 법률에도 콘텐츠 삭제를 요구할 방법이 충분히 있다고 말했다.

그런 논란이 되는 콘텐츠를 내리도록 요구할 법적 방법은 이미 충분히 마련돼 있습니다.

삭제와 표시는 같은 과정의 서로 다른 시점에 대응한다. 삭제는 이의가 제기된 뒤에도 이미지가 계속 공개되는 것을 막으려는 조치다. 눈에 띄는 표시는 이미지가 화면에 떠 있는 동안 이용자가 이를 판단하도록 돕는다. 그의 주장은 두 가지 과제를 함께 부각한다. 유해한 콘텐츠에 대응하는 일과 인공적으로 만들어졌다는 사실을 더 쉽게 알아보게 하는 일이다.

표시 크기가 중요한 이유

인스타그램의 작은 AI 안내 문구는 표시가 있다는 것과 그 표시가 실제로 유용하다는 것 사이의 간극을 보여준다. 아룬 쿠마르는 일반 시청자가 이미지 주변을 찾아보지 않아도 알아볼 수 있을 만큼 정보를 눈에 띄게 표시해야 한다고 플랫폼에 요구한다.

가짜 재난 영상은 이 문제가 유명인 문화에만 국한되지 않는 이유를 보여준다. 실제 비상사태 현장 영상처럼 보이는 장면을 보는 사람은 그 장면이 생성된 것인지 알아야 한다. 그렇지 않으면 실제로는 묘사된 방식대로 일어나지 않은 사건에 대한 인식이 그 이미지로 인해 형성될 수 있다.

배우들에게 같은 문제는 더욱 개인적이다. 사람들의 눈길을 끌고 가짜 이미지를 알아볼 수 있게 하는 것은 배우의 얼굴이다. 시청자가 표시를 놓치면 제작 방식에 대해 알기도 전에 그 장면을 배우와 연관 지을 수 있다.

따라서 아룬 쿠마르의 요구는 정보가 있느냐뿐 아니라 어떻게 보여주느냐에도 초점을 둔다. 플랫폼은 게시물 옆에 안내를 둘 수 있지만, 크기와 위치에 따라 실제로 시청자에게 전달되는지가 달라진다. 그가 원하는 기준은 분명하다. 인공적으로 만들어졌다는 사실이 쉽게 눈에 띄어야 한다.

예술가에게 동의 문제는 별개다

아룬 쿠마르는 AI 전체를 거부하는 것과 예술가의 작품을 허락 없이 사용하는 데 이의를 제기하는 것을 구분한다. 전자는 기술 전체에 대한 판단이고, 후자는 특정 자료를 어떻게 얻어 사용했는지에 관한 문제다.

학습은 AI 시스템이 사례를 바탕으로 패턴을 익히는 과정이다. 이 사례에는 사진, 글, 소리, 영상이 포함될 수 있다. 학습에 우려를 제기하는 예술가들은 자신의 창작물이 동의 없이 그 과정에 포함될 때 어떤 일이 벌어지는지 묻고 있다.

이 문제는 눈에 보이는 딥페이크를 넘어선다. 배우는 자신을 조작해 등장시킨 데 반발할 수 있고, 일러스트레이터나 다른 창작자는 새 이미지를 생성하는 시스템 개발에 자신의 작품이 사용된 데 이의를 제기할 수 있다. 영향을 받는 사람도, 문제 삼는 행위도 서로 다를 수 있다.

아룬 쿠마르는 AI를 무조건 비난하면 이런 차이를 놓치게 된다고 주장한다. 그의 입장은 정당한 창작 활용의 여지를 인정하면서도 허락을 둘러싼 이의를 중요하게 다룬다. 독자에게 유용한 질문은 구체적이다. 누구의 정체성이 등장하는가, 누구의 작품이 사용됐는가, 어떤 허락을 받았는가?

디지털 아티스트의 수입에 가해지는 압박

아룬 쿠마르에 따르면 미디어, 비즈니스, 영화, 텔레비전, 건축, 패션 분야에서 일하는 그래픽 아티스트들은 AI 확산에 따른 또 다른 결과에 직면해 있다. 기업이 일부 시각 자료를 더 빠르게 만들어낼 수 있게 되면서 생계를 유지할 수 있을지가 이들의 우려다.

아룬 쿠마르는 AI 결과물이 경쟁 수단으로 자리 잡으면서 세심한 인간의 노력이 필요한 작업의 상업적 가치가 떨어지고 있다고 말한다. 이미지를 제작할 방법을 정하는 고객은 예술가의 기술과 판단력뿐 아니라 속도와 비용도 고려할 수 있다.

이런 압박은 인간이 만든 작품에 대한 인식에도 영향을 미칠 수 있다. 아룬 쿠마르는 공들여 제작한 이미지가 저품질 AI 결과물과 비교될 수 있다고 경고한다. 예술가들은 관객과 고객이 두 종류의 작품을 모두 접하는 시장에서 자신들의 작업이 지닌 가치를 설명해야 한다.

아룬 쿠마르는 일자리 압박과 예술가들에게 주는 조언을 다음과 같이 설명했다.

현실은 AI 혁명이 예술가들을 일자리에서 밀어내고 있다는 것입니다. AI가 작업을 더 빠르게 해낼 수 있기 때문입니다. AI를 작업 과정의 또 다른 도구로 활용할 수 있는 진정한 예술가들은 살아남아 번창할 것입니다.

작업 과정이란 초기 아이디어부터 완성된 이미지나 영화에 이르기까지 창작 프로젝트를 마무리하는 데 필요한 단계의 연속이다. 그의 조언은 그 과정에 AI를 어떻게 활용할 수 있는지 익히는 한편, 작업에 인간의 선택과 기술을 계속 담으라는 것이다.

그는 변화에 적응하는 예술가들에게 낙관적인 전망을 내놓았지만, AI가 앞당길 수 있는 작업에 수입을 의존하는 사람들에게 당장의 부담이 크다는 점도 인정했다. 조작된 모습으로부터 보호를 요구하는 배우들과 더 저렴한 경쟁에 직면한 예술가들은 같은 기술 변화의 서로 다른 측면을 겪고 있다.

핵심 내용

• 잔비 카푸르, 키르티 수레시, 수나이나는 딥페이크에 자신의 얼굴과 모습이 무단 사용된 데 반발한 배우들이다.
• 펄 아카데미 학장이자 시각효과 전문가인 CB 아룬 쿠마르는 AI 콘텐츠에 명확하고 눈에 띄는 표시를 의무화하는 법을 촉구한다.
• 그는 인스타그램의 ‘AI 정보’ 표시를 비롯한 작은 안내 문구는 시청자가 알아채기 어려울 수 있다고 지적한다.
• 그는 AI의 유해한 활용에 대한 대응을 지지하며, 예술가의 작품이 동의 없이 사용되는 문제도 제기한다.
• 그는 디지털 아티스트가 수입 압박에 직면해 있으며 창작 과정에 AI를 활용하는 법을 익혀야 한다고 말한다.