말레이시아, 유권자 겨냥 AI 캠페인 의혹 관련 앤스로픽에 증거 요청

읽는 시간 8분
Malaysia Seeks Anthropic Evidence on Alleged AI Campaign Targeting Voters

가짜 계정·유권자 프로필, 의회 조사 대상에

말레이시아의 통신 규제 당국이 앤스로픽에 기술 세부사항과 증거를 요청했다. 앤스로픽은 자사의 클로드 인공지능 모델이 말레이시아 유권자를 겨냥한 상업적 정치 조작 플랫폼 구축을 도왔다고 밝혔다. 의혹이 제기된 작전은 가짜 X 계정 약 1,000개와 조작된 뉴스 매체, 222개 전체 의석 선거구를 포괄하는 유권자 프로필을 결합했다.

목차
  1. 가짜 계정·유권자 프로필, 의회 조사 대상에
  2. 말레이시아가 앤스로픽에 요구한 자료
  3. 말레이시아 유권자 데이터를 기반으로 한 상업 서비스
  4. 가짜 계정이 실제처럼 보이려 한 방식
  5. 말레이시아 펄스, 다시 쓴 뉴스와 조작된 의혹 뒤섞어
  6. MCMC가 직접 부인한 이유
  7. 9월 공개에서 의회 답변까지
  8. 현행법과 별도의 AI 법안
  9. AI는 콘텐츠 제작을 가속하고 플랫폼은 독자를 제공
  10. 핵심 내용

통신부는 11월 17일자 서면 의회 답변에서 말레이시아 통신·멀티미디어위원회(MCMC)가 증거를 평가한 뒤 추가 조치를 결정할 것이라고 밝혔다. 현행 통신 및 온라인 안전 관련 법률을 적용할 수 있으며, 디지털부는 별도의 인공지능 거버넌스 법안을 마련하고 있다.

앤스로픽은 이 작전이 튀르키예 이스탄불에 본사를 둔 기술 기업 BBS Bilisim Teknolojileri와 연관돼 있다고 밝혔다. 이 회사는 9월 11일 관련성을 부인했다. 앤스로픽은 연루된 클로드 계정을 폐쇄하고 추가 악용을 방지하기 위한 조치를 도입했다고 밝혔다.

이번 사건은 두 가지 다른 규모를 보여준다. 전국 유권자 프로파일링을 위해 설계된 시스템과 실제 도달 범위가 제한적이었던 것으로 보이는 작전이다. 앤스로픽은 해당 캠페인이 인공적으로 조성된 네트워크를 넘어 실제 온라인 커뮤니티에 도달했다는 증거를 찾지 못했다고 밝혔다.

말레이시아 유권자들을 겨냥한 의혹의 속임수는 오해를 부르는 게시물에 그치지 않았다. 이 플랫폼은 가공의 계정을 평범한 사람처럼, 다시 쓴 기사를 독립 언론 보도처럼, 조작된 의혹을 정보기관의 조사 결과처럼 보이게 할 수 있었다. 말레이시아가 당장 해야 할 일은 누가 이 시스템을 운영했는지, 법률에 따라 어떤 조치를 취할 수 있는지를 규명하는 것이다.

말레이시아가 앤스로픽에 요구한 자료

MCMC는 의혹이 제기된 작전에 대해 상세한 기술적 설명과 증거 자료를 요청했다. 11월 17일 답변은 페리카탄 나시오날 소속 벨루란 지역구 의원인 다툭 세리 박사 로널드 키안디가 관련 책임자와 가짜 계정 및 조작 뉴스 포털에 대한 조치를 물은 데 대한 것이다.

통신부는 집행 조치를 결정하기 전에 추가 정보를 요청하는 이유를 설명했다.

MCMC는 충분한 정보와 증거를 바탕으로 평가와 후속 조치가 이뤄지도록 앤스로픽에 보고서와 관련한 추가 정보와 설명을 요청하고 있습니다.

다툭 파흐미 파질 통신부 장관도 파시르 마스 지역구 페리카탄 나시오날 의원 아흐마드 파들리 샤리의 질의에 대한 의회 답변에서 이 문제를 다뤘다. 해당 질의는 클로드와 기타 AI 애플리케이션을 통한 외국의 선거 개입을 조사하고 방지하기 위한 정부 대책에 관한 것이었다.

통신부는 후속 조치에 집행·안보 기관, 디지털 플랫폼 및 기타 관련 당사자들이 참여할 수 있다고 밝혔다. 명시된 접근 방식은 증거를 수집하고 MCMC 관할권 안에서 사안을 평가한 뒤 적절한 대응을 결정하는 것이다.

광고

말레이시아 유권자 데이터를 기반으로 한 상업 서비스

앤스로픽은 해당 플랫폼을 고객에게 정치적 영향력 행사 역량을 판매하는 서비스라고 설명했다. 이 사업 모델에서는 구매자가 기반 시설을 직접 구축하는 대신, 여론을 형성하려는 도구나 활동에 대해 운영자에게 비용을 지불한다.

앤스로픽은 이 시스템이 인구조사 정보와 선거 데이터, 수백만 건의 유권자 기록을 이용해 말레이시아 전체 222개 의석 선거구의 프로필을 만들었다고 밝혔다. 이 프로필은 인종·종교·왕실 관련 문제를 포함해 지역의 정치적·사회적 분열을 파악하도록 설계됐다.

선거구 프로필은 특정 선거구에 관한 정보를 한데 모은 것이다. 앤스로픽에 따르면 이번 작전에서 클로드는 이 정보를 표적화 도구로 전환하는 데 도움을 줬고, 영향력 콘텐츠를 유포하는 데 쓰인 기반 시설도 지원했다. 이를 결합하면 운영자들이 각기 다른 지역사회에 맞춘 메시지를 준비할 수 있다.

앤스로픽의 위협 평가 보고서는 서비스가 스스로를 어떻게 소개했는지 설명했다.

이 플랫폼은 방어적 사이버 정보·허위 정보 대응 도구를 제공하는 업체인 것처럼 행세했습니다.

앤스로픽은 자체 조사 결과 이 플랫폼이 BBS Bilisim Teknolojileri와 연관돼 있으며, 영향력 행사 역량에 대한 접근권을 판매한 것으로 드러났다고 밝혔다. 튀르키예 기업이 관련성을 부인한 만큼, MCMC가 요청한 기술적 증거는 말레이시아의 평가에서 핵심적인 역할을 하게 된다.

가짜 계정이 실제처럼 보이려 한 방식

앤스로픽에 따르면 해당 플랫폼은 X에서 가짜 계정 약 1,000개를 관리했다. 정치적 영향력 행사에 사용하기 전 계정들이 활동 이력이 있고 진짜인 것처럼 보이도록 하는 장치도 포함돼 있었다.

앤스로픽은 탐지를 피하기 위해 쿠키와 인터넷 프로토콜(IP) 주소를 갱신하려는 시도가 있었다고 설명했다. 쿠키는 온라인 활동 중 저장되는 작은 정보 조각이며, IP 주소는 네트워크상 연결을 식별한다. 이러한 신호를 변경하면 운영자가 계정 간 연관성을 숨기는 데 도움이 될 수 있다.

대시보드에서는 사용자가 특정 계정에 인공적인 조회수를 요청할 수도 있었다. 앤스로픽은 당시 재임 중인 말레이시아 총리 계정에 인공 조회수 100만 회를 제공해 달라는 요청을 확인했다고 밝혔다. 요청한 고객은 신원이 밝혀지지 않았으며, 앤스로픽은 안와르 이브라힘 총리나 총리실과의 연관성을 확인하지 못했다. 운영자 자체 도구에 표시된 참여 수치는 검증되지 않았다.

난양공과대학교 위킴위 커뮤니케이션·정보대학의 신임 미디어 전문가 사이푸딘 아흐메드는 해당 의혹이 조작에 해당하는 이유를 다음과 같이 설명했다.

따라서 이는 단순히 유권자를 더 효과적으로 겨냥한 문제가 아니라, 배후에 누가 있는지 숨긴 채 인위적으로 조작된 여론을 만들어내는 일이었습니다.

광고

말레이시아 펄스, 다시 쓴 뉴스와 조작된 의혹 뒤섞어

앤스로픽에 따르면 해당 작전은 말레이시아 펄스라는 가짜 뉴스 매체와 연계된 유튜브 채널도 운영했다. 웹사이트는 말레이시아의 정당한 언론 보도를 복사하고, 클로드를 이용해 반복적으로 다시 쓴 뒤 가공의 필명으로 기사를 게시했다.

말레이시아 펄스는 TV BRICS, 신화통신, 스푸트니크/RIA, CGTN의 콘텐츠도 재게시했다. 앤스로픽은 원래 매체를 밝히는 출처 표시를 삭제해 해당 자료가 독립적인 말레이시아 언론 보도인 것처럼 제시됐다고 밝혔다. 이 과정은 독자들에게 누가 뉴스를 제작했고 어디서 나온 것인지에 대해 다른 인상을 줬다.

기사와 함께 운영자들은 클로드를 이용해 신원이 밝혀지지 않은 야당 정치인과 시민사회 단체를 겨냥한 의혹이 담긴 조작 정보 문건을 만들었다. 도시에란 개인이나 단체에 관한 정보를 모아놓은 자료다. 이 경우에는 문서 형식을 갖춰 조작된 주장이 기록에 근거한 조사 결과처럼 보이게 했다.

앤스로픽은 의혹을 단도직입적으로 설명했다.

이러한 의혹은 행위자들이 전적으로 지어낸 것입니다.

클로드는 일부 요청을 거부하거나 부분적으로 거부했다. 특정 문건이 정치적 명예훼손을 목적으로 한다고 판단한 뒤에도 마찬가지였다. 앤스로픽은 운영자가 같은 역량을 계속 이용하기 위해 요청 문구를 바꿨다고 밝혔다. 이 사례는 개별 요청을 반복적으로 바꿔 제시하는 악용 프로젝트를 탐지하는 일이 현실적으로 얼마나 어려운지 보여준다.

MCMC가 직접 부인한 이유

앤스로픽은 운영자가 MCMC와 계약을 맺으려 했다고 밝혔다. 다만 시도가 성공했다는 증거는 찾지 못했다고 덧붙였다. MCMC는 9월 11일 설명된 종류의 활동이나 계약에 관여하지 않았다고 부인했다.

MCMC는 성명에서 입장을 밝혔다.

분명히 말씀드리면, 보고서에 묘사된 성격의 활동은 MCMC의 기능이나 권한에 해당하지 않으며, MCMC는 그러한 활동이나 계약에 관여하지 않습니다.

MCMC는 사실관계를 확인하고 맥락을 파악하기 위해 의혹을 조사하고 추가 정보를 요청하고 있다고 밝혔다. 공공 보호와 온라인 피해 대응은 계속해서 MCMC의 핵심 책무라고 덧붙였다.

법률·제도 개혁을 담당하는 총리실 장관 다툭 세리 아잘리나 오트만 사이드는 포괄적이고 독립적인 조사를 촉구했다. 이는 규제 당국 자체의 증거 수집과 함께 해당 작전에 대한 조사도 필요하다는 점을 부각했다.

광고

9월 공개에서 의회 답변까지

대중의 대응은 기업의 공개와 부인, 의회 질의를 거치며 전개됐다. 주요 경과는 다음과 같다.

  • 9월: 앤스로픽은 위협 평가 보고서에서 말레이시아 표적화 의혹을 공개하고, 관련 클로드 계정의 활동을 차단했다고 밝혔다.
  • 9월 11일: BBS Bilisim Teknolojileri가 관련성을 부인했다. MCMC도 설명된 활동에 참여하지 않았다고 별도로 부인하고 의혹을 조사하고 있다고 밝혔다.
  • 11월 3일: 아흐마드 파들리 샤리에 대한 서면 의회 답변에서 기술적 설명 요청과 현행법 적용 가능성을 밝혔다.
  • 11월 17일: 통신부는 로널드 키안디에 대한 답변에서 증거 수집 절차를 재차 설명했다.

몇 가지 핵심 사항은 여전히 공개되지 않았다. 말레이시아 관련 활동의 비용을 누가 지불했는지, 정확히 언제 운영됐는지, 특정 선거와 연관이 있는지, 앤스로픽이 MCMC의 요청에 답했는지, 경찰이 정식 형사 수사에 착수했는지는 밝혀지지 않았다. 제안된 AI 법안의 도입 시기도 제시되지 않았다.

앤스로픽의 9월 평가는 사이버 작전과 감시, 사기, 정치적 영향력 행사 등 클로드의 여러 악용 사례를 다뤘다. 영향력 행사 사례 전반에 걸쳐 정부와 국가 연계 매체, 영향력 행사 서비스를 판매하는 민간 기업 등 6개 대륙의 대상에 접근을 시도한 행위자들이 있었다고 설명했다.

현행법과 별도의 AI 법안

통신부는 1998년 통신·멀티미디어법과 2025년 온라인 안전법, 기타 적용 가능한 법률을 규제 조치나 집행 조치의 근거로 제시했다. 대응 여부는 증거와 MCMC의 관할권에 따라 달라진다.

제안된 인공지능 거버넌스 법안은 목적이 다르다. 디지털부는 AI 시스템을 개발하고 배포하는 이들의 책임, 위험 관리, 책무를 다루는 규정을 마련하고 있다. 쉽게 말해 이 법안은 AI 제품의 위험을 누가 관리해야 하며, 책임을 다하지 않았을 때 누가 답해야 하는지를 다룬다.

두 가지 대응 경로는 문제의 서로 다른 측면을 다룬다. 현행법은 의혹이 제기된 활동에 지금 대응하기 위한 정부의 방안이다. 제안된 법안은 AI 시스템의 개발과 사용 방식에 더 폭넓은 책임을 부과하게 된다.

말레이시아 밖에 있는 기업과 연관된 작전에는 단일 규제 당국을 넘어선 협력도 필요하다. 안보 기관과 수사 당국, 플랫폼 제공업체와 협력하겠다는 통신부의 계획은 관련 증거가 AI 서비스 업체와 소셜 네트워크, 운영자, 고객에게 흩어져 있을 수 있음을 반영한다.

광고

AI는 콘텐츠 제작을 가속하고 플랫폼은 독자를 제공

앤스로픽은 내부 시스템을 통해 계정을 탐지하고 접근을 차단했으며, 조사 과정에서 확보한 정보를 이용해 더 광범위한 작전의 윤곽을 파악했다고 밝혔다. 기반 시설의 규모에도 불구하고 실제 온라인 커뮤니티에 침투했다는 증거는 찾지 못했다.

글로벌 선거 업무를 담당했던 전 메타 관계자이자 현재 기술 컨설팅 업체 앵커 체인지의 수장인 케이티 하스바스는 영향력 콘텐츠 제작에서 AI의 역할을 설명했다.

AI를 이용하면 훨씬 더 많은 콘텐츠를 더 개인화된 형태로, 더 빠르고 저렴하게 만들 수 있어 활동을 크게 증폭할 수 있습니다.

하스바스는 운영자에게는 여전히 배포 수단이 필요하며, 현재는 소셜 미디어 플랫폼이 그 역할을 한다고 말했다. 말레이시아 사례는 이 과정의 두 부분을 모두 보여준다. 클로드는 콘텐츠와 도구 제작을 도왔고, 가짜 계정과 웹사이트, 유튜브 채널은 독자에게 콘텐츠를 전달하기 위한 수단으로 쓰였다.

동남아시아의 다른 지역에서도 비슷한 우려가 제기됐다. 오픈AI는 페르디난드 마르코스 주니어 대통령을 지지하는 댓글을 포함해 필리핀 정치 관련 가상 댓글을 생성한 계정을 차단했다. 2024년 인도네시아 선거에서는 프라보워 수비안토를 AI로 만화화한 영상이 인기를 끌며 강경파 이미지를 누그러뜨리는 데 일조했다.

말레이시아에서 의혹이 제기된 작전은 특히 민감한 분열을 겨냥했다. 노팅엄대학교 아시아연구소 말레이시아의 브리짓 웰시는 이런 활동이 정치적 양극화를 부추긴다고 경고했다. 모나시대학교 말레이시아 캠퍼스의 미디어 강사인 벤 로 박사도 AI 콘텐츠가 로힝야 난민에 대한 기존의 적대감을 강화한다고 지적한 바 있다.

말레이시아가 취할 구체적인 다음 단계는 증거를 평가하는 일이다. 앤스로픽은 확인된 클로드 계정을 폐쇄했다. 이제 MCMC는 확보한 정보가 의혹이 제기된 작전의 배후에 있는 개인이나 단체를 상대로 조치를 취할 근거가 되는지 판단해야 한다.

핵심 내용

  • MCMC는 추가 조치를 결정하기 전에 앤스로픽에 기술적 설명과 증거를 요청하고 있다.
  • 앤스로픽은 가짜 X 계정 약 1,000개와 말레이시아 펄스 웹사이트, 222개 전체 의석 선거구를 겨냥한 유권자 표적화를 설명했다.
  • BBS Bilisim Teknolojileri는 앤스로픽이 해당 플랫폼과 연관 지은 뒤 관련성을 부인했다.
  • MCMC는 해당 활동에 참여하지 않았다고 부인했다. 앤스로픽은 규제 당국과의 계약 체결 시도가 성공했다는 증거가 없다고 밝혔다.
  • 앤스로픽은 확인된 클로드 계정을 폐쇄했으며, 실제 온라인 커뮤니티에 의미 있는 수준으로 도달했다는 증거는 찾지 못했다.
  • 말레이시아는 현행 통신 및 온라인 안전 관련 법률을 제시하는 한편 AI 거버넌스 법안을 마련하고 있다.
이 기사 공유

추천 기사