AI 에이전트 ARTEX, 가상 개인정보 15초 만에 수집…일본, 사이버 공격 조사

짧은 지시 뒤 개인 정보 파일 생성

일본 사이버보안 기업 S&J의 시연에서 일본 기업을 겨냥한 사이버 공격과 연관된 인공지능 에이전트가 시험용 웹사이트에서 가상의 개인정보를 약 15초 만에 수집했다. 이 시연은 자동화 도구가 작은 보안 취약점을 얼마나 빠르게 데이터베이스 접근으로 이어지게 할 수 있는지 보여줬다.

S&J는 10월 7일 공개 웹사이트에서 중국어 도구 ARTEX를 확보해 자문을 위해 앤스로픽의 클로드 AI에 연결했다. 운영자는 일본어로 시험용 웹사이트의 취약점을 점검하고 개인정보를 수집하라는 짧은 지시를 내렸다.

약 15초 뒤 ARTEX는 수집을 완료했다고 보고했다. 결과 파일에는 해당 사이트에 보관된 가상의 사용자 정보가 담겼다. S&J는 웹사이트에 표준 보안 조치가 적용돼 있었지만, 에이전트가 기록을 가져올 수 있게 한 작은 취약점을 찾아냈다고 밝혔다.

이번 시연은 약 80개 일본 기업을 겨냥한 공격에 대한 광범위한 조사와 맞물려 이뤄졌다. GMO인터넷그룹 자회사인 GMO 사이버시큐리티 바이 이라에는 보험, 금융, 물류, 소매 등 여러 업종 기업을 공격하는 데 사용된 해외 서버에서 ARTEX를 확인했다. 확인된 피해 대상 가운데 8곳은 9월 18일부터 10월 18일 사이 침해 또는 공격 사실을 공개했다.

미와 노부오 S&J 사장은 사람이 며칠 걸릴 수 있는 작업을 AI는 몇 초 또는 몇 분 만에 끝낼 수 있다고 말했다. 그는 공격자들이 AI 에이전트를 활용할 수 있다고 가정하고, 기업도 개인정보가 담긴 데이터베이스를 더욱 면밀히 감시하는 등 방어에 AI 기술을 활용해야 한다고 촉구했다.

시험에는 시험용 웹사이트와 가상 기록이 사용됐다. 기업 대상 조사는 실제 시스템과 고객 정보를 다루며, 그 피해로는 신원 도용, 사기 위험, 서비스 중단 등이 발생할 수 있다.

ARTEX는 지시를 어떻게 행동으로 옮기나

ARTEX는 허가를 받아 컴퓨터 시스템에 침투해 취약점을 찾아내고 수정할 수 있도록 하는 소프트웨어인 침투 테스트 도구로 개발됐다. 이 도구의 특징은 AI를 활용해 테스트를 계획하고, 보안 도구를 선택하며, 결과에 따라 조치를 취한다는 점이다.

기존 보안 도구는 각 단계에서 사람이 지시해야 할 수 있다. AI 에이전트는 더 포괄적인 지시를 받은 뒤 서로 연관된 여러 작업을 수행할 수 있다. 언어 모델은 정보를 해석하고 다음 시도 방법을 결정하도록 돕고, 다른 소프트웨어가 기술적 작업을 수행한다.

ARTEX는 프로그램에 내장된 단일 모델에 의존하지 않고 외부 모델과 연결할 수 있다. S&J는 시연에서 클로드를 사용했다. 한국 금융기관을 겨냥한 공격을 조사한 수사관들은 ARTEX가 주로 딥시크와 함께 실행됐으며, GLM과 그록을 활용한 다른 AI 세션도 확인했다고 밝혔다.

한국금융보안원 관계자는 한국에서 발생한 사건에서 해커가 이 도구를 지시했다고 말했다. 소프트웨어가 스캔과 테스트의 상당 부분을 수행하더라도, 사람 운영자는 여전히 공격 대상과 목표를 정한다.

ARTEX는 7월 온라인에 공개됐고 이후 중국의 보안 기술 경진대회에서 우승했다. 공개 배포로 다른 사람들도 코드를 내려받아 수정할 수 있게 됐다. 이후 공격 기능을 강화했다고 설명하는 수정 버전들이 온라인에서 유통됐다.

일본 조사에서 확인된 내용

GMO 사이버시큐리티는 피해를 입은 일본 기업들의 요청을 받아 외부 기관들과 함께 조사했다. 조사관들은 컴퓨터 활동 기록인 포렌식 로그를 살펴보고 공격을 해외 인프라까지 추적했다.

GMO가 수정해 공개한 설명에 따르면 ARTEX가 실행된 초기 서버는 같은 업종 9곳을 포함해 일본 기업 약 20곳을 겨냥했다. 이후 조사관들은 서버 5대를 더 찾아 총 6대의 서버와 약 80곳의 공격 대상을 확인했다. 또 다른 공개 집계에서는 최초 발견 이후 추가로 6대의 호스트가 확인됐다고 설명했다.

GMO의 설명에 따르면 6대 서버 모두에서 ARTEX 흔적이 발견됐다. 조사관들은 다른 AI 에이전트의 흔적은 찾지 못했으며, 해당 인프라와 연관된 공격 전반에 ARTEX가 사용됐을 가능성이 높다고 판단했다. 도구 설정과 표적 업종이 비슷한 점은 같은 그룹이 서버를 운영했을 가능성을 시사했다.

표적은 은행과 보험사에 그치지 않았다. 디지털 상품권, 소매 유통, 교육, 인쇄, 마케팅, 온라인 상거래, 미디어, 물류 업체도 포함됐다. 조사관들은 국가와 업종을 기준으로 별도의 공격 작전이 진행됐으며, 각 캠페인에는 서로 다른 호스트가 사용됐다고 설명했다.

사건을 조사한 GMO 사이버시큐리티의 후쿠모리 다이키 이사는 작은 취약점이 공격자들에게 기회를 제공했다고 말했다.

피해 기업들은 사소한 시스템 취약점을 노린 공격을 받았습니다. 기업은 시스템에 놓친 취약점이 없는지 철저히 점검해야 합니다.

GMO는 서버 정보를 법 집행기관과 공유했다. 회사는 약 80곳의 공격 대상이나 사건을 공개한 8곳의 이름을 공개하지 않았다. 서버의 위치와 운영자의 신원도 모두 밝혀지지 않았다.

한국 조사에서 추가로 드러난 내용

크라우드스트라이크는 10월 7일 조사 보고서에서 9월 말부터 10월 초까지 한국 금융기관을 겨냥한 ARTEX 사용 정황을 기록했다. 공격자가 관리하는 서버에서 외부에 노출된 파일에는 ARTEX 설정, 클로드 코드 세션 기록, 금융기관 표적을 대상으로 한 작업을 기록한 메모리 파일이 포함됐다.

복구된 자료에는 홍콩의 주요 호스트와 ARTEX를 실행하는 다른 서버를 포함한 2대의 서버 인프라가 기술돼 있었다. 운영자는 AI 비서에게 탈취한 한국 데이터를 어디에서 판매할 수 있는지 묻고, 해당 정보를 거래하는 텔레그램 그룹을 찾는 데 도움을 요청하기도 했다.

크라우드스트라이크는 해당 운영자가 금전적 이득을 노리는 중국어 사용자일 가능성이 높다고 중간 수준의 확신으로 평가했다. 이 평가는 중국어 지시와 사용된 도구를 근거로 했다. 조사관들은 특정 해킹 그룹을 지목하지 못했으며, 일본과 한국 공격을 같은 운영자가 수행했는지도 확인하지 못했다.

한국 금융위원회는 10월 14일 금융기관 16곳이 피해를 입었으며 개인정보 약 10만 건이 유출됐다고 밝혔다. 경찰 수사 대상은 금융회사 최소 7곳과 6만8,000명의 정보였다.

금융당국이 밝힌 전체 유출 정보에는 이름, 연락처, 주민등록번호, 이메일 주소가 포함됐다. 무단 거래를 직접 가능하게 할 계좌 비밀번호나 카드 번호의 유출은 확인되지 않았다고 당국은 밝혔다. 당국은 사건 간 연관성과 AI의 개입 가능성을 조사하고 있었다.

금융위원회는 금융기관들에 의심스러운 악성 인터넷 주소를 차단하고, 긴급 보안 패치를 적용하며, 침해된 시스템을 일시적으로 격리하라고 지시했다. 수사관들이 침입 범위를 파악하는 동안 접근을 차단하기 위한 조치였다.

공개 배포에서 중단까지

온라인에서 어텀-27이라는 이름을 쓰는 ARTEX 개발자는 10월 8일 공개 업데이트와 유지보수를 중단하고 프로젝트를 비공개 소스로 전환하겠다고 밝혔다. 공격에 악용됐다는 우려가 제기된 뒤 코드에 대한 대중의 접근을 제한한 것이다.

개발자는 ARTEX가 허가된 테스트를 위한 도구라고 설명하고 악용을 비난했으며, 공격 연루 의혹을 부인했다. 이미 내려받은 사본과 다른 프로그래머들이 수정한 버전은 계속 유통됐다.

주요 전개는 몇 달에 걸쳐 이어졌다.

• 7월: ARTEX가 보안 취약점 탐지 도구로 공개 배포됐다.
• 9월 18일~10월 18일: GMO가 일본 조사와 관련된 공격 활동과 공개 사례를 조사했다.
• 9월 말~10월 초: 크라우드스트라이크가 한국 금융기관을 겨냥한 ARTEX 활동을 기록했다.
• 10월 7일: S&J가 테스트를 위해 ARTEX를 확보했고, 크라우드스트라이크가 한국 관련 조사 결과를 공개했다.
• 10월 8일: ARTEX 개발자가 공개 업데이트 중단과 비공개 소스 전환을 발표했다.
• 10월 14일: 한국 금융당국이 피해 금융기관 16곳과 유출 기록 약 10만 건을 보고했다.
• 10월 19일: GMO가 ARTEX와 일본 기업 대상 공격을 연관 짓는 조사 결과를 발표했다.

중국 사이버보안 기업 스렛북은 원래 ARTEX가 직원 개인 프로젝트였다고 설명하며, 공개 버전에 내장된 보안 통제 기능이 없었다는 점을 인정했다. 회사는 추가 통제 기능을 갖춘 ARTEX 프로를 포함하는 상용 플랫폼 레드에이전트.ai를 논의해 왔다.

광범위한 침해 확산이 초래하는 실질적 피해

일본의 ARTEX 조사는 기업 사이버 사고가 전반적으로 급증하는 가운데 진행되고 있다. 2026년 10월 초까지 보고된 사고는 600건을 넘어 2025년 전체 건수를 웃돌았다. 데이코쿠 데이터뱅크 조사에서는 설문에 응한 기업 6곳 중 1곳가량이 침해 사고를 겪었으며, 대기업에서는 그 비율이 30%를 넘었다.

여러 기업이 대규모 고객 정보 유출을 공개했다. 야마토 운송은 후불 결제 서비스에서 고객 기록 약 526만 건이 탈취됐다고 확인했다. 로손은 계정 200만 개가 넘는 규모의 정보 유출을 보고했다. GMO 리서치&AI는 설문조사 플랫폼 인포큐에서 기록 89만4,082건이 탈취됐으며, 고객 보상 포인트가 아마존 상품권으로 무단 교환됐다고 밝혔다.

이들 기업은 자사 사고에 ARTEX가 사용됐다고 공개적으로 밝히지 않았다. 광범위한 침해 공개 사례는 개별 공격에 대한 조사가 이어지는 가운데 고객 정보 노출 규모를 보여준다.

피해는 기록 탈취에 그치지 않는다. 10월 7일 클라우드 및 데이터센터 업체 IDC 프론티어에서 발생한 랜섬웨어 사고로 기업과 지방자치단체 고객 495곳의 서비스가 중단됐다. 냉동식품 유통업체 닛스이는 거래처 1,200곳에 대한 출하를 멈췄고, 이바라키현과 현 경찰본부 웹사이트도 접속이 중단됐다.

서비스 제공업체의 침해 사고는 한 번에 다수 고객에게 번질 수 있다. 재난 정보 제공업체 아르카디아에서 발생한 사고로 지자체 최소 111곳을 포함해 거의 800개 기관이 영향을 받았다. 후쿠오카현 경찰 인력 약 1만1,000명과 도치기현 및 군마현 경찰 각각 3,000명 이상의 정보도 노출됐을 가능성이 있다.

개인 이름, 전화번호, 이메일 주소만으로도 범죄자들은 은행, 배송업체, 고용주를 사칭하는 그럴듯한 메시지를 만들 수 있다. 결제 정보가 안전하더라도 고객은 이런 위험에 노출될 수 있다.

작은 취약점에 더 빠른 대응이 필요한 이유

일본의 사고 대응 조정 기구인 JPCERT/CC는 공격자들이 AI를 이용해 알려진 취약점을 검색하고 애플리케이션 프로그래밍 인터페이스를 통해 공격한 정황을 확인했다. 흔히 API라고 불리는 이 인터페이스를 통해 소프트웨어 시스템은 정보를 주고받고 작업을 수행한다.

사이버 시큐리티 클라우드는 약 40분 동안 인터넷 주소 326개에서 1,200건이 넘는 접속 시도를 관찰했으며, AI 에이전트 자동화가 개입했을 수 있다고 밝혔다. GMO는 웹사이트로 들어오는 의심스러운 트래픽을 걸러내는 웹 애플리케이션 방화벽의 차단 기준에 걸리지 않도록 공격자들이 수백 개 주소를 번갈아 사용했다고도 설명했다.

고려대 정보보호대학원의 김승주 교수는 검색 속도가 빨라지면서 방치된 시스템이 노출될 수 있는 위험을 다음과 같이 설명했다.

전통적으로 방치되거나 관리가 부실했던 시스템은 AI로 공격자가 보안 사각지대를 더 쉽게 찾아 악용할 수 있게 되면서 점점 더 취약해질 수 있습니다.

S&J의 시험은 통제된 웹사이트에서 이 같은 우려를 보여준다. 작은 취약점이 자동화 에이전트가 몇 초 만에 개인정보 기록에 접근할 수 있는 통로가 됐다. 기업의 실질적인 대응에는 방치된 시스템 점검, 이용 가능한 보안 패치 적용, 민감한 데이터베이스 접근 감시가 포함된다.

공유 서비스에도 주의를 기울여야 한다. 노무라종합연구소의 기우치 다카히데 전무이코노미스트는 한 외부 서비스 제공업체의 장애가 운영을 중단시킬 수 있는 지점을 파악하고, 외부 파트너에 엄격한 접근 통제를 적용한 업무 연속성 계획을 마련하라고 기업들에 촉구했다. 클라우드 장애와 재난 정보 유출은 이런 계획이 배송, 지자체 웹사이트, 공공 경보에 왜 중요한지를 보여준다.

일본, 공격자와 AI의 역할 조사

후루카와 도시하루 일본 사이버보안 담당상은 정부가 피해 기업들의 의견을 듣고 AI가 악의적으로 사용됐는지 분석하고 있다고 말했다. 기하라 미노루 관방장관은 수사관들이 공격 주체와 출처를 조사할 것이라고 밝혔다.

기하라 장관은 기자회견에서 정부의 대응 방침을 설명했다.

외국 행위자의 개입 가능성을 포함해 가능한 모든 시나리오를 고려해 공격 배후와 공격 출처를 조사하겠습니다.

당국은 기업들이 서비스를 복구하고 어떤 기록에 접근했는지 확인하는 동안 해외 인프라를 거친 공격 활동을 추적해야 한다. GMO가 법 집행기관과 증거를 공유함에 따라 수사관들은 기업 로그와 다른 기술 기록에 더해 서버 정보도 활용할 수 있게 됐다.

미와 사장은 공격자들이 취약점을 찾는 데 AI를 활용하는 만큼 기업도 방어에 AI를 활용해야 한다고 권고했다. 당장의 우선 과제는 분명하다. 방치된 진입점을 찾아내고, 개인정보 접근을 제한하며, 정보 탈취를 막을 수 있도록 비정상적인 데이터베이스 활동을 신속히 탐지해야 한다.

핵심 내용

• S&J는 ARTEX가 짧은 일본어 지시를 받은 뒤 시험용 웹사이트에서 가상의 개인정보를 약 15초 만에 수집했다고 밝혔다.
• GMO는 ARTEX를 실행한 해외 서버 6대를 일본 기업 약 80곳을 겨냥한 공격과 연관 지었으며, 확인된 피해 대상 중 8곳이 사고를 공개했다.
• 크라우드스트라이크는 한국 금융기관 대상 공격과 관련된 ARTEX 파일과 AI 세션 기록을 발견했다.
• 한국 금융당국은 금융기관 16곳에서 기록 약 10만 건이 유출됐다고 보고했으며, 당국은 사건 간 연관성을 조사했다.
• ARTEX 개발자는 10월 8일 공개 업데이트를 중단했지만, 내려받거나 수정한 사본은 계속 유통됐다.
• 일본 당국은 악의적인 AI 사용과 외국 세력의 개입 가능성을 조사하고 있다. 보안 전문가들은 작은 취약점을 더 신속히 점검하고 민감한 데이터를 면밀히 감시하라고 촉구했다.