익숙한 김수키 수법에 더해진 AI
한국의 한 사이버 보안업체가 상세 분석을 통해 북한의 김수키 그룹이 그럴듯한 한국군 직원 신분증 이미지를 앞세워 피싱 캠페인을 벌이는 데 인공지능을 활용했다고 밝혔다. 공격자들은 민간 직원용 신분증 시안을 검토해 달라고 수신자들에게 요청했다. 국방 관료 조직 안에서는 일상적인 요청처럼 보일 수 있는 내용이다. 첨부된 이미지는 진짜 신분증처럼 보였지만, 조사관들은 생성형 AI 모델로 만든 그래픽에 피해자의 컴퓨터를 장악할 수 있는 악성코드를 결합했다고 밝혔다.
목차
이메일은 신분증 발급을 담당하는 국방 관련 기관을 사칭했다. 공격자들은 신분증 시안처럼 보이는 PNG 이미지를 첨부해 수신자들의 의심을 누그러뜨리려 했다. 같은 전달 과정에 숨겨진 파일들은 표적이 콘텐츠와 상호작용하면 백도어를 실행했다. 이 이미지들은 실제 신분증이 아니라 테스트용 시안을 만들어 달라고 상용 AI 시스템에 요청해 생성했을 가능성이 크다. 자동화된 안전장치를 속일 수 있는 수법이다.
발신자 주소도 신뢰받는 군 도메인을 흉내 냈다. 조사관들은 한국의 공식 국방 도메인 접미사인 .mil.kr과 비슷한 .mli.kr 등의 가짜 도메인을 확인했다. 익숙한 단서를 찾는 수신자들을 속이기 위한 것이다. 이런 미세한 변형은 흔한 사회공학 수법이며, 바쁜 받은 편지함을 빠르게 훑어볼 때는 알아차리기 어렵다.
7월 중순 처음 탐지된 이번 캠페인은 같은 그룹이 앞서 ClickFix 방식의 미끼를 사용하고 동일한 악성코드 계열을 유포한 활동에 이어 벌어졌다. 당시 작전에서 얻은 지식이 재활용된 것으로 보이며, 이번에는 이야기의 신빙성을 높이기 위해 AI 생성 그래픽을 더했다. 표적에는 군 관련 기관뿐 아니라 북한에 초점을 맞춘 연구자, 언론인, 활동가도 포함됐다.
피싱 수법은 어떻게 작동했나
미끼는 단순했다. 수신자들은 신분증 시안을 간단히 검토해 달라는 메시지를 받았다. ZIP 압축 파일이나 다운로드 링크를 통해 이미지와 하나 이상의 스크립트가 전달됐다. 파일을 열면 일련의 과정에 따라 코드가 실행돼 컴퓨터가 공격자 인프라에 연결되고, 추가 구성 요소를 내려받은 뒤 원격 제어가 설정됐다. 이미지는 무해한 디자인 검토 요청이라는 이야기를 그럴듯하게 만드는 역할을 했다.
프롬프트 인젝션으로 AI 안전장치 우회
주요 AI 도구 대부분은 정부 발급 신분증 제작 요청을 거부한다. 이런 문서를 복제하는 것은 불법이며 사기에 악용될 수 있기 때문이다. 이번 사례에서 공격자들은 프롬프트를 내부 검토용 시안 디자인 요청처럼 꾸민 것으로 보인다. 이런 접근은 모델이 요청을 무해한 것으로 해석하게 할 수 있다. 프롬프트 인젝션 또는 탈옥의 한 형태로, 사용자가 의도를 다르게 표현하는 문구를 만들어 모델이 규칙을 우회하도록 유도하는 방식이다.
가짜 이미지 중 하나를 조사한 분석가들은 딥페이크 탐지기가 AI 생성 이미지일 확률을 98%로 판정했다고 보고했다. 적어도 한 샘플의 이미지 메타데이터에는 GPT 4o와 ChatGPT가 언급돼 있어, 테스트 또는 제작 과정에서 OpenAI의 이미지 생성 파이프라인이 사용됐음을 시사한다. 이미지가 일상적인 신분증 시안처럼 보일수록 바쁜 직원이 요청을 합법적인 것으로 여길 가능성은 커진다.
악성코드 전달 및 침입 과정
악성 파일 전달 패키지는 사례마다 달랐다. 확인된 한 사례에서는 ZIP 파일에 일반 문서처럼 위장한 바로가기 파일이 들어 있었다. 이를 실행하면 PowerShell 명령이 작동해 원격 서버에 접속하고, 백도어를 가져오며, 신분증 미끼용 PNG를 다운로드했다. 다른 사례에서는 LhUdPC3G.bat이라는 배치 파일이 이미지와 함께 실행돼 지속성을 확보하고 데이터 탈취와 원격 제어를 가능하게 하는 등 악성 활동을 시작했다.
이번 이메일은 표적형 피싱이었으며, 공격자들은 세부 사항에도 주의를 기울였다. 일부 압축 파일에는 수신자의 실제 이름을 일부 가린 형태로 넣어 신뢰를 높이고 첨부 파일을 열도록 유도했다. 가짜 신분증 이미지와 익숙한 유형의 요청, 발신자 도메인의 유사성이 결합돼 수신자들의 경계심을 누그러뜨렸다.
김수키의 표적과 공격 이유
김수키는 북한의 정보 수집 부대로, 정부 기관과 민간 연구자들이 수년간 추적해 왔다. 이 그룹은 국가 우선순위에 부합하는 정책·군사·기술 정보를 수집하는 것으로 평가된다. 표적에는 정부 기관, 국방 관련 기관, 싱크탱크, 학술 연구자, 언론인, 북한 문제에 주력하는 인권 단체가 자주 포함된다.
6월에는 사용자가 버튼을 눌러 가상의 문제를 해결하도록 유도하는 ClickFix 유형의 이메일이 연구자들에 의해 기록됐다. 7월 캠페인은 같은 악성코드와 여러 수법을 재사용한 뒤, AI가 생성한 디자인 시안을 더해 미끼를 강화했다. 대량 발송 작전은 아니었다. 특정 네트워크와 받은 편지함에 접근하려는 신중하고 표적화된 작전이었다.
공격 주체는 악성코드 코드의 유사성, 인프라 재사용, 언어 패턴, 표적 선정 등 기술적·맥락적 증거를 종합해 판단했다. 이러한 지표는 과거 김수키와 연계된 활동과 일치한다. 북한을 면밀히 감시하는 기관에 침투해 데이터를 수집하고 거점을 유지하려는 장기적인 임무와도 부합하는 수법이다.
신분증 발급 부서를 사칭하는 것은 잘 알려진 업무 절차를 악용한다. 신분증 문서는 공동 검토가 이뤄지는 경우가 많고, 글꼴·사진·레이아웃을 두고 의견을 주고받기도 하며, 권위의 분위기를 풍긴다. 그래서 시안을 확인해 달라는 요청이 평범하게 느껴질 수 있다.
북한 공작원들의 AI 오용 확산
이번 피싱 작전은 더 광범위한 흐름의 일부다. 8월 한 주요 AI 개발사는 북한 공작원들이 자사 모델을 이용해 허위 신원을 만들고, 미국 기술 기업의 원격 근무직에 지원했으며, 채용된 뒤에는 기술 업무까지 수행한 사례를 차단했다고 밝혔다. 보고서는 해당 활동과 연계된 계정의 정지와 악용 탐지를 위한 시스템 개선도 설명했다.
한국과 미국의 보안 브리핑은 북한 행위자들이 AI 도구를 사용해 자연스러운 이메일을 작성하고, 이력서와 자기소개서를 만들며, 코드를 작성하고, 전문적인 프로필 사진을 갖춘 인물을 꾸며 낸다고 경고했다. 이런 역량을 활용하면 소수의 공작원도 훨씬 큰 팀처럼 세련된 작전을 펼칠 수 있다. 진입 장벽은 낮아졌다. 기술 수준이 높지 않은 사람도 이제 AI의 안내를 받아 악성코드 모듈을 더 빠르게 작성하고, 콘텐츠를 자연스러운 한국어나 영어로 번역하며, 얼핏 봐서는 진위를 가리기 어려운 시각 자료를 만들 수 있다.
한반도 디지털 분쟁을 분석하는 전문가들은 한국 기관에 대한 공격이 급증했다고 지적해 왔다. 2023년 공개 자료에는 정부 시스템을 겨냥한 일일 공격 시도가 수백만 건에 달하며, 그중 다수가 북한 활동과 연계된 것으로 나와 있다. 별도의 유엔 보고서와 업계 연구는 북한 조직이 전략 프로그램에 자금을 대기 위해 대규모 암호화폐 절도를 벌였다고 밝혔다. 표적형 피싱과 AI를 활용한 취업 사기, 금융 절도는 모두 제재에도 불구하고 정보를 수집하고 수익을 창출하려는 동일한 전략의 일부다.
중국에 기반을 둔 공작원과 다른 국가 연계 행위자들도 생성형 AI를 실험하고 있지만, 여기서 주목할 점은 북한 조직이 첩보 활동과 불법 금융에 AI를 빠르게 도입하고 있다는 것이다. 피싱 도구와 AI 보조 콘텐츠 제작 스튜디오의 경계는 흐려졌다. 과거에는 디자이너와 번역가, 개발자로 구성된 팀이 필요했던 작업을 이제는 프롬프트와 몇 가지 오픈소스 도구로 해낼 수 있다.
AI가 사회공학을 더 그럴듯하게 만드는 이유
생성형 AI는 요청에 따라 세련된 콘텐츠를 빠르게 만들어 내는 데 뛰어나다. 피싱에 쓰일 경우 이미지와 문구, 코드 등을 표적에 맞춰 최소한의 노력으로 제작할 수 있다는 뜻이다. 그럴듯한 신분증 시안이나 브랜드 레터헤드는 읽는 사람의 경계심을 낮춘다. 격식 있는 관료식 한국어로 글을 쓰고, 적절한 약어를 넣으며, 공손한 어조를 유지할 수 있는 모델은 진짜처럼 보이고 들리는 메시지를 만들어 낸다.
언어 모델은 지치지 않는 글쓰기 보조 도구이기도 하다. 문법을 바로잡고, 기관의 문체를 따라 하며, 여러 이메일에서 일관된 어조를 유지한다. 공격자는 직무가 다른 대상에게 보낼 동일한 메시지의 여러 버전을 요청할 수 있다. 인사 담당자에게는 일상적인 공지처럼 보이는 초안을, IT 책임자에게는 기술 메모처럼 읽히는 초안을 각각 만들 수 있다.
기술 측면에서는 코딩 도우미가 경험이 적은 공작원도 스크립트와 페이로드를 엮어 만들도록 돕는다. 모델은 오류를 설명하고 수정 방법을 제안하며 작동하는 예시를 생성한다. 부적절하게 사용되면 악성코드 개발 속도가 빨라지고 학습 장벽도 낮아진다. 여기에 문장 생성과 번역까지 더하면, 과거에는 팀이 필요했을 다국어 작전을 이제 한 명이 수행할 수 있다.
신원 조작도 핵심 축이다. 모델은 경력 이력을 지어내고, 형식에 맞춘 이력서를 만들며, 채용 공고에 맞는 자기소개서를 작성하는 데 도움을 줄 수 있다. 이미지 도구는 얼핏 봐서는 의심하기 어려운 프로필 사진을 만든다. 이 역량들이 결합하면 기업 이메일 침해와 장기 침투를 더 쉽게 실행할 수 있다. 사람과 기술의 방어 체계가 따라잡기 전까지는 그렇다.
방어·탐지 및 정책 대응
한국은 국제 협력, 첨단 기술 도입, 방어 역량 강화를 강조하는 방향으로 국가 사이버안보 전략을 개정했다. 이 계획은 실시간 모니터링을 위한 AI 기반 탐지, 파트너와의 정보 공유 확대, 핵심 인프라 전반의 복원력 향상을 주요 내용으로 담고 있다. 서울은 정책을 조율하고 사고 대응에 초점을 맞춘 합동 훈련을 실시하기 위해 미국·일본과의 공조도 강화해 왔다.
조직은 절차와 교육, 기술을 함께 활용해 유사 도메인과 딥페이크 이미지에 기반한 공격을 약화할 수 있다. 먼저 검증 절차를 마련해야 한다. 자격 증명이나 신분증 관련 요청은 다른 연락 수단을 통해 이미 알고 있는 담당자에게 확인하는 등 문서화된 절차를 따라야 한다. 직원들은 도메인을 한 글자씩 확인하고, 링크를 클릭하기 전에 마우스를 올려 주소를 살펴보는 방법을 익혀야 한다.
기술적 통제는 악성 실행을 막는 데 도움이 된다. 이메일 게이트웨이는 여러 단계로 압축된 메시지를 격리하고, 바로가기 파일·ISO 이미지·스크립트 등 위험한 첨부 파일 유형을 차단해야 한다. 가능하면 PowerShell을 비활성화하거나 사용을 제한하고, 승인되지 않은 실행 파일을 막기 위해 애플리케이션 허용 목록을 활용해야 한다. 엔드포인트 탐지 및 대응 시스템은 악성 PowerShell 호출과 비정상적인 외부 연결을 포착할 수 있다. 네트워크 모니터링은 이메일을 열어 본 직후 인식되지 않은 새 도메인으로 연결될 때 경고를 보낼 수 있다.
채용과 공급업체 검증도 사이버 방어에서 중요성이 커지고 있다. 원격 채용 절차에는 실시간 영상 통화, 신뢰할 수 있는 제3자 검증, 독립적인 추천인 확인 등을 포함한 강력한 신원 확인 절차가 필요하다. 민감한 데이터를 다루는 시스템에는 최소 권한 접근과 지속적인 검증을 적용해야 한다. 정기 감사는 비정상적인 로그인 위치나 통상적인 업무 시간 외 활동 같은 이상 징후를 찾아낼 수 있다.
AI의 법적·윤리적 안전장치
이번 사건은 AI 도입을 둘러싼 긴장을 드러낸다. 기업은 직원들이 AI를 이용해 문서를 작성하고 코드를 만들며 이미지를 처리할 수 있을 때 이점을 얻는다. 그러나 같은 접근성이 적대 세력에 의해 악용될 수도 있다. AI 개발사들은 유해한 콘텐츠를 거부하고 오용을 감시하는 안전 시스템을 도입했지만, 공격자들은 까다로운 프롬프트로 이를 우회하려 한다. 방어 부문은 악용 지표를 공유하고 문제 계정을 삭제하며 조작에 저항하도록 모델 동작을 개선하는 방식으로 대응해 왔다.
정책과 조달 관련 결정도 중요하다. 정부 기관과 계약업체는 AI 시스템 공급업체에 감사 로그, 악용 신고 채널, 모델 보안 강화 업데이트를 요구해야 한다. 명확한 기업 내 AI 사용 규정은 위험한 콘텐츠가 실수로 생성되는 일을 막을 수 있다. 보안팀은 흔히 쓰이는 탈옥 프롬프트를 대상으로 모델을 시험하고, 문서 디자인이나 코드 검토 같은 업무를 위해 안전한 대안과 사전 승인된 절차를 제공해야 한다.
핵심 내용
- 김수키는 7월 표적형 피싱 캠페인에서 AI가 생성한 한국군 신분증 이미지를 미끼로 사용했다.
- 이메일은 수신자에게 신분증 시안을 검토해 달라고 요청했으며, 공식 접미사 .mil.kr을 흉내 낸 .mli.kr 도메인에서 발송됐다.
- 조사관들은 적어도 한 이미지의 메타데이터에서 GPT 4o와 ChatGPT를 확인했으며, 탐지기는 가짜 이미지가 AI 생성일 확률을 98%로 판정했다.
- 전달 과정에는 ZIP 압축 파일과 스크립트가 포함됐으며, 이들은 PowerShell 명령을 실행하고 백도어를 설치한 뒤 미끼용 PNG를 다운로드했다.
- 표적에는 군 관련 기관과 연구자, 언론인, 북한 문제에 주력하는 인권 활동가가 포함됐다.
- 이번 캠페인은 같은 그룹의 소행으로 지목된 6월 ClickFix 유형 활동에서 확인된 악성코드를 재사용했다.
- 최근 주요 AI 업체의 보고서에 따르면 북한 공작원들은 AI 도구를 이용해 가짜 신원을 만들고 원격 근무직을 얻기도 했다.
- 방어책으로는 신원 관련 요청의 엄격한 검증, 위험한 파일 유형과 스크립트를 차단하는 이메일·엔드포인트 통제, 강력한 원격 채용 신원 확인 등이 있다.
