일반 사용자 계정에서 완전한 제어권으로 이어지는 948개 경로
오픈AI는 자동화된 연구 시스템이 일반 사용자 계정으로 컴퓨터를 완전히 장악할 수 있는 리눅스 커널 취약점 948개를 발견했다고 밝혔다. 회사가 2026년 11월 4일 공개한 연구 결과에 따르면, 이번 작업에는 AI API 크레딧 1,213,430달러가 들었으며 검토를 위한 패치 후보가 생성됐다.
목차
오픈AI 연구 보고서에 담긴 상세 결과는 이 수치가 나온 과정을 설명한다. 에이전트들은 작동하는 로컬 권한 상승 익스플로잇 1,169개를 만든 뒤, 변종 분석을 통해 관련된 발견 사항을 묶고 서로 다른 패치 948개를 개발했다. 오픈AI는 이 최종 수치를 고유 취약점의 개수로 집계했다.
로컬 권한 상승 취약점은 이미 컴퓨터에서 실행 중인 사람이나 프로그램이 보통 관리자, 즉 루트(root)에게만 허용되는 권한을 얻도록 한다. 리눅스 커널은 메모리, 하드웨어, 접근 권한을 관리하는 핵심 소프트웨어다. 이 경계를 뚫으면 제한된 접근 권한만 가진 상태에서 시스템 전체를 제어할 수 있다.
오픈AI는 일반적인 보안 보호 기능이 활성화된, 이름을 공개하지 않은 보편적으로 사용되는 리눅스 배포판에서 익스플로잇을 시험했다. 회사는 이 파이프라인을 구동한 AI가 출시를 앞둔 사이버 모델이라고 설명했지만, 출시일이나 배포판은 공개하지 않았다. 발견 건수와 비용, 새로운 공격 기법에 대한 주장은 모두 오픈AI가 자체적으로 보고한 결과다.
당면 과제는 실제 사용 중인 컴퓨터에 수정 사항을 적용하는 일이다. 연구가 진행되는 동안 리눅스 기여자들은 이미 서로 겹치는 발견 사항 수백 건을 수정하거나 논의하고 있었다. 각 익스플로잇이 주장된 취약점을 겨냥했는지, 제안된 패치가 원인을 해결하는지는 여전히 사람이 확인해야 했다.
에이전트가 수백만 줄의 코드 범위를 좁힌 방법
오픈AI는 일반 사용자가 접근할 수 있고 보안상 중요한 리눅스 코드 영역을 선정하는 데서 시작했다. 정찰 에이전트는 감사 대상 5,034곳을 식별했다. 대상 코드는 약 280만 줄로, 4,000만 줄이 넘는 커널 코드베이스의 약 7%에 해당한다.
이후 분석 에이전트들은 해당 영역의 코드 작동 방식과 공격자가 보안 경계를 넘을 수 있는 지점을 살펴봤다. 12시간 안에 중복을 제거한 취약점 후보 2,308건을 찾아냈다. 대상 선정에는 API 크레딧 3,426달러, 분석에는 316,549달러가 들었다.
전체 과정은 취약점 발견, 동적 검증, 악용 가능성 평가, 패치 생성, 사람의 검토 등 다섯 단계로 이뤄졌다. 각 단계는 의심스러운 코드에서 실제로 입증된 보안 문제를 확인하고, 이어서 수정 방안을 제시하기까지 서로 다른 질문에 답했다.
검증 단계에서 에이전트들은 특정 메모리 오류를 감지하는 도구인 커널 주소 새니타이저(Kernel Address Sanitizer)를 사용해 격리된 가상 머신에서 각 후보를 재현하려 했다. 프로그램 출력과 시스템 로그를 확인하고, 문제를 일으키거나 허용된 시도 횟수를 모두 소진할 때까지 테스트 프로그램을 조정했다.
시스템은 30시간 안에 취약점 1,724건을 재현했다. 후보의 약 74.7%다. 오픈AI는 나머지 다수는 더 높은 권한이 필요하거나 주어진 시간 안에 유발하기 어려운 조건에 의존했다고 밝혔다. 또 후보 중 3.1%는 성립 불가능한 조건을 포함한 잘못된 분석에서 비롯됐다고 설명했다. 30시간은 검증 단계에 걸린 시간이며, 스캔과 이후의 수동 분석은 총 10일에 걸쳐 진행됐다.
작동하는 익스플로잇이 입증한 것
다음 단계에서 오픈AI는 재현된 버그 중 어떤 것이 정보를 노출하거나 루트 접근 권한을 얻을 수 있는지 판단했다. 선별 에이전트는 발견 사항을 정보 유출 후보 313건과 권한 상승 가능성 후보 1,238건으로 좁혔다.
익스플로잇 개발 에이전트는 정보 유출 개념 증명 291개와 작동하는 권한 상승 익스플로잇 1,169개를 만들었다. 개념 증명은 취약점을 유발할 수 있음을 보여주는 테스트 프로그램이다. 익스플로잇은 한 걸음 더 나아가 관리자 권한 획득 등 보안상 결과를 얻기 위해 취약점을 이용한다.
테스트 머신에서는 주소 무작위화, 커널의 사용자 메모리 접근 제한, 데이터 복사 검사 등 보호 기능을 활성화했다. 주소 무작위화는 공격자가 유용한 메모리 위치를 예측하기 어렵게 한다. 이러한 보호 기능을 켠 상태로 테스트해 일반적인 데스크톱 설치 환경에 더 가까운 조건을 구현했다.
오픈AI는 공격 표면이 더 작고 추가 보호 기능을 갖춘 구글의 커널CTF 환경을 변형한 버전도 시험했다. 이 캠페인에서는 112시간 동안 정보 유출 개념 증명 25개와 권한 상승 익스플로잇 21개를 만들었으며, API 비용은 약 32,936달러였다. 테스트에 사용한 최신 커널과 호환되지 않아 변형 환경에는 SLAB_VIRTUAL 완화 기능을 포함하지 않았다.
오픈AI는 커널CTF 테스트에 사용된 가상화 인프라의 일부인 QEMU TCG에서 취약점을 발견했다고 보고했다. 이번 발견으로 연구 환경 자체도 보안 검토 대상이 됐다.
10월 캠페인과 앞선 연구의 비교
오픈AI의 리눅스 연구는 2026년 여러 실험을 거치며 확대됐다. 회사는 널리 쓰이는 소프트웨어의 취약점을 유지관리자가 발견하고 수정하도록 돕는 노력인 ‘패치 더 플래닛(Patch the Planet)’과 이번 연구를 연계했다.
- 2026년 6월: 오픈AI는 GPT-5.5 Cyber를 사용해 개발한 리눅스 권한 상승 익스플로잇 24개를 공개했다.
- 2026년 7월 말: GPT-5.6 Sol을 사용한 캠페인은 고유 권한 상승 취약점 166개를 찾아 익스플로잇했으며, API 비용은 513,690달러였다.
- 2026년 10월 중순: 새 사이버 모델은 서로 다른 권한 상승 취약점 948개에 대한 익스플로잇과 패치 후보를 만들었으며, 비용은 1,213,430달러였다.
- 2026년 11월 4일: 오픈AI는 파이프라인과 결과를 설명하는 보고서를 공개했다.
10월 캠페인이 찾은 고유 권한 상승 취약점은 7월 캠페인의 약 5.7배였으며, 지출은 약 2.4배였다. 총액을 기준으로 계산하면 고유 발견 건당 API 지출은 약 3,095달러에서 1,280달러로 줄었다.
두 캠페인 모두 당시 이용할 수 있었던 최신 리눅스 커널 마스터 브랜치를 조사했다. 오픈AI는 커널 수정과 보안 강화가 이뤄진 3개월이 추가로 지났는데도 10월 모델이 취약점을 훨씬 더 많이 찾아냈다고 밝혔다. 회사는 모델의 성능이 향상되는 만큼 중요한 소프트웨어를 다시 검사해야 한다고 주장했다.
루트 권한을 얻었다고 발견 사항이 입증되는 것은 아닌 이유
오픈AI는 초기 실험에서 기본적인 문제를 발견했다. 익스플로잇 200개가 성공적으로 루트 접근 권한을 얻었지만, 그중 20개는 에이전트가 지정받은 취약점이 아닌 다른 취약점을 이용했다. 공격 자체는 성공했지만 어떤 버그를 이용했는지에 대한 설명이 틀렸다.
이는 패치 작업에서 중요하다. 관찰된 결과를 정확한 원인과 연결해야 유지관리자가 문제를 일으킨 코드를 고칠 수 있기 때문이다. 오픈AI는 잘못된 원인 귀속을 발견한 뒤 독립적인 확인 절차를 추가했다.
시큐리티 브리게이드(Security Brigade)의 창립자 겸 최고기술책임자(CTO)인 야시 카드키아는 기업에 재현 가능한 결과와 정확한 설명이 모두 필요한 이유를 다음과 같이 설명했다.
“결과를 얻는 것과 어떤 방식으로 그 결과를 얻었는지 정확히 설명하는 것은 서로 다른 일입니다.”라고 그는 말했다.
오픈AI의 최종 연구 자료에는 원인 분석, 충돌을 유발하는 최소 테스트 프로그램, 패치 후보, 전체 익스플로잇이 포함됐다. 보안 연구자들은 유지관리자에게 알리기 전에 익스플로잇과 수정안, 제안된 심각도를 검토했다.
패치 개발에도 반복 작업이 필요했다. 초기 AI 수정안은 때때로 불필요한 변경이나 성능 저하를 초래했고, 취약점의 관련 변종을 해결하지 못하기도 했다. 공격 변형을 시험하면 수정안이 더 광범위한 문제까지 해결하는지 평가하는 데 도움이 됐다.
120만 달러로 얻은 것과 오픈AI의 가치 평가
오픈AI가 보고한 캠페인 총비용은 1,213,430달러로, 고유 권한 상승 취약점 하나당 약 1,279달러였다. 이 수치는 모델과 작업 절차에 사용한 API 지출을 나타내며, 연구 인력과 운영 비용 전체를 집계한 것은 아니다.
비용 중 가장 큰 비중은 악용 가능성 평가가 차지했다. 선별에는 44,194달러, 익스플로잇 개발에는 775,929달러가 들었다. 이 중 권한 상승 후보에 691,000달러, 정보 유출 후보에 84,929달러가 쓰였다.
해결하기 어려운 실패 사례에는 특히 많은 비용이 들 수 있었다. 오픈AI는 실패한 권한 상승 시도 69건에 각각 평균 약 3,922달러를 쓴 반면, 성공한 익스플로잇에는 건당 약 360달러가 들었다고 보고했다. 일부 까다로운 사례에는 정확한 순서나 시점에 따라 성공 여부가 달라지는 경쟁 조건이 포함됐다.
오픈AI는 발견한 취약점 948개를 Pwn2Own의 2만 달러, TyphoonPWN의 7만 달러 등 과거 리눅스 커널 권한 상승 익스플로잇 대회 포상금과 비교했다. 이를 적용하면 가상의 가치는 1,890만~6,630만 달러로, 캠페인 API 비용의 약 16~55배에 이른다.
회사 측은 커널CTF 익스플로잇 21개도 프로그램에서 인정받는다면 약 150만 달러를 받을 수 있다고 추산했다. 두 비교 모두 조건부 포상금 추정치이며, 실제 지급액은 프로그램 규정과 인정 여부에 달려 있다. 오픈AI는 비용 최소화보다 역량 측정에 초점을 맞췄으며, 작업 절차를 더 효과적으로 설계하면 지출을 줄일 수 있다고 밝혔다.
새로운 기법이라고 주장한 10가지, 세부 내용은 비공개
오픈AI는 익스플로잇 166개 표본을 조사한 결과, 자사 연구자들과 연구 과정에서 자문한 외부 커널 익스플로잇 전문가들에게 새로운 기법이 최소 10가지 있었다고 밝혔다. 안전상의 이유로 구체적인 지침은 공개하지 않았다.
이 기법에는 공격자가 제어하는 데이터를 커널 메모리에 넣는 데 쓰이는 새로운 객체 2가지, 메모리 배치로 안정성을 높이는 방법 2가지, 데이터 변경을 통해 권한을 얻는 방법 5가지, 임의의 타입 혼동을 일으키는 방법 1가지가 포함됐다. 타입 혼동은 소프트웨어가 어떤 객체를 다른 종류의 객체인 것처럼 처리하는 현상으로, 잘못된 데이터나 작업에 접근할 수 있게 될 가능성이 있다.
오픈AI는 이 결과가 에이전트가 익숙한 익스플로잇 유형을 넘어서는 접근법을 개발할 수 있음을 보여준다고 제시했다. 이 주장은 표본에 대한 회사의 검토와 외부 전문가 자문에 근거한다.
방어 측이 실질적으로 유념할 점은 첫 작동 사례뿐 아니라 관련 공격 변형에 대해서도 수정 사항을 시험해야 한다는 것이다. 오픈AI는 전문가의 지도를 받으며 반복 작업을 하면 올바르게 작동하고 주변 코드와 잘 맞으며 변종 공격에도 견디는 패치를 만드는 데 도움이 된다고 밝혔다.
상위 프로젝트 수정안과 실제로 보호받는 시스템 사이의 간극
오픈AI의 캠페인이 진행되는 동안 리눅스 유지관리자들도 대응하고 있었다. 스캔과 수동 분석이 이뤄진 10일이 끝날 때까지 권한 상승 발견 사항 61건이 상위 프로젝트에 반영됐고, 43건에는 스테이징 패치가 마련됐으며, 299건이 공개적으로 보고되고 논의 중이었다.
상위 프로젝트 수정안은 메인 프로젝트에 반영된 변경 사항이다. 스테이징 패치는 아직 검토나 통합 절차를 거치는 중이다. 이후 리눅스 배포판 업체가 고객에게 적절한 업데이트를 제공해야 하며, 고객은 이를 설치하고 수정된 커널을 활성화해야 한다.
오픈AI는 커널 커뮤니티의 지침에 따라 심각한 취약점부터 시작해 보고서와 패치 수백 건을 제출했다고 밝혔다. 948건 전체에 대한 완전한 수정 현황은 공개하지 않았다.
IDC의 연구 책임자 사크시 그로버는 수정 사항이 실제 운영 시스템에 도달하기 전까지의 기간이 핵심 우려라고 지적했다.
“위험은 948건이라는 숫자 자체보다 발견부터 수정 사항이 실제 운영 환경에 도달하기까지의 기간에 있습니다.”라고 그는 말했다.
그로버는 여러 고객이 공유하는 호스트, 자동화된 소프트웨어 빌드 시스템, 공유 접근 서버, 컨테이너 플랫폼, 개발자 머신을 우선적으로 보호할 것을 권고했다. 또 리눅스 배포판 업체에 지원 버전으로 수정 사항을 반영하는 일정을 확인하라고 촉구했다.
SUSE의 최고기술·제품책임자인 토마스 디 자코모는 회사도 유사한 AI 도구를 활용하며, 공개와 패치 작업을 위해 상위 프로젝트 커뮤니티와 협력한다고 밝혔다. 그는 여러 계층의 보호 기능과 보안 강화 애플리케이션 런타임을 결합하는 것을 SUSE의 접근 방식으로 소개했다.
더 빨라진 취약점 발견 주기는 리눅스 데스크톱을 넘어선다
구글 위협 인텔리전스 그룹 자료에 따르면 2026년 8월 취약점 공개 건수는 월 10,740건으로, 1월의 5,045건과 비교해 늘었다. 고위험으로 분류된 공개 건수도 같은 기간 131건에서 350건으로 약 167% 증가했다.
영국 국가사이버보안센터(NCSC)는 11월 3일 발표한 평가에서 AI 지원 취약점 탐지를 다뤘다. 기관은 다음과 같이 밝혔다.
“AI 기반 사이버 도구가 널리 보급되면서 제로데이 취약점 발견이 크게 증가했을 가능성이 매우 높습니다.”라고 밝혔다.
제로데이 취약점은 방어자가 미리 수정 사항을 준비할 기회가 없었던 결함을 말한다. NCSC는 방어용 AI 도구가 패치 속도를 높였지만, 도구가 올바르게 구성되지 않거나 널리 배포되지 않아 여전히 많은 시스템이 노출돼 있다고 경고했다. 조직은 더 빨라진 속도에 맞춰 패치와 테스트 절차를 조정해야 한다.
리눅스가 폭넓게 사용되는 만큼 운영상 문제도 광범위하다. 커널은 안드로이드 기기, 클라우드 인프라, 슈퍼컴퓨터를 지원한다. 이번 발견을 다룬 보도에서 인용한 ethernodes.org 자료에 따르면 이더리움 노드의 약 3분의 2도 리눅스를 사용해 블록체인 인프라 역시 영향을 받을 수 있다.
폴리곤 랩스의 최고기술책임자 무딧 굽타는 분산형 인프라가 복원력을 제공한다고 주장했다.
“탈중앙화는 인프라의 다양성과 중복성을 제공해 암호화폐가 기존 소프트웨어보다 이런 버그에 훨씬 더 잘 견디게 합니다.”라고 그는 말했다.
보안 연구자 카두쿠스도 암호화폐 인프라가 반복적인 공격을 겪으면서 복원력이 커졌다고 주장했다. 개별 운영자가 해야 할 일은 여전히 명확하다. 머신을 최신 패치 상태로 유지하고, 계정 하나가 침해되더라도 피해가 커지지 않도록 해야 한다.
오픈AI는 파이어크래커(Firecracker)와 gVisor 같은 샌드박스 및 격리 시스템을 포함한 다층 방어를 권고했다. 경고는 분명하다. 사용 가능한 패치가 적용되지 않은 운영체제에서 일반 사용자 계정을 확보한 자원력 있는 공격자는 그 접근 권한을 루트 권한으로 확대할 수 있다. 버그를 더 빨리 찾아내는 것만으로는 충분하지 않으며, 수정 사항이 해당 시스템에 신속하게 적용돼야 한다.
핵심 내용
- 오픈AI는 작동하는 익스플로잇 1,169개를 분석하고 패치 후보를 만든 뒤, 서로 다른 리눅스 권한 상승 취약점 948개를 발견했다고 밝혔다.
- 10월 캠페인에는 API 크레딧 1,213,430달러가 들었다. 검증 단계에서는 30시간 안에 후보 취약점 1,724건을 재현했다.
- 테스트는 표준 보호 기능이 활성화된 일반 리눅스 배포판에서 진행했으며, 모델과 배포판은 공개하지 않았다.
- 각 익스플로잇의 원인과 제안된 수정 사항을 검증하려면 사람의 검토가 여전히 필요했다.
- 분석이 끝날 당시 유지관리자들은 이미 발견 사항 61건을 상위 프로젝트에 반영했고, 43건의 스테이징 패치가 마련됐으며, 299건이 공개적으로 논의되고 있었다.
- 당면한 방어 우선순위는 수정 사항을 배포하고 설치하는 일이며, 일반 사용자 접근이 관리자 권한으로 이어질 수 있는 공유 시스템을 특히 유의해야 한다.
