최첨단 모델에 도전하는 강력한 오픈 모델
문샷 AI가 추론 시스템의 최상위권을 정면으로 겨냥한 오픈 웨이트 모델 Kimi K2 Thinking을 출시했다. 회사 측은 단계별 추론, 웹 브라우징 에이전트, 소프트웨어 엔지니어링 능력을 측정하는 까다로운 여러 평가에서 이 모델이 선도적인 독점 모델보다 뛰어난 성능을 보였다고 밝혔다. K2 Thinking은 문샷 플랫폼과 Kimi.com에서 이용할 수 있으며, 자체 호스팅을 위한 가중치는 상업적 이용을 허용하고 대규모 배포에 간단한 출처 표시를 요구하는 수정 MIT 라이선스에 따라 공개 모델 허브에 게시됐다.
목차
이 모델은 규모와 효율성을 결합한 설계를 갖췄다. K2 Thinking은 총 1조 개의 파라미터를 갖춘 것으로 알려진 전문가 혼합(Mixture of Experts) 아키텍처를 사용하며, 생성되는 각 토큰마다 실제로 활성화되는 파라미터는 약 320억 개다. 25만6,000 토큰의 컨텍스트 창을 지원하며 양자화 인식 학습을 적용해 네이티브 INT4 추론에 맞춰 훈련됐다. 이 구성은 지연 시간과 메모리 사용량을 줄여 경쟁력 있는 가격을 뒷받침한다. 이번 출시는 단순한 점수 경쟁을 넘어 오픈 모델의 에이전트 기능도 한 단계 끌어올린다. K2 Thinking은 200~300회의 연속 호출에 걸쳐 장기 계획을 세우고 도구를 체계적으로 사용하며, 중간 단계를 확인할 수 있도록 투명한 추론 기록을 출력할 수 있다. 이런 기능과 낮은 비용은 폐쇄형 경쟁 모델에 더 큰 압박을 가한다.
K2 Thinking이란 무엇이며 어떻게 작동하나
K2 Thinking은 전문가 혼합 트랜스포머로 구축됐다. 전문화된 전문가 모듈의 대규모 집합을 라우터 뒤에 배치하고, 토큰마다 그중 일부만 선택해 연산량을 줄이면서도 모델 용량을 유지한다. 문샷에 따르면 모델은 61개 레이어와 384개 전문가로 구성되며, 토큰마다 전문가 8개를 선택한다. 어텐션 헤드는 64개, 은닉 차원은 7168, 어휘 크기는 16만이다. 한 시점에 활성화되는 파라미터는 약 320억 개에 불과해 추론 부담을 관리 가능한 수준으로 유지하면서도 전체 용량은 매우 크다. 어텐션 메커니즘은 SwiGLU 활성화를 적용한 멀티헤드 잠재 어텐션으로 설명된다. 이 방식은 맥락의 내용에 가장 적합한 전문가에 학습과 추론을 집중해 처리량과 정확도를 모두 높인다.
희소 전문가와 효율성
전문가 혼합 방식은 토큰마다 모든 파라미터를 작동시키지 않고도 모델 규모를 1조 파라미터까지 확장할 수 있게 한다. 실제로는 메모리 사용량과 단계별 처리 시간이 현재 가속기의 처리 범위 안에 머무르면서 더 깊은 추론과 폭넓은 지식을 구현할 수 있다는 뜻이다. 25만6,000 토큰의 컨텍스트 창을 활용하면 대규모 코드베이스나 긴 연구 자료를 입력하고, 도구를 호출하며 여러 단계에 걸쳐 계획을 세울 수 있다. 검색, 읽기, 작성, 검증을 수십 회 또는 수백 회 수행하는 시스템이 필요한 에이전트 작업에 특히 적합한 설계다.
네이티브 INT4와 양자화 인식 학습
문샷은 가중치 저장과 추론에 INT4를 네이티브 방식으로 사용할 수 있도록 양자화 인식 기법을 적용해 K2 Thinking을 훈련했다. INT4는 높은 정밀도의 형식 대신 각 파라미터 값을 4비트로 표현해 메모리 사용량을 줄이고 생성을 빠르게 한다. 회사 측은 더 높은 정밀도의 형식과 비교해 품질 저하를 최소화하면서 생성 속도가 약 2배 향상됐다고 밝혔으며, 모든 벤치마크 점수는 INT4 환경에서 측정됐다. 이는 비용과 접근성 측면에서 중요하다. 커뮤니티 테스터들은 고성능 데스크톱 시스템에서 모델을 구동했다고 전했으며, 문샷은 vLLM, SGLang, KTransformers 같은 엔진을 권장한다. OpenAI 및 Anthropic 호환 API도 지원해 이미 해당 방식을 사용하는 팀이 쉽게 통합할 수 있다.
K2 Thinking이 앞선 벤치마크
공개 평가에서 이 모델은 최고의 추론 시스템 가운데 하나로 꼽히는 성적을 냈고, 여러 평가에서는 1위를 차지했다. 공개된 점수는 도구를 사용한 Humanity’s Last Exam에서 44.9%, 텍스트만 사용하는 설정에서 23.9%, 고난도 설정에서 51.0%다. 웹 브라우징 에이전트를 평가하는 BrowseComp에서는 60.2%, 도구를 활용한 소프트웨어 버그 수정 평가 SWE Bench Verified에서는 71.3%, LiveCodeBench v6에서는 83.1%, Seal 0에서는 56.3%를 기록했다. 수학·과학 분야에서는 도구 없이 AIME25에서 94.5%, Python 실행이 허용된 AIME25에서 99.1%, 도구 없이 HMMT25에서 89.4%, 과학 지식 평가 GPQA Diamond에서 약 85~86%를 기록했다. Frames 87.0점, FinSearchComp T3 47.4점, SWE Multilingual 61.1점도 보고됐다. 여러 분야에서 K2 Thinking은 GPT 5와 대등하거나 앞섰으며, BrowseComp 점수는 Claude Sonnet 4.5를 큰 격차로 따돌렸다.
에이전트형 검색 및 브라우징 작업
BrowseComp는 모델이 계획을 세우고, 웹을 검색하고, 링크를 따라가며, 조사 결과를 종합하고, 답을 검증할 수 있는지 평가한다. K2 Thinking의 BrowseComp 점수 60.2%는 GPT 5의 54.9%를 웃돌고 Claude Sonnet 4.5의 24.1%를 크게 앞선다. 정보 수집, 계획 수립, 도구 사용 중 일관성을 평가하는 Seal 0과 Frames에서도 높은 점수를 기록했다. 이런 결과는 모델의 설계 목표와 부합한다. 단계별 사고 방식을 통해 모델은 잠시 멈춰 추론하고 도구를 호출한 다음 계획을 갱신할 수 있다. 200~300회의 연속 호출을 지원해 여러 단계에 걸쳐 상태를 유지하며, 넓은 컨텍스트 창으로 작업 내용을 메모리에 담아둘 수 있다.
코딩 및 소프트웨어 엔지니어링
SWE Bench Verified는 모델이 저장소의 이슈를 읽고 패치를 작성해 테스트를 통과시킬 수 있는지 평가한다. K2 Thinking은 도구 사용 시 71.3%를 기록해 오픈 웨이트 시스템으로서는 강력한 성과를 보였다. LiveCodeBench v6에서는 83.1%, SWE Multilingual에서는 61.1%를 기록했다. 커뮤니티 시연에서는 게임과 완성형 웹 앱을 포함해 한 번의 프롬프트로 작동하는 프로젝트를 만든 뒤, 도구를 반복 호출해 수정하는 모습이 확인됐다. 긴 컨텍스트는 코드 탐색에 도움이 되며, INT4 추론은 개발 세션이 길어져도 지연 시간을 낮게 유지한다.
가격, 이용 방법 및 라이선스
K2 Thinking은 수정 MIT 라이선스로 출시됐다. 상업적 이용이 허용되며, 대규모 배포에는 간단한 출처 표시가 필요하다. 채팅은 Kimi.com에서 이용할 수 있고 Kimi Open Platform을 통해 API로도 접근할 수 있다. 자체 호스팅을 원하는 팀은 huggingface.co/moonshotai/Kimi-K2-Thinking 같은 공개 모델 허브에서 가중치를 받을 수 있으며, 플랫폼 문서는 platform.moonshot.ai에서 확인할 수 있다.
가격은 폐쇄형 대안보다 낮게 책정됐다. 문샷은 캐시 적중 시 100만 토큰당 약 0.15달러, 캐시 미스 시 약 0.60달러, 출력은 약 2.50달러로 제시한다. GPT 5는 입력 토큰 100만 개당 약 1.25달러, 출력 토큰 100만 개당 10달러다. K2 Thinking의 네이티브 INT4 지원은 실행 비용을 낮추며, 전문가 혼합 구조는 네트워크의 일부만 한 번에 작동하게 한다. Kimi.com의 일반 채팅 모드는 가벼운 사용을 위해 도구가 제한돼 있어, 에이전트 모드 출시가 완료되기 전까지는 사이트에서 얻는 결과가 에이전트 벤치마크와 다를 수 있다.
AI 경쟁에서 이번 출시가 중요한 이유
오픈 모델이 최고의 폐쇄형 시스템과의 격차를 좁히고 있다. K2 Thinking의 벤치마크 성과는 오픈 연구가 추론, 코딩, 에이전트 작업의 최상위권에서 경쟁할 수 있게 됐음을 보여준다. 이에 따라 독점 모델 제공업체는 점수 경쟁뿐 아니라 신뢰성, 안전 도구, 기업 지원, 통합 제품으로 차별화를 꾀해야 한다는 압박을 받는다. 기업은 오픈 웨이트를 통해 데이터, 규정 준수, 배포 범위를 직접 통제할 수 있다. 개발자에게는 토큰마다 높은 비용을 지불하지 않고도 고급 에이전트 기능을 시험해 볼 수 있는 길이 열린다.
커지는 중국의 AI 위상
중국 연구소들이 빠르게 움직이며 AI 논의에서 차지하는 비중을 늘리고 있다. DeepSeek, Qwen, MiniMax, Kimi 같은 이름이 꾸준한 출시를 통해 주목받고 있다. 앞서 MiniMax가 오픈 모델의 벤치마크 경쟁 속도와 낮은 비용의 기준을 제시했다면, K2 Thinking은 장기 추론과 에이전트 도구 활용을 한층 밀어붙인다. 분석가들은 중국 팀들이 피드백 주기를 단축하고 테스트 시점 스케일링에 주력하며, 일부 과제에서는 여전히 최고의 폐쇄형 시스템이 앞서더라도 잦은 출시를 경쟁력으로 활용하고 있다고 지적한다. 경쟁의 중심도 채팅에서 계획을 세우고 도구를 사용해 복잡한 목표를 달성하는 에이전트 지능으로 옮겨가고 있다. K2 Thinking은 바로 이런 변화에 맞춰 설계됐다.
기능과 실제 활용 사례
문샷의 시연과 사용자 테스트는 모델이 장시간 이어지는 작업을 어떻게 해결하는지 보여준다. 한 시연에서 모델은 박사과정 수준의 수학 문제를 다루며 논문을 읽고, 공식을 추출하고, Python 코드를 실행하고, 결과를 검증하는 과정을 20회 넘게 거친 뒤 최종 해답을 제시했다. 다른 시연에서는 배우 지미 게리 주니어(Jimmy Gary Jr.)를 찾아 특정 영화 배역을 확인하기 위해 여러 차례 검색을 반복했다. 여러 웹페이지를 꼼꼼히 대조해야 하는 작업이었다. 코딩 세션에서 테스터들은 K2 Thinking이 한 번의 시도로 스페이스 인베이더 스타일 게임을 만들고, 도구를 반복 호출하며 개선할 수 있다고 전했다. 다른 사례에서는 웹사이트 전체를 구성하고 프런트엔드 컴포넌트를 만들었으며, 파일과 메뉴를 다루는 데스크톱 스타일 인터페이스까지 재현했다.
개발자들이 확인한 성능
개발자 포럼의 독립 테스터들은 속도와 제어 기능이 균형을 이룬다고 평가했다. 한 숙련된 사용자는 일반 소비자용 하드웨어에서 모델을 실행해 대규모 프롬프트와 긴 도구 호출 과정에서도 안정적으로 작동했다고 전했다. 이 리뷰어는 네이티브 INT4 경로를 사용하면 품질을 안정적으로 유지하면서 속도가 향상됐다고 덧붙였다.
제 테스트에서는 최대 300회의 연속 도구 호출을 일관성을 잃지 않고 처리했습니다. 이전 모델보다 크게 개선된 점입니다.
같은 테스터는 대규모 코드 프로젝트를 다룬 25만6,000 토큰의 컨텍스트 창, 다국어 코딩 성능, 프런트엔드 작업에서의 실질적인 향상도 언급했다. 고성능 데스크톱에서 보고된 처리량은 설정에 따라 초당 수십~수백 토큰에 달해 개발 작업에 필요한 에이전트 호출을 충분히 빠르게 수행할 수 있었다.
전문가의 견해
오픈 모델과 에이전트 시스템을 추적하는 AI 연구자 네이선 램버트(Nathan Lambert)는 K2 Thinking이 오픈 웨이트 모델의 최상위 성능을 둘러싼 전환점이라고 평가한다. 그는 중국 기반 연구소들이 빠른 속도로 모델을 출시하고 있다는 점도 강조했다.
이번 출시는 성능 면에서 오픈 모델이 폐쇄형 최첨단 모델에 가장 가까이 다가선 사례로 평가됩니다.
램버트는 일부 분야에서는 폐쇄형 모델이 여전히 앞서지만, 오픈 모델 진영이 새로운 시스템과 개선판을 더 빠르게 내놓는다는 점도 지적했다.
오픈 모델은 더 빠르게 출시됩니다. 중국 연구소들은 서구 연구소보다 훨씬 빠르게 모델을 공개합니다.
K2 Thinking이 앞으로 입증해야 할 점
벤치마크에서 앞선다고 해서 실제 운영 환경 전반에서 우월하다는 뜻은 아니다. 일부 사용자는 매우 긴 컨텍스트에서 회상 능력이 간혹 떨어진다고 보고했는데, 이는 긴 컨텍스트를 지원하는 시스템이 흔히 겪는 문제다. 벤치마크마다 허용되는 도구 사용량과 사고 토큰 한도가 달라 비교 결과는 팀별 테스트 시점 스케일링의 정도에 따라 달라질 수 있다. 한 세션에서 도구를 수백 번 호출하면 호스팅에도 부담이 된다. 제공업체가 더 많은 상태 정보와 네트워크 호출, 더 큰 로그를 처리해야 하기 때문이다.
기업은 버전별 안정성, 설정을 고정했을 때 결과를 재현할 수 있는지, 기존 업무 흐름에 맞는 안전 도구를 제공하는지 지켜볼 것이다. 추론 기록을 출력하면 팀이 중간 단계를 확인할 수 있어 도움이 되지만, 운영자는 사고 과정을 어느 정도 기록할지, 민감한 내용을 언제 가릴지도 결정해야 한다. 마지막으로 오픈 설계는 커뮤니티의 빠른 개선을 가능하게 한다는 강점이 있지만, 속도와 메모리 사용량, 품질 간의 절충점이 각기 다른 파생 모델도 다수 등장할 수 있다. 초기 결과는 유망하며, 다양한 언어와 분야, 하드웨어에서 이어질 테스트를 통해 K2 Thinking의 강점이 어디에 있는지 드러날 것이다.
핵심 내용
- 문샷 AI는 상업적 이용을 허용하는 수정 MIT 라이선스로 오픈 웨이트 모델 Kimi K2 Thinking을 출시했다.
- 이 모델은 총 1조 개, 토큰마다 약 320억 개가 활성화되는 전문가 혼합 구조를 사용한다.
- 양자화 인식 학습을 통한 네이티브 INT4 추론으로 품질을 유지하면서 비용과 지연 시간을 줄였다.
- K2 Thinking은 도구를 사용한 Humanity’s Last Exam에서 44.9%, BrowseComp에서 60.2%를 기록해 해당 에이전트 평가에서 GPT 5를 앞섰다.
- 코딩 점수는 SWE Bench Verified에서 71.3%, LiveCodeBench v6에서 83.1%다.
- 시스템은 25만6,000 토큰의 컨텍스트 창을 지원하고 200~300회의 연속 도구 호출을 처리할 수 있다.
- 가격은 캐시 적중 시 토큰 100만 개당 약 0.15달러, 캐시 미스 시 0.60달러, 출력 시 2.50달러로 GPT 5보다 훨씬 낮다.
- Kimi.com, Kimi Open Platform API, Hugging Face 같은 공개 허브를 통해 이용할 수 있다.
- Kimi, DeepSeek, Qwen, MiniMax를 비롯한 중국의 오픈 모델은 빠른 출시와 높은 벤치마크 점수로 경쟁을 주도하고 있다.
- 긴 컨텍스트에서의 신뢰성, 장시간 도구 호출을 지원하는 호스팅 역량, 운영 환경에서의 실제 성능을 주시해야 한다.
