문샷, Kimi K3.1 Pro 가중치 공개…화웨이·알리바바 배포 지원

2조8천억 개 매개변수 모델, API를 넘어

문샷AI가 Hugging Face에 Kimi K3.1 Pro의 전체 가중치를 공개해 개발자와 기업이 자체 컴퓨팅 인프라에서 주력 멀티모달 모델을 실행할 수 있게 됐다. 이번 발표는 베이징 시간 11월 5일 새벽 나왔다. 앞서 2026년 10월 24일 모델을 공개해 Kimi 제품과 애플리케이션 프로그래밍 인터페이스(API)를 통해 이용할 수 있도록 한 바 있다.

K3.1 Pro는 모델이 학습한 내용을 저장하는 수치 설정인 매개변수 2조8천억 개를 갖췄다. 전문가 혼합(MoE) 설계를 적용해 모델 전체를 한꺼번에 사용하는 대신 추론 단계마다 약 1,040억 개의 매개변수를 활성화한다. 약 100만 토큰의 컨텍스트를 지원하며 텍스트와 함께 시각 정보도 이해할 수 있다.

화웨이 어센드와 알리바바 클라우드는 가중치 공개 당일 지원을 발표했다. 양사의 배포에는 학습된 모델이 요청을 처리하는 방식을 관리하는 소프트웨어인 vLLM과 SGLang 추론 프레임워크가 쓰인다. 자체 배포를 검토하는 기업은 이번 공개로 내려받을 수 있는 가중치와 중국산 가속기 시스템에서 모델을 실행할 초기 경로를 모두 확보하게 됐다.

문샷은 10월 24일 갱신한 모델 출시 발표에서 11월 4일까지 전체 가중치를 공개하겠다고 밝혔다. 실제 공개 발표는 11월 5일 나왔다. 회사는 앞서 kimi.com, Kimi App, Kimi Work, Kimi Code, Kimi API를 통해 이용할 수 있도록 했다.

실질적인 변화는 모델이 실행되는 곳을 직접 통제할 수 있다는 점이다. API 고객은 제공업체의 서비스로 요청을 보낸다. 가중치를 배포하는 조직은 문샷의 라이선스와 모델 운영에 필요한 상당한 하드웨어를 전제로, 직접 관리하는 인프라 안에서 모델을 운영할 수 있다.

문샷은 AI 에이전트가 장시간 작업을 수행하도록 유지하는 관리형 서비스 Kimi Hosted Agents도 선보였다. 두 발표를 통해 기업은 모델을 직접 관리하거나 운영 업무의 상당 부분을 Kimi에 맡기는 두 가지 선택지를 갖게 됐다.

새로운 점과 K3에서 이어진 점

Kimi K3.1 Pro는 새 기반 모델을 처음부터 학습하는 대신 추가 학습을 통해 K3를 발전시킨 모델이다. 문샷은 강화학습에 투입하는 컴퓨팅 자원을 대폭 늘렸다고 밝혔다. 강화학습은 성공적인 행동에 보상을 주고 반복 시도를 통해 모델이 개선되도록 하는 방식이다.

문샷은 코딩, 3D 제작, 금융 조사, 여러 단계를 수행하는 에이전트에 특히 주목해 수백 가지 작업 영역에서 학습을 진행했다. 학습 소프트웨어, 장문 컨텍스트 처리, 스케줄링, 생성된 코드를 실행할 수 있는 샌드박스 환경도 개선했다.

약 100만 토큰의 컨텍스트 창은 K3에서 이어졌다. 토큰은 모델이 텍스트와 기타 입력을 나누는 단위다. 컨텍스트 창이 크면 요청을 처리하는 동안 더 많은 문서와 지침, 이전 대화를 참고할 수 있다.

출시 과정에서 서비스 이용과 모델 자체에 대한 접근은 별도로 이뤄졌다:

• 2026년 7월 16일: 공개된 모델 비교 자료에 따르면 Kimi K3가 공개됐다.
• 2026년 10월 24일: 문샷이 제품과 API를 통해 K3.1 Pro를 공개하고, 11월 4일까지 가중치를 공개하겠다고 밝혔다.
• 11월 5일: 문샷이 가중치 공개와 Kimi Hosted Agents를 발표했고, 화웨이와 알리바바도 배포 지원을 발표했다.

오픈 가중치, 운영 및 라이선스 조건 수반

충분한 컴퓨팅 역량을 갖춘 조직은 가중치를 내려받아 K3.1 Pro를 독립적으로 실행할 수 있다. 기업은 자체 서빙 시스템을 구성하고 내부 도구를 연결하며 적용되는 라이선스에 따라 특화된 모델을 개발할 수 있다.

문샷은 상업적 이용을 규율하는 자체 라이선스를 적용한다. 이번 공개에는 모델 가중치가 포함되지만 학습 코드와 원본 학습 데이터셋은 공개되지 않았다. 따라서 개발자는 오픈소스 이니셔티브(Open Source Initiative)의 정의에 부합하는 완전한 학습 패키지가 아니라, 문샷 약관에 따른 이용 허가가 적용되는 학습 완료 모델을 받는다.

모델 크기는 여전히 중요한 운영 고려 사항이다. 전문가 혼합 네트워크의 일부만 각 단계에서 활성화되더라도, 배포 시스템은 전체 가중치에 접근할 수 있어야 한다. 긴 요청을 처리할 때는 모델이 작업하는 동안 저장해야 하는 임시 어텐션 데이터도 대량으로 발생한다.

화웨이, 어센드 시스템에 메모리 부하 분산

화웨이는 K3.1 Pro 가중치 공개 당일 어센드 팀이 적용 작업을 마쳐 즉시 배포 검증을 진행할 수 있게 됐다고 밝혔다. 지원 대상은 vLLM Ascend와 SGLang을 통한 Atlas 800 A3, Atlas 900 A3 SuperPod, Ascend 950 슈퍼노드 시스템이다.

이번 적용은 희소 어텐션과 멀티모달 처리를 포함한 모델의 하이브리드 어텐션 아키텍처를 다룬다. 어텐션은 모델이 다음 단계를 처리할 때 입력의 어떤 부분이 중요한지 판단하도록 돕는 메커니즘이다. 희소 어텐션은 일부 연결을 제한해 매우 긴 입력을 처리하는 데 필요한 작업량을 줄인다.

어센드는 분산 캐싱을 이용해 임시 모델 데이터를 여러 신경망처리장치(NPU)에 나눠 저장함으로써 가속기별 메모리 부담을 낮춘다. 화웨이는 불필요한 데이터 복사와 연산을 줄이는 핵심 수학 연산의 변경도 설명했다.

배포자는 원본 가중치를 불러오거나 모델 구성 요소별로 낮은 비트 정밀도를 사용하고, 어텐션 캐시 양자화를 적용할 수 있다. 양자화는 더 적은 비트로 수치를 저장해 메모리 사용량을 줄이는 방식이다. 화웨이는 이번 구현이 반복 입력을 재사용하는 프리픽스 캐싱, 긴 프롬프트를 나눠 처리하는 청크 프리필, 제안된 토큰을 묶음으로 검증해 생성을 가속하는 추측적 추론을 지원한다고 밝혔다.

알리바바, SuperPoD 플랫폼으로 추가 배포 경로 마련

알리바바 클라우드는 vLLM과 SGLang 기반 소프트웨어 스택 전반에서 Lingjun Zhenwu M890 SuperPoD의 적용과 검증을 마쳤다고 밝혔다. Zhenwu 810E 구성도 지원해 중국산 가속기에서 모델을 배포할 수 있는 경로가 추가됐다.

알리바바 클라우드와 T-Head, Kimi 팀은 FlashMLA, DeepGEMM 전문가 혼합 연산, MegaMoE, MoonEP를 포함한 T-Head SAIL 소프트웨어 스택을 공동으로 작업했다. 이들 구성 요소는 어텐션 연산과 전문가 및 가속기 간 작업 분배를 처리한다. 고객은 전용 베어메탈 SuperPoD 인스턴스나 알리바바의 REIN 서비스를 통해 배포할 수 있으며, Qwen AI 플랫폼을 통한 API 이용도 가능하다.

알리바바는 출시 당일 닝샤 중웨이의 SuperPoD 지역에서 초청 테스트를 시작했으며, 중웨이와 우란차부에서 인스턴스를 제공했다. 중웨이 구성에는 T-Head의 Panmai 920 네트워크 카드가 추가됐다. 알리바바에 따르면 이 카드는 PCIe 5.0, 112G PAM4 이더넷을 지원하며 초당 최대 400기가비트 처리량과 4억 개 패킷 처리 성능을 갖췄다.

이 같은 네트워킹 사양이 중요한 이유는 이처럼 큰 모델이 프로세서 간 정보를 빠르게 주고받아야 하기 때문이다. 알리바바는 카드에 통합된 PCIe 스위치가 시스템 비용을 약 30% 줄일 수 있다고 밝혔다. 또 M890 SuperPoD가 대형 고객 100곳 이상에 서비스를 제공하고 있으며, 계획 중인 후속 제품 V900은 현 세대 대비 약 3배의 성능을 낼 것으로 전망했다. 이 수치는 회사의 예상이다.

코딩 결과, 지속적인 실행 능력 향상 보여

문샷은 실제 컴퓨팅 환경에서 자원 제약 아래 에이전트의 터미널 작업 능력을 평가하는 Terminal-Bench 4.0에서 65.7%를 기록했다고 밝혔다. 공개된 비교 자료에서 GPT-6 Astra는 58.2%, Claude Opus 5.5는 66.4%를 기록해 해당 평가 환경에서 K3.1 Pro는 후자보다 0.7%포인트 낮았다.

문샷의 내부 Kimi Code Bench 3.0 장기 과제 점수는 K3의 55.95%에서 K3.1 Pro의 61.2%로 5.25%포인트 올랐다. 이 테스트는 계획 수립, 도구 사용, 여러 단계를 거쳐 엔지니어링 문제를 해결하는 능력을 평가한다.

독립 평가에서도 다른 결과를 확인할 수 있다. Artificial Analysis는 지능 지수가 44에서 55로 올랐고, Terminal-Bench에서 K3.1 Pro가 약 67%, K3가 13%를 기록했다고 집계했다. 이 기관의 터미널 평가는 문샷과 다른 에이전트 프레임워크를 사용했으므로, 두 점수는 서로 다른 운영 환경을 반영한다.

문샷이 공개한 시연은 코드 생성뿐 아니라 끈기 있는 수행 능력에도 초점을 맞췄다. 한 내부 실험에서 모델은 골격 구성 요소 296개와 근육 구성 요소 402개로 만든 보행 시뮬레이션을 작업했다. 회사에 따르면 모델은 167개 작업과 420회의 독립 평가를 거쳐 시뮬레이션된 신체의 연속 보행 시간을 11.2초로 늘리고 어깨 근육 계산 오류 36개를 수정했다.

별도의 Plotly 평가에서 K3.1 Pro는 43개 중 42개 정답을 기록해 K3의 35개보다 높았지만, 비용과 중앙 완료 시간도 늘었다. 따라서 토큰 생성 속도가 빠르고 답변이 더 정확하더라도 작업을 완료하기까지 대기 시간은 길어질 수 있다.

3D 제작과 금융 분야에 맞춤형 개선

문샷에 따르면 K3.1 Pro는 도구를 사용한 BenchCAD에서 92.7%를 기록했다. 이 벤치마크는 모델이 여러 시점의 이미지를 보고 컴퓨터 지원 설계(CAD) 코드를 생성해 3D 물체를 재구성하도록 한다. 회사의 비교 자료에는 Claude Opus 5.5가 96.2%, GPT-6 Astra가 95.9%로 나와 있다.

문샷은 모델이 Blender와 CAD 소프트웨어를 비롯한 전문 모델링 도구에서 스크립트를 작성하고 실행할 수 있다고 밝혔다. 예시로는 솔리드 객체 2,100개로 구성된 FreeCAD 터보팬 엔진과 3D 프린팅용으로 다섯 부분을 설계한 램프가 있다. Kimi 웹사이트와 앱에서도 3D Make를 이용해 모델을 미리 보고 편집하거나 내보낼 수 있다.

금융 업무도 주요 목표 분야다. 문샷은 실제 금융 문서를 대상으로 검색, 문서 간 대조, 수리 추론 능력을 시험하는 OfficeQA Pro v2에서 64.4점을 기록했다고 밝혔다. 내부 평가에서는 금융 모델링이 14%, 금융 조사가 20% 향상됐고, 시뮬레이션 기업 운영 점수는 K3의 약 4.2배에 달했다.

공개된 비교 자료에는 두 테스트의 구체적인 점수가 나와 있다. 금융 조사는 58.8에서 70.4로, 기업 운영은 8.9에서 37.0으로 올랐다. 기업 사용자가 기대하는 효과는 정보를 찾는 단계부터 계산을 거쳐 완성된 워크북이나 조사 결과물을 만드는 단계까지 모델이 작업을 이어가는 것이다.

문샷, 사실 오류율 관련 상이한 결과 두 가지 공개

문샷의 출시 발표에 따르면 Kimi Hallu Bench Hard에서 단일 사실 주장 오류율은 K3의 23.4%에서 K3.1 Pro의 8.3%로 낮아졌다. API 가이드에는 이와 다른 스트레스 테스트 결과가 제시됐다. 사용자가 사실 오류가 있다고 표시한 익명화 대화를 대상으로 한 평가에서 오류율은 23.35%에서 6.85%로 하락했다.

두 페이지는 답변 단위 수치도 다르게 제시한다. 출시 발표는 사실 오류가 하나 이상 포함된 응답의 비율이 K3 수치의 약 42.4%라고 밝힌 반면, API 가이드는 약 46.4%라고 설명한다. 문샷은 두 평가의 관계를 설명하지 않았다.

두 결과 모두 모델이 실수하기 쉬운 어려운 사례를 대상으로 한다. 금융 및 기업 업무에 배포할 때는 결과물을 바탕으로 행동하기 전에 계산, 인용, 사실 진술을 원자료와 대조해 확인해야 한다.

독립 비교 평가에서는 장문 컨텍스트 테스트 하나의 점수가 소폭 하락한 것으로 나타났다. AA-LCR v1.1 점수는 K3의 88.7%에서 K3.1 Pro의 86.3%로 내려갔다. 긴 문서를 처리하는 조직은 변함없는 컨텍스트 용량뿐 아니라 검색 정확도도 고려해야 한다.

호스팅 에이전트와 API 이용, 서로 다른 장단점

Kimi Hosted Agents는 AI 모델 주변의 운영 프레임워크, 흔히 하니스라고 부르는 시스템을 제공한다. 이 프레임워크는 도구, 코드 실행, 컨텍스트, 권한, 작업 중단 시 복구를 관리한다. 문샷은 이 서비스가 상시 운영과 장시간 작업, 여러 에이전트 간 협업을 지원한다고 밝혔다.

문샷은 내부 모니터링과 운영 대응을 잠재적 활용 사례로 꼽았으며, 고객 대면 조사 보조 및 지원 서비스도 언급했다. 관리형 서비스를 쓰는 기업은 작업을 정의하고 도구를 연결하며, Kimi가 기반 런타임을 유지 관리한다. 가중치를 직접 실행하는 기업은 자체 서빙 및 운영 체계를 책임져야 한다.

API 고객이 K3.1 Pro를 이용하려면 문샷의 API 빠른 시작 가이드에 따라 최소 10위안을 충전해야 한다. 신규 가입자에게 제공되는 15위안 바우처는 이 모델에 사용할 수 없다. 가이드에는 낮음, 높음, 최대의 추론 설정이 있으며 기본값은 최대다. 캐시 보존 시간은 5분 또는 1시간 중 선택할 수 있다.

문샷은 K3.1 Pro Highspeed도 제공한다. 회사는 이 모델이 동일한 지능 수준을 유지하면서 출력 속도는 약 2~3배 빠르다고 밝혔다. 공개된 비교 자료에 따르면 표준 입력·출력 요금은 토큰 100만 개당 각각 2달러와 10달러로, K3의 3달러와 15달러보다 3분의 1 낮다. 캐시 요금과 기타 적용 수수료는 별도다. 총비용은 작업에 사용되는 토큰과 도구 상호작용 횟수에 따라 달라진다.

개발자가 유의해야 할 통합 요건도 있다. 도구 호출 간에 완성된 어시스턴트 메시지를 보존해야 하며, 시각 입력에는 공개 이미지 URL이 아니라 base64 데이터나 업로드된 파일 식별자를 사용해야 한다. 가이드에서는 웹 검색 도구가 업데이트되는 동안 이를 프로덕션 환경에서 사용하지 말라고 권고한다.

핵심 요점

• 문샷은 제품과 API를 통한 사전 공개에 이어 11월 5일 Kimi K3.1 Pro 가중치 공개를 발표했다.
• 모델은 총 매개변수 2조8천억 개, 추론 단계마다 활성화되는 매개변수 약 1,040억 개, 약 100만 토큰의 컨텍스트를 갖췄다.
• 화웨이 어센드와 알리바바 클라우드는 vLLM과 SGLang을 통한 배포 지원을 발표했다.
• 문샷은 코딩, 3D 모델링, 금융 분야의 향상을 보고했으며, 결과는 작업과 평가 환경에 따라 달랐다.
• 독립 배포에는 상당한 컴퓨팅 자원이 필요하며 문샷의 자체 라이선스를 준수해야 한다.
• Kimi Hosted Agents는 장시간 작업과 여러 에이전트 조율을 위한 관리형 대안을 제공한다.