알리바바의 초희소 코딩 AI, 실리콘밸리의 지배력에 도전

알리바바의 초희소 코딩 AI, 실리콘밸리의 지배력에 도전

중국 기술 대기업 알리바바가 오픈소스 코딩 모델 Qwen3-Coder-Next를 출시했다. 이 모델은 OpenAI와 Anthropic의 독점 시스템에 필적하는 성능을 내면서도 컴퓨팅 자원은 일부만 필요로 한다. 800억 개의 파라미터를 갖춘 이 모델은 초희소 전문가 혼합(Mixture-of-Experts) 아키텍처를 통해 순전파 한 번에 파라미터 30억 개만 활성화한다. 덕분에 개발자들은 대규모 언어 모델에서 흔히 발생하는 지연과 비용 부담 없이 로컬 하드웨어에서 정교한 코딩 에이전트를 실행할 수 있다. 이는 AI 엔지니어링의 경제성을 근본적으로 바꾸는 접근법으로, 정교한 추론 능력에 반드시 막대한 컴퓨팅 자원이 필요한 것은 아니라는 점을 보여준다.

이번 출시는 AI 코딩 보조 도구 시장이 빠르게 달아오르는 가운데 이뤄졌다. Anthropic은 최근 Claude Code의 효율성 개선을 공개했고, OpenAI는 Codex 애플리케이션을 출시했다. OpenClaw와 같은 오픈소스 프레임워크도 커뮤니티에서 빠르게 확산되고 있다. 알리바바는 Apache 2.0에 따른 적극적인 오픈소스 라이선스와, 모델이 클수록 성능이 항상 더 좋다는 통념에 도전하는 아키텍처 혁신을 결합해 차별화를 꾀했다. 모델 가중치는 다양한 배포 환경에 맞춘 FP8 및 GGUF 형식을 포함해 여러 버전으로 Hugging Face에서 제공되며, 학습 방법론과 아키텍처 선택을 상세히 설명한 기술 보고서도 함께 공개됐다.

독립적인 벤치마크 결과는 알리바바의 효율성 주장을 뒷받침한다. 다양한 하드웨어 구성에서 실시한 테스트에서 Qwen3-Coder-Next는 코딩 작업 품질 점수 10점 만점에 9.9점을 유지하면서 초당 172토큰을 처리했다. 이는 개발자들이 로컬 개발 도구를 선택할 때 더 이상 속도와 정확성 중 하나를 포기하지 않아도 된다는 점을 보여준다. 이 모델은 지원 프로그래밍 언어를 기존 버전의 92개에서 크게 늘려 370개로 확대했다. 기본 컨텍스트 창은 25만6,000토큰이며, 외삽 기법을 통해 100만 토큰까지 확장할 수 있다.

하이브리드 아키텍처로 메모리 장벽 돌파

기존 트랜스포머 모델은 2차 확장 문제라는 중대한 한계에 직면한다. 컨텍스트 창이 커지면 표준 어텐션 메커니즘의 처리 비용이 시퀀스 길이에 따라 제곱으로 증가해 계산 부담이 감당하기 어려운 수준에 이른다. 이로 인해 모델이 대규모 코드베이스나 긴 대화를 효율적으로 처리하지 못하는 메모리 장벽이 생긴다. Qwen3-Coder-Next는 Gated DeltaNet과 Gated Attention을 결합한 하이브리드 아키텍처로 이 문제에 대응하며, 언어 모델이 긴 컨텍스트에서 정보를 처리하는 방식을 근본적으로 재설계했다.

Gated DeltaNet은 기존 소프트맥스 어텐션을 대체하는 선형 복잡도 방식이다. 이를 통해 모델은 긴 추론 과정에서 흔히 발생하는 지연 급증 없이 25만 토큰 컨텍스트 창 전반에 걸쳐 상태를 유지할 수 있다. 초희소 MoE 설계와 결합하면 저장소 단위 작업에서 비슷한 전체 용량의 밀집 모델보다 이론적으로 10배 높은 처리량을 제공한다. 에이전트는 파이썬 라이브러리 전체나 복잡한 자바스크립트 프레임워크를 읽고, 800억 파라미터 시스템의 구조적 이해력을 유지하면서도 30억 파라미터 모델과 같은 속도로 응답할 수 있다.

학습 중 컨텍스트 환각을 방지하기 위해 개발팀은 전통적인 문서 연결 방식에서 발생하는 잘림 오류 없이 효율성을 유지하는 Best-Fit Packing 전략을 사용했다. 아키텍처에는 사전 학습과 사후 학습 단계 모두에서 안정적인 성능을 보장하는 영점 중심 및 가중치 감쇠 레이어 정규화 기법 등 안정성 최적화도 적용됐다. 또한 여러 개의 다음 토큰을 순차적으로 생성하는 대신 동시에 예측해 사전 학습 성능을 높이고 추론을 가속하는 멀티토큰 예측(Multi-Token Prediction)도 지원한다.

정적 코드 쌍을 넘어선 에이전트 우선 학습

기존 코딩 모델은 정적인 코드 텍스트 쌍을 이용해 학습하는 경우가 많았다. 사실상 읽기 전용 학습 방식이어서 동적인 개발 환경과 상호작용하는 능력이 제한됐다. Qwen3-Coder-Next는 실제 상황에서 추출한 검증 가능한 코딩 작업 80만 개를 생성한 대규모 에이전트 학습 파이프라인을 통해 이 전통에서 벗어났다. 이 작업들은 단순한 코드 조각이 아니라 GitHub 풀 리퀘스트에서 추출한 실제 버그 수정 사례와 완전히 실행 가능한 컨테이너 환경으로 구성됐다.

MegaFlow라는 이름의 학습 인프라는 알리바바 클라우드 쿠버네티스를 기반으로 구축된 클라우드 네이티브 오케스트레이션 시스템이다. 각 에이전트 작업은 에이전트 실행, 평가, 사후 처리의 3단계 절차를 따른다. 실행 단계에서 모델은 컨테이너 환경과 실시간으로 상호작용하며, 생성한 코드가 단위 테스트에 실패하거나 컨테이너가 중단되면 즉각적인 피드백을 받는다. 이 폐쇄 루프 학습은 중간 학습 단계의 강화학습을 통해 시스템이 환경의 피드백에서 배우도록 한다. 정답을 단순히 암기하는 대신 오류에서 복구하고 실시간으로 해결책을 개선하는 법을 익힌다.

학습 과정에서는 개별 파일 분석보다 저장소 전체 수준의 이해에 중점을 뒀다. 중간 학습에는 저장소 단위 데이터 약 6,000억 토큰이 추가됐으며, 이는 파일 단위 데이터만으로 학습하는 것보다 파일 간 의존성 논리를 파악하는 데 더 효과적이었다. 이 접근법을 통해 모델은 코드베이스의 여러 구성 요소 사이의 복잡한 관계를 이해할 수 있다. 이는 대규모 소프트웨어 엔지니어링 프로젝트를 다루는 데 핵심적인 능력이다. 시스템은 웹 개발과 사용자 경험 최적화 등 특정 분야를 위한 전문 모델도 활용했다. 이후 이 모델들의 지식을 기본 모델에 증류해 경량 배포 버전에도 세부적인 전문성을 담았다.

독점 모델 대기업에 맞서는 벤치마크 결과

실제 소프트웨어 문제 해결 능력을 평가하는 권위 있는 벤치마크 SWE-Bench Verified에서 Qwen3-Coder-Next는 70.6%를 기록했다. 이는 70.2%를 기록한 DeepSeek-V3.2를 앞서고, 74.2%의 GLM-4.7에 근접한 성적이다. 알리바바 모델은 경쟁 시스템보다 훨씬 적은 30억 개의 활성 파라미터만 사용한다는 점에서 특히 주목할 만하다. 더 까다로운 SWE-Bench Pro 벤치마크에서는 여러 차례 대화를 주고받는 에이전트 작업에서 장기 추론 능력이 두드러졌다.

이 모델의 역량은 기능적인 코드 생성뿐 아니라 보안을 고려한 개발에도 미친다. 취약점 수정 능력을 평가하는 SecCodeBench의 코드 생성 시나리오에서 Qwen3-Coder-Next는 61.2%를 기록해 52.5%를 기록한 Claude-Opus-4.5를 앞섰다. 특히 보안 관련 힌트를 전혀 제공하지 않아도 높은 점수를 유지했다. 이는 80만 개 작업을 활용한 에이전트 학습 과정에서 흔한 보안 위험에 대한 인식이 내재화됐음을 시사한다. 다국어 보안 평가에서도 기능성과 보안성을 모두 고려한 코드 생성 능력에서 경쟁력을 보였으며, CWEval 벤치마크의 func-sec@1 점수 56.32%로 DeepSeek-V3.2와 GLM-4.7을 모두 앞섰다.

코딩 벤치마크를 넘어 기반이 되는 Qwen3-Next 아키텍처는 전반적인 추론 능력도 뛰어나다. 기본 모델의 사고형 버전은 수학과 상식 기반 논리 추론 등 복잡한 추론 과제에서 경쟁 모델을 앞선다. BFCL-v3와 TAU 벤치마크 등 에이전트 역량 평가에서도 도구 사용과 자율적인 작업 수행 능력이 더 큰 독점 모델에 필적하거나 이를 능가한다.

보안 역량과 논란

벤치마크 점수는 이 모델이 보안성 높은 코드를 생성할 수 있음을 보여주지만, 일부 사이버 보안 전문가들은 중국의 국가안보 체계 아래 개발된 AI 코딩 도구를 도입할 때 발생할 수 있는 위험을 우려한다. Cybernews의 편집장 주르기타 라피에네(Jurgita Lapienyė)는 서구 개발자들이 광범위하게 도입할 경우 복잡한 코드베이스 안에 숨은 미묘한 취약점이 생길 수 있다고 경고했다.

개발자들은 핵심 시스템이 취약한 코드로 만들어지고 있다는 사실을 모른 채 미래를 향해 걸어 들어갈 수 있습니다.

중국 국가정보법에 따라 알리바바와 같은 기업은 데이터와 AI 모델과 관련한 정부 요청에 협조해야 한다. 이로 인해 생성된 코드에 의도적으로 감춰진 취약점이 포함될 가능성이 있다는 우려가 제기된다. 이러한 우려는 신뢰받는 소프트웨어 업데이트를 통해 장기간 침투가 이뤄진 솔라윈즈(SolarWinds) 사건과 유사한 공급망 공격 가능성에 초점을 맞춘다. 비판론자들은 코드베이스 전체를 살펴보고 독립적으로 수정할 수 있는 자율 코딩 에이전트가 시스템 방어 체계를 파악하고 맞춤형 공격을 설계하는 데 악용될 수 있다고 주장한다. 위험은 눈에 띄는 버그가 아니라 무해한 설계 결정처럼 보이고 표준 코드 검토에서 발견되지 않는 작고 탐지하기 어려운 문제에 있다.

오픈소스 접근법을 지지하는 측은 Apache 2.0 라이선스에 따라 모델 가중치를 완전히 검사할 수 있어 조직이 배포 전에 시스템을 감사할 수 있다고 지적한다. 그러나 보안 연구자들은 모델 가중치가 공개돼도 백엔드 인프라, 원격 측정 시스템, 사용 추적 방식은 여전히 불투명하다고 반박한다.

Qwen Code 생태계와 개발자 통합

알리바바는 모델 출시와 함께 Gemini Code에서 포크해 에이전트 기반 코딩 작업에 최적화한 명령줄 인터페이스 도구 Qwen Code도 오픈소스로 공개했다. 개발자는 맞춤형 프롬프트와 상호작용 프로토콜을 활용해 자연어 지시로 AI에 엔지니어링 작업을 맡길 수 있으며, 이를 통해 Qwen3-Coder-Next의 잠재력을 최대한 끌어낼 수 있다. CLI는 VS Code 확장 등 널리 쓰이는 개발 환경과 연동되며 Cline, Claude Code 인터페이스 같은 기존 커뮤니티 도구와도 원활하게 작동한다.

이 모델은 문자열이 긴 인수를 처리하도록 설계된 새로운 XML 스타일 도구 호출 형식을 지원한다. 이를 통해 JSON 기반 함수 호출에서 흔히 발생하는 중첩 인용과 이스케이프 처리 부담 없이 긴 코드 조각을 출력할 수 있다. 모델이 대규모 코드 블록을 생성하거나 외부 개발 도구와 상호작용할 때 토큰 소비와 파싱 복잡성을 줄여주는 만큼, 실제 배포에서 중요한 기술적 특징이다. 시스템에는 Qwen3 제품군과의 일관성을 유지하는 새 토크나이저도 적용됐다. 따라서 이전 버전에서 전환하는 개발자는 토큰화 파이프라인을 업데이트해야 한다.

클라우드 배포 옵션도 빠르게 늘고 있다. GroqCloud는 이제 전체 컨텍스트 창을 활용할 수 있는 Qwen3 모델을 지원한다. 가격은 입력 토큰 100만 개당 0.29달러, 출력 토큰 100만 개당 0.59달러이며 초당 535토큰을 넘는 추론 속도를 제공한다. 알리바바의 자체 Model Studio 플랫폼에서도 비용 효율적인 API를 이용할 수 있다. 회사는 Qwen 기반 코딩 모델의 누적 다운로드 수가 전 세계적으로 2,000만 건을 넘어섰다고 밝혔다. 알리바바의 통합 개발 환경 플러그인 Tongyi Lingma도 곧 Qwen3-Coder의 개선된 에이전트 기능을 반영한 업데이트를 받을 예정이어서, 기존 사용자 수백만 명이 새 기능을 이용할 수 있을 것으로 보인다.

글로벌 경쟁과 주권 AI 고려 사항

이번 출시는 중국 기업들이 오픈소스 전략으로 미국의 주도권에 도전하는 글로벌 AI 코딩 보조 도구 시장의 경쟁을 한층 격화한다. 알리바바는 Qwen3-Next 아키텍처가 자사의 플래그십 모델 Qwen3-235B-A22B에 맞먹는 성능을 내면서도 학습 비용은 이전 세대의 10분의 1로 줄었다고 주장한다. 이 같은 효율성 향상은 막대한 인프라 투자 없이도 고성능 AI 도구를 더 폭넓게 이용할 수 있게 해 개발도상 시장과 독립 개발자 사이에서 도입을 앞당길 가능성이 있다.

그러나 지정학적 긴장으로 도입 양상은 복잡해지고 있다. 분석가들은 규제와 신뢰, 국가안보 우려로 미국과 중국 모두에서 외국 AI 모델 도입이 드물어지고 있다고 지적한다. 각국이 자국 인프라와 클라우드 서비스가 뒷받침하는 모델을 선호하는 주권 AI의 부상은 오픈소스 모델의 확산이 국가 정책과 기업의 위험 허용 기준에 부합할 때 주로 이뤄질 수 있음을 시사한다. Qwen3-Coder-Next가 아시아태평양 지역에서 알리바바 클라우드의 확장을 가속할 수 있지만, 기술적 장점에도 불구하고 엄격한 규제와 보안 우려는 서구권 도입을 제한할 가능성이 크다.

Omdia의 수석 애널리스트 리안 제이 수(Lian Jye Su)는 기술 성능과 관계없이 철저한 보안 평가가 필요하다고 강조했다.

서구 기술 업계 리더들이 여러 벤치마크에서 뛰어난 성능을 보인 Qwen3-Coder 같은 오픈소스 코딩 모델에 매력을 느껴도 놀랍지 않을 것입니다. 지식재산권 보호와 데이터 보안에 대한 우려는 물론 타당합니다. 따라서 미국 기술 업계 리더들에게 출처와 관계없이 모든 오픈소스 모델을 철저히 평가할 것을 권고합니다.

경쟁 구도를 보면 궁극적인 코딩 보조 도구는 독점적인 폐쇄형 개발이 아니라 개방형 아키텍처를 협력적으로 개선하는 과정에서 나올 수 있다. 다만 이를 위해서는 신뢰와 보안 검증이 확립돼야 한다.

핵심 요약

• 알리바바의 Qwen3-Coder-Next는 총 800억 개 중 활성 파라미터 30억 개만 사용해 SWE-Bench Verified에서 70.6%의 정확도를 기록하며, 훨씬 큰 독점 모델에 필적하는 성능을 보인다.
• Gated DeltaNet과 Gated Attention을 결합한 하이브리드 아키텍처는 선형 계산 복잡도를 유지하면서 25만6,000토큰의 컨텍스트 창을 제공하고, 이를 100만 토큰까지 확장할 수 있다.
• MegaFlow 인프라에서 검증 가능한 실제 작업 80만 개를 활용한 에이전트 학습으로 정적 코드 암기를 넘어선 폐쇄 루프 학습 역량을 구현했다.
• 독립 벤치마크에서 일반 소비자용 하드웨어로 초당 172토큰을 처리하는 것으로 확인돼 로컬 개발 환경에서 실용성이 입증됐다.
• 보안 평가에서 Claude-Opus-4.5보다 취약점 수정 능력이 뛰어난 것으로 나타났지만, 데이터 주권과 잠재적인 공급망 위험을 둘러싼 지정학적 우려는 서구 기업의 도입을 가로막는 중요한 장벽으로 남아 있다.
• Apache 2.0 라이선스에 따라 상업적 이용과 모델 검사가 가능하며, Hugging Face에서 가중치를 내려받을 수 있다. 개발자는 Qwen Code CLI 도구를 통해 즉시 통합할 수 있다.