소비자용 하드웨어에서 구현되는 최첨단 AI 성능
알리바바의 Qwen AI 개발팀이 최첨단 인공지능을 구현하려면 클라우드급 인프라나 독점 API가 필요하다는 통념에 정면으로 도전하는 새 대형 언어 모델 시리즈를 공개했다. 불과 며칠 전 발표된 Qwen3.5 중형 모델 시리즈는 로컬 하드웨어에서 효율적으로 실행되도록 설계된 모델 4종으로 구성됐으며, 서구권 주요 모델에 필적하는 성능을 내세운다.
목차
4종 가운데 3종은 허용 범위가 넓은 Apache 2.0 라이선스로 제공돼, 기업과 독립 개발자가 라이선스 비용 없이 다운로드하고 수정해 상업적으로 배포할 수 있다. 오픈소스 모델은 Qwen3.5-35B-A3B, Qwen3.5-122B-A10B, Qwen3.5-27B로, Hugging Face와 ModelScope에서 즉시 이용할 수 있다. 네 번째 모델인 Qwen3.5-Flash는 독점 모델로 남아 알리바바 클라우드 Model Studio API를 통해서만 제공되지만, 가격은 대부분의 서구 경쟁 서비스보다 상당히 저렴하다.
알리바바가 내세운 주장 가운데 가장 눈에 띄는 것은 성능 벤치마크다. 회사에 따르면 대표 모델 Qwen3.5-35B-A3B는 지식 검색과 시각적 추론을 평가하는 제3자 시험에서 OpenAI의 GPT-5-mini와 Anthropic의 Claude Sonnet 4.5를 앞섰다. Claude Sonnet 4.5가 출시된 지 불과 5개월밖에 되지 않았다는 점에서, 개발 주기가 보통 분기나 수년에 걸치는 업계에서 경쟁 격차가 빠르게 좁혀지는 것은 주목할 만하다.
아키텍처 혁신으로 가능한 로컬 배포
Qwen3.5가 이전 세대와 차별화되는 점은 Gated Delta Networks와 희소 혼합 전문가(Mixture-of-Experts) 시스템을 결합한 하이브리드 아키텍처다. 비전문가의 관점에서 보면 이는 AI 모델이 정보를 처리하는 방식의 근본적인 변화다. 기존의 밀집형 모델은 모든 질의에 전체 파라미터를 활성화해 막대한 연산 자원을 소모한다. 반면 MoE 방식은 전문가에게 자문을 구하는 것처럼 각 질의를 모델 지식 중 가장 관련성이 높은 일부에만 전달한다.
기술 사양에서 효율성 향상을 확인할 수 있다. Qwen3.5-35B-A3B에는 총 350억 개의 파라미터가 있지만, 토큰 하나를 처리할 때 활성화되는 파라미터는 30억 개에 불과하다. 아키텍처에는 전문가 모듈 256개가 사용되며, 이 가운데 라우팅된 전문가 8개와 공유 전문가 1개가 각 질의의 구체적인 측면을 처리한다. 이러한 선택적 활성화는 출력 품질을 유지하면서 추론 지연 시간을 크게 줄인다. 알리바바는 양자화로 가중치를 4비트까지 압축해도 정확도 손실이 거의 없다고 설명한다.
이처럼 양자화에 강한 특성은 배포 유연성 측면에서 획기적인 가능성을 제공한다. 대부분의 AI 모델은 로컬 실행을 위해 압축하면 성능이 크게 저하된다. 그러나 Qwen3.5는 압축 상태에서도 안정적으로 작동하도록 설계돼, 대표 모델이 VRAM 32GB를 갖춘 소비자용 GPU에서 100만 토큰이 넘는 컨텍스트 창을 처리할 수 있다. 고성능 소비자용 하드웨어가 필요하긴 하지만, 비슷한 성능을 내기 위해 경쟁 모델에 일반적으로 요구되는 서버 팜보다는 훨씬 쉽게 접근할 수 있는 수준이다.
벤치마크 점검: 성능 주장을 검증하는 독립 평가
알리바바가 제시한 벤치마크 결과는 전체 상황의 일부만 보여준다. 회사가 후원한 평가에서는 다국어 지식을 평가하는 MMMLU와 시각적 추론을 측정하는 MMMU-Pro 등에서 Qwen3.5-35B-A3B가 GPT-5-mini와 Claude Sonnet 4.5를 앞섰지만, 독립 테스트에서 드러난 경쟁 구도는 더 복잡하다.
합성 벤치마크 대신 실제 GitHub 풀 리퀘스트의 버그 수정을 평가한 최근 독립 SWE-rebench 테스트에서 Claude Sonnet 4.5는 55.1%의 최고 통과율을 기록했다. Anthropic 모델은 다른 어떤 시험 모델도 해결하지 못한 복잡한 사례를 여러 건 해결했다. 여기에는 python-trio, cubed-dev, canopen 저장소의 문제도 포함됐다. 실제 코딩 환경에서 Sonnet 4.5는 뚜렷한 우위를 유지했다.
실제 코드베이스의 문제를 다루는 70개 과제로 진행된 추가 독립 APEX 벤치마크에서도 Qwen3.5의 성능 양상은 한층 복잡하게 나타났다. 단일 GPU 배포를 겨냥한 27B 밀집형 모델은 ELO 1384점을 기록해 DeepSeek V3.2를 앞서는 등 준수한 성능을 보였다. 그러나 더 큰 모델들은 여러 파일을 아우르는 복잡한 협업 작업에서 우려되는 성능 저하를 보였다. 활성 파라미터가 30억 개에 불과한 35B MoE 모델은 에이전트형 작업에서 ELO 1256점으로 떨어져, 다단계 추론에서는 더 작은 27B 모델보다 낮은 성적을 기록했다. 특히 대규모 Qwen3.5-397B 모델은 최고 난도 과제에서 급격히 무너졌다. 어려운 과제에서 약 1550점이던 ELO가 긴 추론 과정에서 여러 파일을 연계해야 하는 과제에서는 1194점으로 내려갔다.
여러 단계에 걸쳐 많은 파일을 조율해야 할 때면, 자신이 무엇을 하고 있는지 놓치고 만다.
테스트 비용으로 3,000달러 이상을 지출한 자비 연구자가 발표한 이 독립 분석은 Qwen3.5가 범위가 제한된 작업에서는 뛰어나지만, Claude Sonnet 4.5가 특히 강점을 보이는 복잡하고 장기간에 걸친 에이전트형 작업에서는 어려움을 겪을 수 있음을 시사한다.
사고 모드와 도구 통합
Qwen3.5 모델 전 제품군에는 기본값으로 활성화되는 네이티브 사고 모드가 탑재돼, 추론을 우선하는 AI 상호작용으로의 전환을 보여준다. 모델은 최종 결과를 생성하기 전에 특정 태그로 구분된 내부 추론 과정을 구성해, 성급하게 결론을 내리는 대신 복잡한 논리를 명시적으로 검토한다. 이는 다른 최첨단 모델의 정확도를 높여온 사고의 연쇄(chain-of-thought) 방식과 비슷하다.
이 시리즈는 에이전트형 기능도 강조한다. 외부 시스템과 상호작용하고, 웹을 검색하며, 코드를 실행할 수 있는 도구 호출 기능을 내장했다. Qwen3.5-Flash API는 이러한 기능에 세분화된 가격을 적용한다. 웹 검색은 호출 1,000건당 10달러이며, 코드 인터프리터는 현재 제한된 기간 동안 무료로 제공된다. 입력 토큰 100만 개당 0.10달러, 출력 토큰 100만 개당 0.40달러인 요금 체계는 Flash를 전 세계에서 가장 저렴한 호스팅형 대규모 언어 모델(LLM) 가운데 하나로 자리매김하게 한다.
비교하면 Claude Sonnet 4.5는 입력 토큰 100만 개당 3.00달러, 출력 토큰 100만 개당 15.00달러이며, GPT-5.2는 각각 1.75달러와 14.00달러다. 로컬 실행에 중점을 둔 대안인 Z.ai의 GLM-5조차 토큰 100만 개당 각각 1.00달러와 3.20달러다. 가격 차이가 30배에서 100배에 이르면, 약간의 성능 차이를 감수하고 큰 비용 절감을 택하려는 기업의 도입이 크게 늘어날 수 있다.
기업 데이터 주권에 미치는 영향
Qwen3.5 출시는 순수한 성능 지표를 넘어 기업의 AI 배포 전략에서도 중요한 의미를 갖는다. 첨단 모델을 사내 인프라에서만 실행할 수 있으면 데이터 주권과 제3자 API 위험에 대한 기업의 우려를 해소하는 데 도움이 된다. 금융, 의료, 정부 계약 분야 등 규제가 엄격한 업계에서는 민감한 데이터를 외부 클라우드 AI 서비스로 전송하지 못하게 하는 규정이 점점 늘고 있다.
로컬에서 관리하는 하드웨어로 100만 토큰 규모의 컨텍스트 창을 지원하는 Qwen3.5를 이용하면, 기업은 기밀 정보를 외부 API에 노출하지 않고도 대규모 문서 저장소와 1시간 분량의 동영상, 방대한 내부 데이터셋을 처리할 수 있다. 이러한 아키텍처 변화는 정교한 AI 기능을 막대한 자본 지출과 분리해, 이전에는 자금력이 충분한 기술 기업만 이용할 수 있던 도구를 더 널리 보급할 가능성이 있다.
오픈소스 라이선스는 특정 분야에 맞춘 맞춤화와 미세 조정도 가능하게 한다. 블랙박스 API로만 이용할 수 있는 독점 모델과 달리, Qwen3.5의 공개 가중치를 사용하면 전문 용어와 내부 지식 기반, 고유한 업무 흐름에 맞춰 모델을 조정할 수 있다. 이는 전문 용어를 사용하거나 규정에 따른 문서 작성 요건이 있는 업계에서 특히 유용하다.
중국 AI 생태계의 확산
Qwen3.5 출시는 서구의 기술 우위에 집단적으로 도전하는 중국 AI 연구소들의 오픈소스 모델 경쟁이 거세지는 가운데 나왔다. Z.ai의 GLM-4.5 제품군은 비슷한 Apache 2.0 라이선스로 출시됐으며, 파워포인트 자동 생성과 같은 특화 기능과 이에 필적하는 성능을 제공한다. 문샷의 Kimi K2와 DeepSeek의 여러 오픈 모델도 폐쇄형 미국 시스템의 대안으로 떠오른 생태계를 뒷받침한다.
이런 흐름은 서구 AI 선도 기업들에 압박을 가하고 있다. Meta는 Llama 4 제품군 출시 이후 일부 AI 연구자들이 벤치마크 점수에 맞춘 최적화와 실제 환경에서의 일관성 없는 성능을 지적하면서 비판을 받아왔다. 현대 LLM 시대를 개척한 OpenAI는 7월로 예정했던 최첨단 오픈소스 모델 출시를 미정의 후일로 연기했다. 이에 중국산 대안들이 개발자들 사이에서 인지도를 쌓을 기회가 생겼다.
경쟁 구도는 기술 사양을 넘어 데이터 거버넌스 문제로도 확장된다. 중국에서 개발한 모델을 도입하는 서구 기업은 콘텐츠 제한과 데이터 주권 문제를 살펴야 한다. 특히 로컬 배포 대신 클라우드 호스팅 API를 사용할 때 더욱 그렇다. 다만 Qwen3.5의 주요 모델은 오픈소스이므로 외부 네트워크와 연결되지 않은 환경에서도 배포할 수 있어 이러한 우려를 상당 부분 줄일 수 있다.
시장 전략과 향후 전망
알리바바의 출시 전략은 다양한 하드웨어 환경에서의 접근성을 강조한다. Qwen3.5-27B는 80만 개 이상의 토큰 컨텍스트를 지원하는 고효율 배포를 겨냥하는 반면, 122B-A10B 모델은 최고 성능을 내려면 VRAM 80GB를 갖춘 서버급 GPU가 필요하다. 이처럼 등급을 나눈 접근법을 통해 조직은 모든 사용자가 클라우드에 의존하는 대신, 보유한 인프라에 맞춰 모델을 선택할 수 있다.
회사는 지시문 미세 조정 버전뿐 아니라 기본 모델도 오픈소스로 공개해 미세 조정과 아키텍처 연구를 원하는 연구 커뮤니티의 요구에 부응했다. 이는 일부 서구 경쟁사들의 폐쇄적인 개발 관행과 대조되며, 협업을 통한 개선으로 혁신을 앞당길 가능성이 있다.
Hugging Face에 올라온 초기 커뮤니티 반응에서는 모델의 에이전트형 기능과 양자화 안정성에 특히 호응이 나타났다. 개발자들은 최첨단 모델 성능을 내기에는 부족하다고 여겨졌던 소비자용 하드웨어에서도 배포에 성공했다고 전했다. 이는 복잡한 코딩 작업에서는 신중한 평가가 필요하다는 독립 벤치마크 결과와 별개로, 알리바바가 내세운 효율성 주장을 뒷받침한다.
핵심 내용
- 알리바바가 Qwen3.5 중형 시리즈 모델 4종을 출시했다. 이 가운데 3종은 상업적 이용이 가능한 Apache 2.0 오픈소스 라이선스로 제공된다.
- 대표 모델 Qwen3.5-35B-A3B는 혼합 전문가 아키텍처를 활용해 토큰당 전체 파라미터 350억 개 중 30억 개만 활성화한다.
- 독립 벤치마크에서는 지식과 추론 시험에서 강점을 보였지만, Claude Sonnet 4.5와 비교해 여러 파일을 다루는 복잡한 코딩 작업에는 어려움을 보이는 등 결과가 엇갈렸다.
- 고급 4비트 양자화를 통해 VRAM 32GB의 소비자용 GPU에서 100만 토큰이 넘는 컨텍스트 창을 지원한다.
- Qwen3.5-Flash API 가격은 서구 경쟁사보다 30배에서 100배 저렴하다. 입력 토큰 100만 개당 0.10달러로, Claude Sonnet 4.5의 3.00달러와 차이가 크다.
- 시리즈 전 제품군에서 기본 활성화되는 네이티브 사고 모드는 최종 결과를 내기 전에 내부 추론 과정을 생성한다.
- 기업은 규제가 엄격한 업계에서 온프레미스 AI 처리가 가능해져 완전한 데이터 주권을 확보할 수 있다.
- 이번 출시는 서구의 독점 시스템에 도전하는 Z.ai의 GLM-4.5, 문샷의 Kimi K2 등 중국산 오픈소스 AI 모델의 확산 흐름에 합류한다.
