지금 중요한 이유
중국의 양대 소비자 인터넷·클라우드 기업이 인공지능 공급망을 안정적으로 확보하기 위한 결정적인 조치에 나섰다. 알리바바와 바이두는 자체 설계 프로세서로 일부 모델을 학습하기 시작했다. 현대 AI의 기반이 돼 온 엔비디아 칩에 대한 의존도를 낮추려는 움직임이다. 이는 중국으로 향하는 첨단 반도체에 대한 미국의 수출 통제가 강화되는 동시에, 중국 내 핵심 인프라에 자국 기술을 우선 도입하려는 움직임이 나타나는 등 두 가지 강력한 흐름을 반영한다.
목차
두 회사는 일시에 전환하기보다 신중하게 움직이고 있다. 알리바바는 소규모 학습 작업에 자체 가속기를 사용하면서 가장 까다로운 작업에는 엔비디아 하드웨어를 계속 활용한다. 바이두는 최신 쿤룬 P800 칩으로 자사의 생성형 AI 서비스 기반 기술인 어니(Ernie) 모델의 새 버전을 시험하고 있다. 성능과 소프트웨어의 완성도, 멀티칩 연결이 가장 중요한 대규모·고난도 학습 작업에서는 두 회사 모두 여전히 엔비디아에 의존한다.
중국 데이터센터에 미칠 실질적인 영향은 상당할 수 있다. 과거 수입 GPU를 받기 위해 줄을 서야 했던 기업들이 이제 AI 컴퓨팅을 확장할 수 있는 또 다른 경로를 갖게 됐다. 더 많은 작업을 처리할 수 있을 만큼 성능이 충분한 자국산 칩은 공급 위험을 완화하고, 프로젝트 일정을 지키며, 국가 기술 목표에 맞춰 투자를 조정하는 데 도움이 된다. 이런 도입이 순조롭게 진행되면 현지 AI 반도체에 대한 수년간의 투자가 성과를 거뒀음을 입증하고, 중국 클라우드 업체들이 외산과 국산 하드웨어를 함께 운용하는 흐름을 더욱 앞당길 수 있다.
알리바바와 바이두는 무엇을 개발하고 있나
알리바바는 T-Head 사업부를 통해 맞춤형 칩을 개발해 왔다. T-Head는 과거 추론용 AI 가속기 한광 800과 Arm 명령어 집합 기반 서버 CPU를 공개했다. 직원들이 내부적으로 전무(Zhenwu)라고 부르는 최신 AI 학습 프로세서는 현재 알리바바 클라우드에서 소규모 모델을 학습하는 데 쓰이고 있다. 이 칩을 사용해 본 사람들은 최첨단 인터커넥트나 대용량 메모리가 필요하지 않은 작업에서 실질적인 성능이 엔비디아 H20과 경쟁할 만하다고 말한다. 알리바바는 새 칩의 대규모 운용 능력을 검증하는 한편, 최첨단 모델 학습에는 계속 엔비디아 시스템을 사용하고 있다.
바이두의 쿤룬 프로젝트는 중국에서 가장 오래 이어져 온 자체 개발 AI 가속기 제품군 중 하나다. 초기 쿤룬 칩은 학습이 끝난 모델을 실행하는 추론에 초점을 맞췄다. 바이두는 쿤룬 P800으로 새로운 어니 모델 버전의 학습 실험을 진행해 안정성, 처리량, 소프트웨어 스택의 준비 상태를 검증하고 있다. 바이두의 핵심 강점은 수직 계열화다. 어니 모델을 개발하고 대규모 클라우드 클러스터를 운영하며, 패들패들(PaddlePaddle) 프레임워크도 직접 관리한다. 이 덕분에 하드웨어와 소프트웨어를 함께 설계해 효율을 높일 수 있는 여지가 크다.
미국의 수출 규제가 시장을 바꾼 방식
미국 정부는 AI 가속기의 성능 기준을 처음 설정해 미국 업체가 중국에 수출할 수 있는 제품을 제한한 2022년 이후 통제를 꾸준히 강화해 왔다. 인터커넥트 대역폭을 낮춘 중국 전용 GPU 같은 우회책으로 한동안 일부 공급이 이어졌다. 그러나 이후 몇 년간 발표된 새 조치로 이런 경로는 좁아졌다. H100과 최신 블랙웰 제품군 등 엔비디아의 최상위 플랫폼은 중국에서 사용할 수 없다. 엔비디아는 미국 규정을 준수하기 위한 성능이 낮은 제품으로 H20을 만들었지만, 업계 조사에 따르면 이 제품도 2025년 4월부터 수출 허가가 필요해져 미국산 칩을 구매하려는 중국 기업의 부담과 불확실성이 커지고 있다.
중국의 대형 클라우드·인터넷 플랫폼은 해외에서 확보할 수 있는 칩을 들여오는 동시에 자국산 가속기에 대규모로 투자하는 양면 전략으로 대응해 왔다. 정책 환경도 현지 솔루션에 유리하게 작용한다. 정부와 핵심 인프라 고객은 중국에서 설계하고 지원하는 하드웨어를 점점 더 선호하고 있다. 이에 따라 클라우드 업체들은 중국산 가속기가 적정 비용과 예측 가능한 성능으로 실제 운영 환경의 작업을 처리할 수 있음을 입증하려 한다.
엔비디아도 경쟁 구도가 바뀌고 있으며 고객에게 공급처를 다변화할 유인이 있다는 점을 알고 있다. 회사 대변인은 개발자들을 전 세계에서 계속 지원하겠다는 의지를 강조하면서 이러한 현실을 인정했다.
경쟁이 본격적으로 시작됐다는 점은 분명합니다. 전 세계 주류 개발자들의 신뢰와 지지를 얻기 위해 계속 노력하겠습니다.
국산 칩은 엔비디아에 얼마나 근접했나
답은 작업에 따라 다르다. 알리바바의 최신 가속기를 사용한 엔지니어들의 보고에 따르면 일부 학습 작업과 소형 모델에서 엔비디아 H20과 대등한 성능을 보인다. 신생 플랫폼으로서는 의미 있는 진전이다. 가장 큰 모델과 가장 빠듯한 학습 일정에서는 높은 최대 연산 성능, 빠른 멀티 GPU 인터커넥트, 성숙한 컴파일러 스택, 폭넓은 최적화 라이브러리 생태계를 갖춘 엔비디아가 여전히 우위에 있다. H100과 최신 블랙웰 설계는 중국 밖에서 최첨단 모델을 학습하는 데 여전히 표준으로 자리 잡고 있다.
학습과 추론은 서로 다른 작업
AI 학습은 데이터를 여러 차례 처리하면서 수십억 개의 매개변수를 조정해 모델을 가르치는 과정이다. 연산 능력과 메모리 대역폭을 극한까지 끌어올리며, 수천 개의 가속기가 효율적으로 동기화되려면 칩 간 연결 속도도 매우 빨라야 한다. 추론은 학습 이후에 이뤄진다. 모델이 이미 학습된 상태에서 시스템이 사용자에게 실시간으로 결과를 생성한다. 추론에서는 낮은 지연 시간, 비용 효율, 전력 절감이 중요하다. 추론이나 소형 모델 학습에 뛰어난 칩이라도, 칩 간 통신망과 소프트웨어 조율이 병목이 되면 초대형 모델을 몇 달씩 학습시키는 작업에서는 성능이 부족할 수 있다.
실리콘만큼 중요한 소프트웨어 스택
엔비디아의 지배력은 칩에만 기반한 것이 아니다. CUDA 플랫폼, cuDNN과 TensorRT 같은 라이브러리, 폭넓은 파트너 도구 덕분에 개발이 수월하고 성능도 예측하기 쉽다. 중국 플랫폼들은 자국산 가속기를 위한 소프트웨어 스택을 구축하고 있다. 바이두의 패들패들과 알리바바의 클라우드 도구 체계는 이미 각사의 칩을 지원하며, 두 회사는 자체 모델에 맞춰 커널과 그래프 컴파일러를 조정할 수 있다. 이런 통제력은 효율을 높일 수 있지만, 제3자 개발자에게는 코드를 국산 하드웨어로 옮기는 과정에서 학습 부담이 생길 수 있다는 뜻이기도 하다. 알리바바와 바이두가 자사 클라우드에서 전환을 매끄럽게 지원한다면 고객은 칩 브랜드보다 가격, 공급 가능성, 서비스 수준을 더 중시할 수 있다.
사업 전략과 시장 반응
중국의 인터넷 선도 기업들이 수입품에 전적으로 의존하지 않고 AI 연산 자원을 확보할 수 있다는 신호에 투자자들은 반응을 보였다. 새 칩 도입 소식이 전해진 뒤 알리바바와 바이두의 주가는 상승했다. 공급 기반의 회복력이 높아져 제품 개발 일정을 뒷받침하고 지연 위험을 줄일 것이라는 기대가 반영된 것이다. 대다수 학습 작업을 처리할 만큼 충분한 성능의 자체 개발 칩을 확보하면 중국 내 데이터센터에서 조달과 확장이 더 쉬워져 장기 운영 비용도 낮출 수 있다.
전략적 논리는 비용과 공급에 그치지 않는다. 알리바바 클라우드와 바이두 클라우드는 현지 설계 하드웨어를 선호하는 기업 및 공공 부문 고객에게 서비스를 제공한다. 국산 가속기를 통한 컴퓨팅 서비스를 제공하면 보안과 데이터 현지화에 관한 규제 선호에 부합하면서 민감한 작업을 수주하는 데 도움이 된다. 다만 두 회사는 실용적인 혼합 전략을 택한 것으로 보인다. 가장 어려운 작업에는 엔비디아 시스템을 유지하고, 성능이 비슷하면서 경제성이 높은 여러 작업에는 국산 칩을 활용하는 방식이다.
공급망과 제조상의 제약
경쟁력 있는 AI 가속기를 설계하는 것은 과제의 일부일 뿐이다. 제조와 패키징, 메모리 공급도 모두 중요하다. 현재 최고 성능 칩은 첨단 공정 노드에서 생산되며 프로세서 가까이에 고대역폭 메모리 스택을 패키징한다. 중국 파운드리도 진전을 이뤘지만, 아직 해외 최첨단 공정 노드에는 미치지 못한다. 설계를 잘하고 패키징을 강화하며 소프트웨어 효율을 높여 격차를 일부 만회할 수 있지만, 이 차이는 여전히 최대 성능과 전력 효율에 영향을 준다.
학습 작업은 방대한 메모리 대역폭과 용량을 요구하므로 고대역폭 메모리의 공급도 또 다른 제약 요인이다. 클라우드 업체들은 작업을 더 많은 칩에 분산하고, 정밀도 형식을 최적화하며, 각 플랫폼의 강점에 맞춰 작업 일정을 조정해 이런 한계를 관리한다. 이런 환경에서는 이론상 최대 성능이 최고 수준의 외산 칩에 못 미치더라도, 클라우드 소프트웨어 스택과 잘 통합되고 조달이 쉬운 국산 가속기가 상당한 작업을 맡을 수 있다.
개발자와 고객에게 미치는 의미
알리바바와 바이두의 고객이 중요하게 여길 요소는 세 가지다. 컴퓨팅 자원을 확보하는 데 걸리는 시간, 안정성, 그리고 특정 학습이나 추론 작업의 총비용이다. 국산 가속기가 대기 시간을 줄이고 익숙한 프레임워크에서 일관된 성능을 제공한다면 많은 팀이 큰 마찰 없이 옮겨갈 수 있다. 모델 개발자는 최상의 처리량을 얻기 위해 커널을 다시 조정하거나 특정 업체의 도구를 도입해야 할 수 있지만, 이는 고성능 컴퓨팅에서 흔한 일이다. 단기적으로는 혼합형 클러스터와 작업을 가장 적합한 하드웨어로 보내는 스케줄러 정책이 자리 잡을 가능성이 크다. 최첨단 대형 모델 학습은 여전히 엔비디아 시스템에서 이뤄지고, 주류 작업 가운데 점점 더 많은 부분은 알리바바와 바이두의 칩에서 실행될 전망이다.
앞으로 주목할 점
내년을 앞두고 두 가지 이정표가 눈에 띈다. 첫째는 미국산 가속기의 대중국 수출 허가 제도다. 업계 조사기관들은 2025년 4월부터 엔비디아 H20과 AMD MI308 같은 제품에 적용될 것으로 보고 있다. 둘째는 알리바바와 바이두의 칩이 실험실 테스트를 넘어 실제 운영 환경의 대규모 학습 작업을 처리할 수 있다는 증거다. 널리 알려진 모델을 대상으로 한 벤치마크, 고객 사례, 국산 가속기 기반 클라우드 인스턴스의 판매 속도가 성과를 가늠할 지표가 될 것이다. 인기 프레임워크와 제3자 도구를 포함해 이들 칩을 중심으로 소프트웨어 생태계가 얼마나 빠르게 성숙하는지도 지켜봐야 한다. 자체 가속기를 개발하거나 국내 업체의 제품을 구매하는 곳을 포함해 다른 중국 플랫폼들이 새 프로젝트를 시작하면서 수입 GPU와 현지 제품 사이에 자금을 어떻게 배분하는지도 살펴볼 필요가 있다.
핵심 요점
- 알리바바와 바이두는 자체 설계 칩으로 AI 모델 학습을 시작했으며, 가장 까다로운 작업에는 엔비디아 시스템을 계속 사용한다.
- 알리바바의 최신 가속기는 소규모 학습 작업에 쓰이며, 직원들은 일부 작업에서 엔비디아 H20에 맞먹는다고 말한다.
- 바이두는 쿤룬 P800으로 새 어니 모델 버전을 시험하고 있으며, 패들패들 프레임워크를 직접 관리하는 강점을 활용하고 있다.
- 미국의 수출 통제로 최상위 엔비디아 제품에 대한 접근이 제한되고 있으며, 업계 조사에 따르면 2025년 중국으로 수출되는 H20 제품에 새 허가 요건이 적용된다.
- 엔비디아는 경쟁이 심화하는 가운데 개발자의 신뢰를 얻기 위해 계속 노력하겠다고 밝혔다.
- 국산 가속기는 점점 더 많은 작업에 충분한 성능을 제공하지만, 최첨단 대규모 학습에서는 엔비디아가 여전히 앞선다.
- 소프트웨어 생태계가 핵심 요소로, 알리바바와 바이두는 자사 하드웨어에 맞춰 도구 체계를 조정하고 있다.
- 투자자들은 공급 위험이 줄고 AI 개발 계획을 더 잘 통제할 수 있다는 점을 긍정적으로 평가했다.
- 제조와 메모리 공급은 여전히 제약 요인이지만, 설계와 클라우드 통합을 통해 일부 한계를 상쇄할 수 있다.
- 중국 클라우드에서는 작업 스케줄러가 국산 칩과 수입 GPU 사이에 작업을 배분하는 혼합형 클러스터가 늘어날 전망이다.
