칩 공급망이 Qwen 제조와 구동을 모두 지원합니다
알리바바가 T-Head 칩 사업부에서 차세대 Qwen 인공지능 모델을 훈련하기 위해 프로세서를 사용하고 있다고 Eddie Wu 최고경영자가 11월 19일에 밝혔다. 회사는 또한 고객이 AI 모델에 액세스하고 애플리케이션을 구축할 수 있도록 Bailian을 통해 중국산 칩으로 모델을 실행하고 있다.
목차
이번 발표는 알리바바가 내부적으로 두 가지 까다로운 업무를 통합한다는 의미다. 훈련은 대량의 데이터를 모델에 실행하고 내부 설정을 조정해 모델을 가르치는 과정이다. 추론은 완성된 모델이 질문에 응답하거나 과제를 수행할 때 일어나는 일이다. 훈련은 대체로 상당한 연산 능력이 필요하며, 추론은 사용자나 애플리케이션이 모델을 요청할 때마다cada 발생한다.
알리바바가 T-Head 칩을 두 업무에 모두 사용하면 외부 프로세서에 대한 의존도를 낮추고 하드웨어, 모델, 클라우드 서비스를 조율하는 데 도움이 된다. 또한 회사는 자신이 만든 칩이 감당하도록 설계된 복잡한 워크로드에서 테스트하는 방법을 제공한다. Wu 최고경영자는 회사의 칩과 모델 간의 연결이 연산 비용을 낮추고 AI 애플리케이션 개발을 더 효율적으로 만들 수 있다고 말했다.
중국이 첨단 컴퓨팅 액세스에 더 엄격한 제한을 받는 상황에서 전환이 발생한다. 11월 16일에 발표된 새로운 US 규칙은 중국 회사에 substantial computing power를 공급하는 데이터 센터에 라이선스를 요구한다. 말레이시아, 싱가포르, 태국, 인도네시아, 브라질을 포함한 국가의 해외 데이터 센터를 통해 액세스하는 것과 일부 칩 배송은 더 큰 불확실성에 직면해 있다.
알리바바의 실적은 stakes를 강조한다. 7~9월 분기 매출은 전년 대비 10% 증가한 2715억 위안에 달했다. 그 AI 클라우드 및 컴퓨팅 서비스는 약 61억 위안을 벌어들였으며, 53% 증가했다. 알리바바는 차기 재정 연도에 클라우드 매출 성장률이 30~45% 사이에서 둔화될 것으로 예상하며, 2028년 calendar 연도에는 50%를 초과할 가능성도 있다.
T-Head가 훈련 작업에 무엇을 bring?
T-Head는 알리바바의 칩 설계 자회사다. Zhenwu M890 프로세서는 8월에 서비스에 들어갔고 Wu의 실적 전화에 따르면 대량 판매로 이동했다고 한다. 회사는 M890가 전작인 Zhenwu 810E보다 three times 더 많은 성능을 제공한다고 말한다.
알리바바의 M890 announcement는 칩 간의 144 gigabytes의 on-chip memory와 chips 사이에 800 gigabytes per second의 bandwidth를 lists 한다. Memory는 프로세서가 데이터를 처리하는 동안 사용하는 빠른 작업 공간이다. Bandwidth는 프로세서들이 large job에서 함께 작동하는 동안 정보를 이동하는 속도를 설명한다.
M890는 FP32와 같은 여러 수준의 numerical precision을 지원하며, 이는 계산에 더 많은 디테일을 보존하며, FP4는 meno data를 사용하고 faster, more economical tasks에 suit할 수 있다. 이러한 범위는 훈련과 inference가 항상同じ精度, speed와 cost의 균형을 필요로 하지 않기 때문에 중요하다.
알리바바는 T-Head가 Zhenwu 칩 560,000개 이상을 shipped했으며, 20개 산업에 걸쳐 400명 이상의 outside customers가 사용하고 있다고 말한다. 이러한 수치는 Alibaba의 own model development를 넘어 고객을 servicing하는 사업을 가리키지만, 회사는 T-Head의 revenue가 outside buyers로부터 얼마나 오는지를 disclosed하지 않았었다.
왜 training과 inference가 separate attention을 필요로 하는가?
모델은 one kind of hardware에서 훈련된 다음에 another hardware에서 실행될 수 있다. 알리바바의 발표는 T-Head 프로세서를両方의 stages에 사용하는 단계이지만, company가 supply를 plan할 때 distinctionstill matters. 다음 Qwen 모델을 훈련시키는 것은 computing clusters에 지속적인 demands를 place한다. inference는 many customer requests를 reliable하게 답하고 business가 감당할 수 있는 비용으로 enough capacity를 requirement한다.
Bailian, 국제적으로 Model Studio로 알려져서, those processors를 developers와 AI 모델을 사용하고자 하는 companies에 연결한다. customers는 models와 tools를 사용하여 applications을 구축하는 데 service를 사용할 수 있다. 알리바바는 Bailian이 bereits Chinese-made chips에서 inference를 제공하고 있다고 말한다, 그래서 domestic hardware는 customer services와 internal development 모두에 put to work하고 있다.
Wu 최고경영자는 알리바바가 inference를 위해 other Chinese chips도 구매할 의향이 있다고 말한다. 회사는 2027년 이후 새로운 AI chip supply의 most가 T-Head에서 올 것으로 기대하며, inference needs를 충족하기 위해 다양한 domestic processors를 사용하고 있다. 이 접근 방식은 알리바바가 main in-house supply를 제공하면서 다른 Chinese makers의 chips를 사용할 여지를 남긴다.
separate T-Head processor, called the PPU,도 inference-focused product로 묘사되었다. published accounts는 M890와 다른 specifications를 주며, 96 gigabytes of memory와 chip-to-chip bandwidth 700 gigabytes per second를 포함한다. 이러한 수치는 PPU에 concern하며, M890를 훈련에 사용하는 Qwen과 관련이 없다. 제품을 distinct하게 유지하는 것은 알리바바가 다른 chips를 다른 work에 사용할 수 있는 이유를 설명하는 데 도움이 된다.
new chips가 supply를 증가시키는 데 how soon?
알리바바의 계획은 M890를 넘어선다. Wu는 다음 세대 Zhenwu V900가 2027년 1분기에 mass production을 시작할 것으로 예상하며, computing capacity는 M890의 three times라고 한다. V900을 사용하는 supernode cluster는 2027년 2분기에 commercial deployment을 위한 planned이라고 한다. supernode는 하나로 연결된 processor group가 함께 large computing system으로 작동하도록 설계된 tightly connected group이다.
이후 Zhenwu J900는 2028년에 planned된다. schedule은 중요하다. 왜냐하면 알리바바는 2027년과 2028년 동안 중국에서 computing supply가 tight할 것으로 기대하기 때문이다. 새로운 모델과 processor의 wider availability는 some of that pressure를 easing할 수 있지만, 회사의 plans는 chip production와 supporting infrastructure가 의도한 대로 성장할 수 있는지 여부에 dependency하기 때문이다.
알리바바는 T-Head에 대한 outside investment도 seeking하고 있다. 회사는 T-Head가 9월 11일에 confidential application을 제출한 후 Hong Kong listing을 위해 chip unit를 spin off하는 계획을 발표했다. 알리바바는 sub-subsidiary의 detailed financial figures나 final listing terms를 disclosed하지 않았었다. T-Head's proposed listing는 investors가 chip business를 별도로 assess하는 방법을 제공할 것이지만, Alibaba Cloud와의 commercial relationship가 어떻게 작동할지는 열린 상태로 남겨둔다.
Wu 최고경영자는 알리바바가 first로 own models에 충분한 computing capacity를 확보한 다음, important partners의 needs를 고려할 것이라고 말한다. 이러한 allocation는 AI services에 대한 수요가 processor 공급을 능가하는 경우 cloud customers에 matter할 수 있다.
AI business에 대해 earnings는 무엇을 say?
알리바바의 AI 클라우드 및 컴퓨팅 서비스는 9월 분기에 60.97억 위안을 벌어들였으며, year-on-year 53% 증가했다. outside customers로부터의 revenue는 약 47억 위안이었으며, 64% 증가했다. 그중, AI product revenue는 17.9억 위안에 달했으며, disclosed된 figures에 따르면 13분기 연속 three-digit growth를 기록했다.
클라우드 사업의 adjusted earnings before interest, taxes and amortization는 8.84억 위안이며, margin는 14.5%이다. 알리바바는 higher margin AI products의 larger share, strong computing demand, and data center efficiencies로부터 cloud profitability를 개선한다고 연결해 왔다. Qwen에 대해 them을 training하는 actual savings를 disclosed되지 않았으나, T-Head processor를 more expensive purchased chips 대신 사용하면 비용 제어에도 도움이 될 수 있다.
Bailian의 model 서비스 사업에는 자체 sales target이 있다. Wu는 annual recurring revenue, 현재 subscription and usage의 pace에 기반한 yearly estimate가 8월에 20억 위안을 넘어섰다고 말했다. 그는 financial year end까지 30억 위안의 target을 유지했다고 한다. earlier company announcement는 platform의 annual recurring revenue가 June quarter에 10억 위안을 초과했다고 put하는데, figures는 다른 시점을 refer한다.
알리바바는 그 growth 뒤에 capacity를 구축하기 위해 heavily investing하고 있다. September quarter에 capital spending은 50.5억 위안에 달했으며, 전년 대비 about 60% 증가했다. 회사는 AI 모델, 칩 및 클라우드 인프라를 spanning 사업과 services에 대해 3년 동안 $53억 이상을 pledged했다. executives는 also long term plan to build 20 gigawatts of computing capacity may be revised, while expecting cash flow가 2028년 second half에 positive가 될 것으로 기대하고 있다.
new US rules는 Alibaba에게 what mean?
11월 16일 measures는 중국 기업이 advanced chips에 액세스하는 경로인 China outside data centers에서 computing power를 renting하는 것을 target한다. 새로운 restrictions 하에서, Chinese customers에게 substantial computing power를 공급하는 데이터 센터는 license가 필요하다. rules는 또한 named countries in Southeast Asia and Brazil를 cover하며, direct chip shipments를 넘어 computing services에 대한 액세스를 제어한다.
Wu 최고경영자는 rules가 2027년까지 Alibaba의 products와 services에 영향을 미칠 것이고 global supply chains에 uncertainty를 bring할 것이라고 말한다. 또한 restrictions가 Qwen 개발에 어떻게 afect될지 아는 것은 too early라고 말한다. 그 statements 사이의 gap는 회사의 입장을 포착한다: T-Head는 이미 real workloads를 지원하고 있으며, future supply와 model development의 pace는 chips가 얼마나 quickly producible에 dependent하다는 것을 captures.
알리바바는 2030년까지 $100억 external cloud revenue 목표와 long term profit margin acima 20%를 유지하고 있다. near term cloud growth forecast는 더 cautious하며, next fiscal year에 30~45%이다. 이 difference는 several years 동안 ambitious해 하는 plan과 near term computing resources를 serving customers and developing new models에 대한 limits를 반영한다.
what remains undecided?
알리바바는 next Qwen model의 training이 T-Head 칩으로 얼마나 진행될지, 필요한 computing capacity가 얼마인지, company가 achieved한 cost savings를 말했다하지 않았었다. data center construction의 final scale와 20 gigawatt target에 대한 any change도 undecided하다. company의 next major hardware milestones는 V900 생산 시작이 early 2027에 예상되며, spring later가 supernode cluster의 planned commercial launch이다.
practical test는 T-Head가 충분한 processor를 공급할 수 있는지, 그리고 those processors가 scale에서 well and economically perform하는지 여부이다. 성공하면 알리바바는 모델 개발과 cloud services에 더 많은 자사 하드웨어에 의존할 수 있게 된다. 이는 또한 T-Head가 중국 domestic AI supply chain에서 larger role를 부여하게 되며, foreign computing resources에 대한 액세스가 불확실한 시점에 해당한다.
Key Points
- 알리바바 CEO Eddie Wu는 회사가 다음 Qwen 모델을 T-Head 칩으로 훈련하고 있으며, Bailian inference 서비스에 중국 칩을 사용하고 있다고 말했다.
- Zhenwu M890는 144 gigabytes의 on-chip memory를 가지며, 알리바바에 의해 predecessor보다 three times의 성능으로 평가된다.
- 알리바바는 2027년 이후 새로운 AI chip supply의 most가 T-Head에서 올 것으로 기대하며, inference를 위해 다른 domestic 칩도 구매하고 있다.
- V900은 early 2027에 mass production을 시작할 것으로 예상되며, 2분기에 supernode cluster의 commercial deployment가 planned되어 있다.
- 알리바바는 9월 분기에 AI 클라우드 및 컴퓨팅 서비스로 61억 위안을 보고했으며, 전년 대비 53% 증가했다.
- 11월 16일에 발표된 US 규칙은 Chinese firm에 computing power를 공급하는 일부 데이터 센터에 라이선스 요구를 추가한다.






