엔비디아에 도전하는 중국의 AI 칩 경쟁 가속화

지금 중국의 AI 칩 경쟁이 중요한 이유

중국은 인공지능용 프로세서의 수입 의존도를 낮추기 위해 속도를 내고 있다. 향후 대규모 언어 모델과 로봇공학, 자동화 분야의 혁신이 자국산 반도체에서 이뤄지도록 연구소와 파운드리, 클라우드 인프라에 투자를 쏟아붓고 있다. 전략적 목표는 분명하다. 고성능 칩을 대량 생산하고, 이를 효과적으로 활용할 소프트웨어를 개발하며, 핵심 컴퓨팅 역량을 자국의 통제권 안에 두는 것이다.

이러한 야심에 2024년 한 차례 큰 자극이 가해졌다. 스타트업 딥시크가 서구의 선도 시스템에 맞먹는 대화형 AI를 공개한 것이다. 딥시크는 경쟁사보다 훨씬 적은 고급 가속기로 모델을 학습시켰다고 밝혔다. 이는 더 뛰어난 소프트웨어와 효율적인 학습 방식으로 하드웨어의 한계를 어느 정도 보완할 수 있음을 보여줬다. 출시 직후 엔비디아의 시가총액은 잠시 하락했고, 중국 개발자들의 빠른 움직임에 관심이 쏠렸다. 이후 몇 달 동안 중국의 기술 대기업과 칩 설계업체들은 자국 데이터센터에서 엔비디아에 도전하겠다는 계획을 잇달아 발표했다.

엔비디아 최고경영자 젠슨 황은 중국이 풍부한 엔지니어 인재와 치열한 국내 경쟁력을 갖췄다고 평가해 왔다. 그는 9월 기술·비즈니스 팟캐스트에 출연해 중국의 성장세를 높이 평가하면서 자사에도 도전장을 던졌다.

활기찬 기업가 정신과 첨단 기술, 현대적 산업이 공존하는 곳입니다. 우리는 살아남기 위해 경쟁해야 합니다.

중국 기업들의 경쟁 전략

중국의 여러 기업이 엔비디아의 가속기와 풀스택 시스템에 대항할 제품을 개발하고 있다. 화웨이는 새 어센드 프로세서를 출시하고 개발자 지원을 3년간 이어가겠다는 계획을 내놨다. 알리바바는 최신 가속기가 미국 규정에 맞춰 중국용으로 설계된 엔비디아 H20과 비슷한 성능을 내면서 전력은 덜 소비한다고 밝혔다. 메타X와 캠브리콘 같은 스타트업은 주요 기업과 계약을 맺고 있다. 텐센트와 바이두를 비롯한 대형 플랫폼 기업들도 자체 클라우드용 맞춤형 칩을 설계하고 있다. 국내 고객에게 보내는 메시지는 한결같다. 수출 규제로 미국 하드웨어에 접근하기 어려워지면 중국산 제품이 그 공백을 메우겠다는 것이다.

화웨이의 시스템 차원 전략

화웨이는 시스템 아키텍처를 활용해 엔비디아와의 격차를 좁히려 하고 있다. 상하이에서 열린 세계인공지능대회에서 화웨이는 어센드 910C 프로세서 384개를 하나의 시스템에 집적한 AI 컴퓨팅 시스템 클라우드매트릭스 384를 선보였다. 엔비디아의 경쟁 제품 GB200 NVL72는 B200 칩 72개를 사용하지만, 화웨이는 다른 접근 방식을 택했다. 클라우드매트릭스는 슈퍼노드 방식의 연결망을 사용해 수백 개의 프로세서가 하나의 컴퓨팅 자원처럼 작동하게 하고, 칩 간 초고속 연결을 제공한다. 화웨이는 수평 확장을 통해 단일 칩의 성능 열세를 시스템 전체의 높은 결속력으로 보완하려 한다.

업계 분석가들은 이 방식이 특정 작업에서 경쟁력 있는 결과를 낼 수 있다고 말한다. 보도에 따르면 화웨이는 구형 제조 공정에 의존하면서도 일부 지표에서 클라우드매트릭스가 엔비디아 GB200 NVL72보다 뛰어난 성능을 보였다. 이 시스템은 이미 화웨이 클라우드에서 가동 중이며, 중국 고객에게 모델 학습과 서비스 운영을 위한 국내 대안을 제공한다. 이 아키텍처는 시스템 차원에서 성능을 끌어올려 수출 제한을 극복하려는 중국의 정책 목표에도 부합한다.

알리바바와 늘어나는 도전자들

알리바바는 국영 매체 보도를 통해 H20에 필적하면서 전력 소비는 적은 새 AI 가속기를 발표했다. 메타X는 중국유니콤에 칩을 공급하고 있다. 투자자들이 국내 가속기 수요 증가에 베팅하면서 캠브리콘의 기업 가치는 최근 몇 달 사이 두 배 넘게 뛰었다. 텐센트는 클라우드와 AI 서비스를 위한 자체 칩을 개발 중이다. 성능과 공급 가능성, 비용이 맞아떨어질 때 중국 기업들이 자국산 하드웨어로 작업을 옮기는 더 큰 흐름 속에서 이들 프로젝트가 진행되고 있다.

개발자들도 이미 적응에 나섰다. 아이플라이텍에서 AI 번역 부문 총괄을 맡은 천청은 최근 미국산 하드웨어 제한에 대응해 팀이 중국산 프로세서로 전환한 과정을 설명했다.

현재 우리 모델은 화웨이 칩에서 학습되고 있습니다. 지금 중국에서 가장 성능이 좋은 칩입니다.

수출 통제와 단속이 바꾸는 것

수출 규제가 시장을 바꿔 놓았다. 미국은 2022년부터 중국에 대한 첨단 AI 칩 판매 제한을 단계적으로 강화해 왔다. 가장 최근 조치로 이전 수출 기준을 충족하도록 설계된 엔비디아 H20의 중국 판매도 막혔다. 미 의회는 칩 제조업체가 해외 구매자보다 미국 고객을 우선하도록 하는 방안을 추진해 왔다. 기업들은 경직된 규제가 혁신을 늦추고 수요를 다른 곳으로 돌릴 수 있다고 경고하고 있다. 최근에는 중국 내 일부 AI 칩 판매 수익의 일정 부분을 미국 정부에 납부하도록 하는 정책도 나왔다. 통제가 강화되면서 다른 어떤 나라보다 많은 칩을 구매하는 중국에서 미국 공급업체가 공략할 수 있는 시장은 줄어들고 있다.

베이징은 국경 단속과 국내 압박으로 대응하고 있다. 당국은 주요 기술 기업에 엔비디아 가속기 주문을 보류하도록 지시하고, H20과 RTX 6000D 등 중국 시장용 제품을 포함해 무허가 또는 허위 신고된 선적을 적발하기 위해 항만 검사를 강화했다. 관계 당국은 간접 경로를 통해 고성능 프로세서를 중국 데이터센터에 들여온 밀수 조직을 조사하고 있다. 별도로 규제 당국은 엔비디아를 상대로 반독점 조사에 착수해 중국 내 사업 관행에 대한 감시를 강화하겠다는 신호를 보냈다. 이러한 조치는 구매자가 현지 공급업체를 선택하도록 유도하고 회색 시장의 유통 경로를 조이는 데 목적이 있다.

오랜 기간 반도체 컨설턴트로 활동해 온 핸들 존스는 이런 조치가 중국 수요에 의존해 온 미국 기업에 큰 영향을 줄 수 있다고 경고했다.

미국 반도체 산업에 중국 시장은 사라졌습니다.

성능 격차가 남아 있는 분야: 벤치마크와 소프트웨어

성능이 대등하다는 주장은 신중하게 살펴볼 필요가 있다. 중국산 가속기에 관한 공개 데이터는 제한적이고 표준화된 테스트도 많지 않다. 성능은 작업 종류와 모델 규모, 칩 간 연결 대역폭, 메모리 아키텍처, 칩과 애플리케이션 사이에서 작동하는 소프트웨어 스택의 품질에 따라 달라진다. 양쪽 생태계를 모두 경험한 연구자들은 중국산 칩이 모델의 문장 완성이나 이미지 분류 같은 예측 작업에서는 격차를 좁혔지만, 복잡한 분석과 대규모 학습에서는 여전히 뒤처진다고 말한다.

미국과 중국의 가속기를 시험한 컴퓨터 과학자 자와드 하즈 야히야는 작업 종류에 따라 성능 격차가 달라진다고 강조한다.

격차는 분명히 존재하고 확실히 줄어들고 있습니다. 하지만 단기간에 따라잡을 수 있는 수준이라고는 생각하지 않습니다.

이 차이가 중요한 이유는 현대 AI 개발에서 학습이 가장 큰 부담을 차지하기 때문이다. 학습에는 막대한 컴퓨팅 자원과 프로세서 간 초고속 연결, 병목 현상 없이 프로세서에 데이터를 공급할 고대역폭 메모리가 필요하다. 분석에 따르면 화웨이 910B는 학습된 모델이 질문에 답하는 추론 단계에서는 성능이 준수하지만, 칩 간 연결성과 메모리 속도에 한계가 있어 대규모 학습에는 매력이 떨어진다. 중국 내 많은 사용자는 구할 수만 있다면 수출 제한을 받은 엔비디아 H20도 여전히 선호한다. 중국 개발자들은 학습에 몇 주가 걸릴 수 있다고 말한다. 널리 주목받은 딥시크의 최종 단계 학습은 3~8주가 걸렸으며, 효율적인 코드를 사용했음에도 어느 기준으로 보나 비용이 많이 드는 작업이었다.

소프트웨어도 또 다른 걸림돌이다. 엔비디아는 개발자들이 대규모 환경에서 신뢰할 수 있는 도구와 라이브러리, 네트워킹 소프트웨어 제품군을 수년간 구축해 왔다. 이 스택은 작업이 엔비디아 하드웨어에 맞춰지도록 하고 시제품에서 실제 서비스로 넘어가는 시간을 단축한다. 화웨이는 자체 프레임워크로 이에 대응하고 있으며, 중국 개발자에게 더 많은 설계와 코드를 공개하겠다고 약속했다. 채택은 늘고 있지만 팀 재교육과 코드 재작성, 모델 재검증에는 시간이 걸리기 때문에 기존 플랫폼에서의 전환은 더디다.

반도체 엔지니어 라가벤드라 안자나파는 중국이 현지 칩으로 많은 수요를 충족할 수 있지만, 가장 어려운 문제를 해결할 때는 여전히 미국산 하드웨어가 유리하다고 주장한다.

현실적으로 중국은 덜 첨단화된 도구 분야에서 미국산 칩 의존도를 낮출 수 있지만, 더 복잡한 AI 시스템을 학습시키는 데 필요한 미국산 칩의 원시 성능은 갖추지 못했습니다.

중국의 발목을 잡는 제조 병목

두 번째 제약은 제조 현장에 있다. 미국과 네덜란드의 통제로 가장 작은 트랜지스터를 만드는 데 쓰이는 첨단 리소그래피 장비의 접근이 제한된다. 이에 중국 파운드리는 구형 장비로 반복 패터닝을 하며 한계를 밀어붙여야 한다. 이 방식은 속도가 느리고 비용이 많이 들며 웨이퍼 한 장에서 정상 작동하는 다이의 수율도 낮다. 제조 현황을 추적하는 분석가들은 중국의 대형 AI 프로세서 수율이 개선됐지만 세계 선도업체 수준에는 크게 못 미친다고 말한다. 올해 보도에 따르면 화웨이의 신형 칩 수율은 약 20%에서 40%로 올랐지만, 해외 선도 파운드리의 비슷한 크기 제품은 약 60%에 이를 수 있다. 수율이 낮으면 비용이 오르고 시장에 공급되는 정상 작동 가속기 수가 줄어든다.

패키징과 메모리도 마찬가지로 어렵다. AI 가속기는 수천 개의 코어에 데이터를 끊임없이 공급하기 위해 고대역폭 메모리에 의존한다. 열을 배출하면서 부품을 적층하고 연결하는 첨단 기술로 칩을 패키징해야 한다. 중국 기업들도 이런 부품을 만들 수 있지만, 최상급 메모리 부족과 장비 접근 제한이 생산을 제약한다. 기능상의 문제도 남아 있다. 앞서 나온 보도에 따르면 중국산 일부 칩은 칩 간 연결성과 메모리 속도에 어려움을 겪어 대규모 학습 효율이 떨어진다.

이런 장애물은 극복할 수 없는 것은 아니지만 시간과 자본, 전문 장비의 지속적인 공급이 필요하다. 현재 투자회사를 운영하는 전직 AI 엔지니어 스티븐 우는 베이징이 장기적으로 추진해 온 전략의 논리를 이렇게 설명했다.

중국은 정책에 따라 빼앗길 수 없는 칩을 원합니다.

데이터센터와 시장에 미치는 영향

데이터센터 운영자는 성능과 전력 사용량, 공급 안정성이라는 세 가지 우선순위를 따진다. 자국산 가속기가 특정 작업에 필요한 성능을 충족하면서 전력 비용까지 낮춘다면 중국 구매자는 전환할 이유를 얻게 된다. 현재 이 논리가 가장 설득력을 갖는 분야는 추론과 소규모 모델 학습이다. 시스템 차원의 설계로 단일 칩의 성능 열세를 보완할 수 있기 때문이다. 규모의 한계까지 밀어붙이는 최첨단 모델 학습에서는 엔비디아가 반도체와 소프트웨어 모두에서 우위를 유지하고 있다. 그 결과 중국 내에서는 배치 방식이 양분되고 있다. 가장 성능을 많이 요구하는 프로젝트는 정책상 허용될 때마다 여전히 미국산 칩을 찾는다.

정책 환경은 글로벌 기술 기업에 새로운 선택을 요구하고 있다. 미국의 규제 강화와 베이징의 통관 단속으로 중국으로 들어가는 합법적인 공급 경로가 줄어들고 있다. 재정비하거나 다른 용도로 전환한 가속기가 회색 시장에서 거래된다는 의혹에 항만 검사가 강화됐다. 수입 절차의 마찰은 데이터센터 확장 일정을 늦추고 더 많은 작업이 현지 공급업체로 향하게 한다. 한편 미국 의원들은 공급이 부족한 부품을 두고 미국 고객이 중국 구매자보다 뒤처지지 않도록 하려 하고 있으며, 중국 매출에 부과되는 새로운 조건은 현지 사업 비용을 높이고 있다.

엔비디아는 좁은 길을 걷고 있다. 규정을 준수하는 제품으로 중국 고객에게 서비스를 제공하면서 규제를 지키려 해 왔다. 올해 중국 기업인들과 만난 젠슨 황은 이런 접근 방식을 강조했다.

규정을 준수하는 제품을 최적화하기 위해 상당한 노력을 계속 기울이고 중국 시장에 계속 서비스를 제공할 것입니다.

일정과 전망

중국은 AI 컴퓨팅 최상위 분야의 격차를 얼마나 빨리 좁힐 수 있을까. 분석가마다 전망은 다르지만 공통된 시각이 형성되고 있다. 많은 분석가는 중국 기업들이 약 5년 안에 중급 및 추론 작업에서 폭넓은 자급자족을 달성할 수 있다고 본다. 다만 미국 최고 수준의 학습 플랫폼과 대등해지려면 그보다 훨씬 더 오래 걸릴 수 있다. 프로세서와 고대역폭 메모리, 첨단 패키징, 네트워킹, 소프트웨어 전반에서 완전히 따라잡는 시점을 다음 10년으로 보는 이들도 있다.

현장의 성장세는 뚜렷하다. 화웨이는 생산량을 늘리고 있고 알리바바는 투자 중이며, 메타X부터 캠브리콘까지 점점 더 많은 칩 설계업체가 구매자를 확보하고 있다. 정부 지원은 여전히 강력하고 AI 서비스에 대한 국내 수요도 급증하고 있다. 그렇더라도 장비와 수율, 개발자 생태계의 병목은 시장 최상위 분야에서 성능을 끌어올리는 속도를 제한할 것이다. 단기적으로는 중국의 AI 수요 상당 부분을 감당할 만큼 생태계가 성숙하되, 정책상 접근이 허용되는 경우 대규모 학습에서는 외국산 하드웨어에 계속 의존할 가능성이 크다.

중국의 국가 주도 방식은 강점인 동시에 제약이기도 하다. 중앙의 지휘는 명확한 목표에 자원을 집중시키지만, 혁신으로 이어지는 위험한 아이디어를 억누를 수도 있다. 칩 설계를 연구하는 컴퓨팅 교수 치아 린 양은 획일적인 목표가 창의성을 저해할 수 있다고 경고하면서도 가용 인재의 깊이를 강조했다.

기존 틀을 깨는 혁신적인 아이디어가 나오기 더 어려워질 수 있습니다. 그렇다고 중국의 추격 능력을 과소평가해서는 안 됩니다.

핵심 요점

• 중국은 고성능 AI 칩을 대량 생산하고 수입 의존도를 낮추기 위해 막대한 투자를 하고 있다.
• 딥시크의 2024년 모델 학습은 칩을 더 많이 쓰는 것뿐 아니라 더 똑똑한 소프트웨어를 통한 효율 개선을 보여줬다.
• 화웨이의 클라우드매트릭스 384는 어센드 910C 프로세서 수백 개를 고속 연결망으로 묶어 시스템 차원에서 경쟁한다.
• 알리바바와 메타X, 캠브리콘, 텐센트, 바이두는 중국 데이터센터용 가속기와 맞춤형 설계를 추진하고 있다.
• 미국의 제한 조치는 이제 엔비디아 H20의 판매를 막고 있으며, 미국 칩 제조업체가 국내 고객을 우선하고 중국 내 일부 판매 수익을 공유하도록 할 수 있다.
• 중국은 항만 단속을 강화하고 엔비디아의 신규 주문을 자제하도록 했으며, 엔비디아를 상대로 반독점 조사에 착수했다.
• 전문가들은 중국산 칩이 추론에서는 경쟁력을 보이지만 대규모 모델 학습과 복잡한 분석에서는 여전히 뒤처진다고 말한다.
• 제조 제약에는 낮은 수율, 첨단 리소그래피 장비 접근 제한, 고대역폭 메모리와 패키징의 병목이 포함된다.
• 소프트웨어는 여전히 엔비디아의 핵심 우위이며, 화웨이는 개발자 채택을 늘리기 위해 설계와 도구를 공개하고 있다.
• 많은 분석가는 중국이 약 5년 안에 중급 작업에서 자급자족에 도달할 것으로 보지만, 최상위 성능에서 대등해지려면 더 오래 걸릴 것으로 예상한다.