29만4,000달러라는 가격표가 AI 업계를 놀라게 한 이유
딥시크가 추론 모델 R1에 관한 동료 심사 논문을 네이처에 발표했을 때 전 세계의 눈길을 끈 수치가 있었다. 29만4,000달러였다. 주요 언론은 이 대표 모델을 미국 경쟁사들이 쓴 것으로 알려진 비용의 일부만으로 학습했다고 보도했다. 수치 자체는 사실이지만, 작업의 한정된 부분에만 해당한다. 이 비용은 모델의 단계별 추론 능력을 향상한 최종 강화학습 단계에 쓰였다. R1의 기반이 되는 훨씬 큰 모델을 수개월간 사전 학습한 비용은 포함하지 않았다.
목차
R1의 성능은 대규모 데이터로 거대한 컴퓨팅 클러스터에서 학습한 대규모 언어 모델 딥시크 V3에 기반한다. 이 값비싼 기반을 마련한 뒤에야 연구팀은 강화학습을 진행해 모델의 논리력과 문제 해결 능력을 다듬었다. 마무리 단계를 프로젝트 전체와 혼동하면서 특수한 비용 항목이 주요 뉴스로 부풀려졌다.
이 차이는 중요하다. 코딩과 수학에서 최고 수준의 시스템에 필적하는 모델은 칩 몇 대를 주말 동안 돌린다고 만들어지지 않는다. 지속적인 컴퓨팅 자원, 광범위한 데이터 선별, 반복 실험, 세심한 안전성·평가 작업, 최종 최적화 단계가 필요하다. 네이처 논문은 마지막 단계에 관한 귀중한 정보를 공개했다. 하지만 그에 앞서 투입된 막대한 작업까지 없던 일로 만들지는 않았다.
네이처 논문이 실제로 밝힌 내용
R1 보충 자료에는 엔비디아 H800 GPU 512개를 활용한 강화학습 실행이 상세히 기록돼 있다. 초기 R1 제로 학습에 약 198시간이 걸렸고, 출시된 R1에 도달하기까지 80시간을 추가로 투입했다고 설명한다. 연구팀은 이 과정에 사용된 선호도 데이터를 생성하는 데 GPU 시간 약 5,000시간을 기록했다. H800급 가속기의 일반적인 대여 요금을 적용하면 이 단계들의 비용은 합쳐서 30만달러에 조금 못 미친다. 이 수치는 최첨단 모델을 처음부터 만드는 데 필요한 전체 시간과 컴퓨팅 자원을 나타내지 않는다.
논문은 하드웨어에 관한 배경도 분명히 한다. 딥시크는 주로 H800으로 R1을 학습했다. H800은 미국의 수출 규제로 중국에서 더 높은 사양의 가속기를 구하기 어려워지자 엔비디아가 중국 시장에 맞춰 설계한 칩이다. 연구팀은 더 작은 모델의 준비 작업에 A100 GPU를 사용한 뒤, 주요 R1 강화학습 실행에는 H800을 썼다고 밝혔다. 독자는 학술지 네이처가 공개한 동료 심사 자료에서 기술적 세부 사항과 비용 항목을 확인할 수 있다.
R1 개발의 실제 비용은 V3 사전 학습에서 시작된다
딥시크가 공개한 자료는 가장 큰 비용 항목으로 R1의 기반 모델인 V3 사전 학습을 꼽는다. V3는 H800 GPU 2,048개를 사용해 약 두 달간 학습됐다. 이를 환산하면 GPU 시간은 약 279만 시간이다. 이 등급 하드웨어의 GPU 시간당 대여료를 보수적으로 2달러로 잡으면 사전 학습만으로 약 558만달러가 든다. 여기에 강화학습과 관련 데이터 생성에 든 약 29만4,000달러를 더하면, 출시된 R1을 구현하기까지의 컴퓨팅 비용은 약 587만달러에 이른다.
이 추산은 R1의 29만4,000달러가 기반 모델 비용에 추가되는 금액이라는 논문의 설명과 일치한다. R1의 전체 컴퓨팅 규모를 다른 대규모 오픈 모델과 비슷한 수준으로 보는 외부 분석과도 부합한다. 가장 큰 비공개 모델에 투입됐다는 소문이 도는 예산과 비교하면 여전히 적은 비용이지만, 30만달러에도 못 미치는 단일 수치가 암시한 것처럼 저렴한 것은 아니다.
GPU 시간 계산 방식
GPU 시간은 컴퓨팅 자원을 간단히 측정하는 단위다. GPU 한 대를 한 시간 가동하면 GPU 시간 1시간이다. 학습 실행의 총 GPU 시간은 GPU 대수에 가동 시간을 곱해 계산한다. 비용은 클라우드 대여료나 보유 하드웨어의 감가상각·운영비 등 시장에서 해당 시간을 사용하는 데 드는 금액에 따라 정해진다. 가속기 2,000대 이상을 몇 달간 대여하는 개발자는 시간 단위로 비용을 낸다. 같은 클러스터를 직접 구매한다면 초기 자본을 투입한 뒤 전력, 냉각, 공간, 유지보수 비용을 부담한다.
이 정도 규모의 클러스터를 구매하면 단일 실행을 위해 대여하는 것보다 훨씬 많은 비용이 든다. 현재 시장 가격으로 H800급 GPU 2,048대와 네트워크 장비, 서버를 갖추려면 5,100만달러를 훌쩍 넘는다. 여기에 엔지니어링 시간, 데이터 라이선스, 평가 인력, 저장 공간, 성공적인 출시 전에 거치는 수많은 실패한 실험 비용은 포함되지 않는다. 587만달러는 연구를 가능하게 한 전체 비용이 아니라, 성공적으로 완료한 대규모 실행의 비용으로 보는 것이 가장 적절하다.
강화학습은 마무리 단계이지, 전체 작업이 아니다
강화학습은 원하는 결과에 보상을 제공해 학습된 모델의 행동 방식을 바꾼다. R1 개발 과정에서 딥시크는 답변에 점수를 매기고 정답에 도달한 해결책을 내놓도록 모델을 유도하는 기법을 사용했다. 연구자들은 이를 순수 강화학습이라고 설명한다. 사람이 작성한 사고 과정의 연쇄를 필요로 하지 않는다. 모델이 자체적으로 여러 경로를 탐색하고 시험한 뒤 정답 여부를 신호로 받아 추론 전략을 점진적으로 개선한다.
이 마무리 단계는 가치가 있다. 검증 가능한 결과에 도달하는 것이 중요한 수학, 코딩, 과학 분야에서 성능을 끌어올릴 수 있다. 비용도 사전 학습보다 훨씬 저렴하다. 하지만 핵심 작업은 여전히 기반 모델에 언어 지식과 폭넓은 역량을 부여하는 수개월간의 학습이다. 강화학습은 이후 단계별 추론이나 도구 사용 같은 구체적인 목표에 맞춰 그 역량을 다듬는다.
칩, 수출 규제, 딥시크가 실제로 사용한 하드웨어
딥시크는 칩 공급이 제한된 상황에서 모델을 학습했다. 미국은 중국에 고사양 가속기를 수출하는 것을 제한했고, 그 때문에 엔비디아 데이터센터 GPU의 성능을 낮춘 수출 규제 대응형 모델인 H800이 딥시크 자료에 반복해서 등장한다. 업계에서는 중국 연구자들이 더 빠른 칩을 구할 방법을 찾았다는 이야기가 나왔고, 하드웨어 공급처의 단서를 찾으려 회사 발표를 한 줄씩 분석하기도 했다. 비용과 관련해 분명한 사실은 R1 강화학습 단계에 H800 512대 클러스터가 사용됐고, 초기 준비 작업에는 A100 GPU도 투입됐다는 것이다.
연구팀은 보충 문서에서 이 사실을 인정했다. 연구자들은 H800을 사용한 주요 R1 실행에 앞서 준비 단계에서 A100을 어떤 용도로 썼는지 설명했다.
딥시크 연구진은 다음과 같이 썼다. “DeepSeek-R1 연구와 관련해 더 작은 모델로 실험을 준비하는 데 A100 GPU를 활용했습니다.”
이 세부 사항은 최종 예산과 칩 구성에 관한 설명이 모두 성립하는 이유를 이해하는 데 도움이 된다. 주요 강화학습 비용 계산에는 H800이 반영됐고, 접근법을 다듬은 초기 실험에는 A100이 사용됐다.
딥시크는 서구 경쟁사보다 훨씬 저렴했나
R1 개발에 들어간 전체 컴퓨팅 비용은 30만달러가 아니라 600만달러에 가깝다. 그래도 최첨단 비공개 시스템에 투입됐다는 소문이 도는 9자리 수 예산의 일부에 불과하다. 토큰을 더 많이 사용한 프로젝트도 있지만, 가속기 대수와 학습 기간을 기준으로 보면 메타의 라마 4 같은 대규모 오픈 모델과 비슷한 규모다. 그 차이는 흥미롭지만, 전체 개발 과정의 비용을 한 자릿수 배 줄이는 혁명은 아니다.
많은 독자가 여전히 딥시크를 비용 효율적인 선두 주자로 보는 이유 중 하나는 제한된 여건에서 칩을 효율적으로 활용한 방식이다. 딥시크는 각 토큰에서 일부 매개변수만 활성화하는 전문가 혼합 구조를 대규모로 구현했다. 이로써 GPU 시간당 처리량이 높아진다. 또한 추론 시 더 긴 사고 과정을 활용해 부담의 일부를 사전 학습에서 후속 사용 단계로 옮겼다.
연구자들은 데이터 출처와 모델 간 지식 이전에 대해서도 논의해 왔다. 딥시크는 생태계의 일부에서 증류 기법을 사용했다. 강력한 모델이 답변을 생성해 더 작거나 저렴한 모델을 학습시키는 방식이다. 연구팀은 V3 기반 모델이 AI가 생성한 콘텐츠를 포함한 웹 크롤링 데이터로 학습했다고 밝혔다. 여기에는 다른 시스템의 출력물이 포함될 수 있다. 논문은 이를 추론 경로를 의도적으로 복사한 것이 아니라 우연히 포함된 경우로 설명한다. 이러한 기술적 구분은 법률가와 정책 입안자뿐 아니라 토큰과 컴퓨팅 자원을 덜 쓰면서 개발자가 어디까지 구현할 수 있을지 파악하려는 비용 분석가에게도 중요하다.
비용과 접근성에 관한 전문가들의 견해
학계에서는 딥시크의 수치를 냉정하게 해석해야 한다는 목소리가 나왔다. 이들은 실제 엔지니어링 역량을 인정하면서도 단순한 비용 비교는 경계한다. 학습 예산이 줄어들면 더 저렴한 접근을 가능하게 해 시장에 도움이 될 수 있지만, 언론에 보도되는 수치에는 인력, 실험, 인프라 비용이 빠지는 경우가 많다.
세인트루이스 소재 워싱턴대학교 컴퓨터공학과 조교수인 우마르 이크발은 비용 절감이 접근성을 넓힐 수 있다고 주장하면서도, 클라우드 규모의 AI가 초래하는 개인정보 보호와 보안상의 상충 문제를 지적해 왔다.
이크발은 “기술이 널리 채택되려면 가격이 감당할 만해야 합니다”라고 말했다. 개발 비용이 낮아지면 대규모 실험을 더 많이 할 수 있다면서도, 클라우드 기반 AI 서비스는 데이터 통제와 개인정보 보호에 관한 실질적인 문제를 제기한다고 경고했다.
딥시크의 기술적 접근을 지지하는 이들조차 널리 공유된 학습 비용이 불완전한 기준이라고 경고했다. 단일한 종단 간 학습 실행에 포함되지 않는 반복 실행, 튜닝 주기, 데이터 작업 등을 지적한다.
데이터, 증류, 학습 데이터에 포함됐을 가능성이 있는 내용
증류는 더 강력한 시스템의 응답을 활용해 대상 모델을 학습시키는 방식이다. 개발자는 고품질 질의응답 쌍, 코드 추적 기록, 사고 과정 예시를 수백만 개 생성한 다음, 해당 행동을 재현하도록 모델을 미세 조정할 수 있다. 이 방법을 사용하면 가장 비용이 많이 드는 사전 학습 단계를 반복하지 않고도 품질을 높일 수 있다. 수학과 프로그래밍 분야에서 소규모 팀이 대형 연구소의 특정 역량에 근접하거나 맞먹을 수 있는 주요 이유다.
딥시크는 자사 모델군의 일부 증류 버전이 메타의 라마 같은 오픈소스 시스템을 활용했다고 밝혔다. V3에 대해서는 AI가 생성한 답변이 상당량 포함된 광범위한 웹 크롤링 데이터를 사용했다고 설명했다. 이 방식에는 장점과 위험이 따른다. 일반적인 패턴을 더 빨리 학습할 수 있지만, 출처가 불분명한 라이선스와 품질 문제도 가져올 수 있다. 네이처 논문은 어떤 데이터를 언제 사용했는지, 파이프라인의 어느 부분에서 합성 라벨에 의존했는지 더 분명히 밝히라고 연구계에 요구하는 계기가 됐다.
29만4,000달러라는 헤드라인이 퍼진 이유와 그 의미
29만4,000달러는 전달하기 쉽고 시장을 움직일 만큼 극적인 수치였다. 1월 딥시크가 처음 모델을 공개했을 때도 이미 저비용 경쟁자가 미국 선두 기업을 무너뜨릴 수 있다는 우려가 일었다. 투자자들은 반도체 업체와 AI 기업의 주식을 팔았다. 동료 심사 논문은 각주보다 빠르게 퍼진 간명한 한 문장으로 이런 논란에 다시 불을 붙였다. 많은 독자와 일부 기자는 강화학습이 전체 이야기라고 받아들였다.
논문은 관심을 불러일으키는 데 그치지 않았다. 구체적인 수치와 방법을 공개된 학술 기록에 남겨 투명성의 기준을 제시했다. 심사자들은 딥시크에 의인화 표현을 줄이고 안전성, 데이터 출처, 컴퓨팅 자원에 관한 설명을 명확히 하라고 요구했다. 이는 과학과 업계 모두에 바람직한 일이다. 어떤 기법이 가장 큰 가치를 냈는지, 어떤 비용은 줄이기 어려운지 이해하는 데 도움이 된다.
AI 비용과 경쟁에 미치는 영향
모델 개발의 경제성이 달라지고 있다. 규모를 키우는 데 주력해 온 여러 해를 거쳐, 많은 팀이 이제 데이터셋과 매개변수 수를 늘리는 것만이 아니라 미세 조정과 추론 시간 확대를 더 중시한다. 그 결과 모델이 질의 하나에 더 오래 생각하고 답변마다 더 많은 컴퓨팅 자원을 쓰면서 비용 부담의 일부가 추론 단계로 옮겨간다. 효율성 향상이 추가 추론 시간을 웃돌면 최종적으로는 사용자가 더 저렴하게 이용할 수도 있다.
딥시크의 전문가 혼합 구조, 추론을 위한 강화학습, 선택적 증류는 더 모듈화된 개발을 향한 업계 전반의 흐름에 속한다. 모델끼리 서로 학습하고, 소규모 팀이 대규모 기반 모델을 활용하며, 공개 가중치가 스타트업에 출발점을 제공한다. 유럽에서 이러한 흐름을 분석한 정책 연구는 변화가 소규모 기업의 경쟁에 도움이 될 수 있지만, 기반 모델 학습의 고정비용을 회수하기는 더 어려워질 수 있다고 지적했다. 가격 경쟁이 심화되는 가운데 개발자들은 AI를 제품·서비스와 결합해 지속 가능한 사업 모델을 찾고 있다.
일부 연구자는 공개된 학습 비용이 완성도 높은 시스템을 구현하는 데 필요한 비용을 과소평가하는 경우가 많다고 경고한다. 성공한 최종 실행의 비용과 데이터 작업, 실패한 시도, 안전성 평가, 수개월간의 엔지니어링을 포함하는 전체 예산은 다르다는 점을 강조한다.
스위스 소재 인사이트 연구소의 마틴 베체프 소장은 기술적 성과를 높이 평가하면서도 단일 실행 비용을 전체 비용으로 간주해서는 안 된다고 경고했다.
베체프는 “500만~600만달러라는 수치는 오해를 불러일으킵니다. 학습 실행 한 번의 비용만 반영하기 때문입니다. 이런 모델을 개발하려면 여러 차례 실행과 실험이 필요하므로 실제 비용은 훨씬 더 높습니다”라고 말했다.
이 견해는 R1을 둘러싼 증거와 부합한다. 이 프로젝트의 큰 비용 절감은 사전 학습의 값비싼 부분을 건너뛴 데서 나온 것이 아니라, 똑똑한 아키텍처 선택과 효과적인 강화학습 방식에서 비롯됐다. 그 결과 일부 경쟁사보다 적은 컴퓨팅 자원으로 높은 성능을 구현할 수 있는 현실적인 경로를 제시했지만, 최첨단 모델 학습을 30만달러도 안 드는 작업으로 바꾼 것은 아니다.
핵심 내용
- 딥시크 R1의 29만4,000달러는 H800 GPU 512대를 활용한 강화학습과 관련 데이터 생성 비용이며, 전체 모델 학습 비용이 아니다.
- R1은 H800 GPU 2,048대로 약 두 달간, GPU 시간 약 279만 시간을 들여 학습한 V3 기반 모델에 의존한다.
- 컴퓨팅 자원 대여 비용을 추산하면 V3 사전 학습에 약 558만달러, R1 구현까지 총 약 587만달러가 든다.
- 비슷한 하드웨어를 구매하면 대여보다 훨씬 비싸며, GPU 2,000대급 클러스터는 운영비를 제외하고도 5,100만달러가 넘는다.
- 딥시크는 준비 작업에 A100 GPU를 사용한 뒤 주요 R1 강화학습 실행에 H800을 썼다.
- R1의 컴퓨팅 규모는 초기 보도에서 제시된 것보다 다른 대규모 오픈 모델에 가깝지만, 비공개 모델에 투입됐다는 소문이 도는 9자리 수 예산보다는 적다.
- 강화학습은 비교적 낮은 비용으로 추론 능력을 다듬었지만, 핵심 작업은 여전히 사전 학습과 데이터 처리였다.
- 전문가들은 공개되는 학습 비용에 연구개발, 데이터 준비, 실제 프로젝트 비용을 키우는 여러 차례의 실패한 실행이 포함되지 않는 경우가 많다고 경고한다.
