도쿄, AI 데이터센터 폐열을 냉방과 온수에 활용하는 실증 사업

도쿄 실증 사업, 버려지는 서버 열을 활용한다

도쿄도가 인공지능 서버에서 직접 열을 회수해 건물 냉방에 활용하고, 인근 목욕시설에 열을 공급하며 공장을 지원하는 사업을 뒷받침하고 있다. 실증 사업은 2026년 7월 16일부터 2028년 3월 31일까지 진행되며, 도쿄도는 지원 대상 비용의 최대 5억2천만 엔을 부담한다.

도쿄전력홀딩스(TEPCO)가 MESH-X, NHK테크놀로지스와 함께 도쿄의 한 데이터센터에서 사업을 이끈다. 이들이 해결하려는 과제는 AI 확산과 함께 커지고 있다. 컴퓨팅 장비에 투입된 전력의 상당 부분은 결국 열로 바뀌며, 운영자는 서버를 계속 가동하기 위해 이 열을 제거해야 한다.

도쿄도 발표에 따르면 이 시스템은 증발을 이용해 그래픽처리장치(GPU)가 장착된 서버를 냉각하는 동시에, 높은 온도의 열을 직접 회수한다. GPU는 여러 계산을 한꺼번에 수행하는 칩으로, 현대 AI의 핵심 장치다.

이 사업은 보통 별도로 관리하는 두 가지 수요를 연결한다. 데이터센터에는 냉방이 필요하고, 인근 건물과 사업장에는 열이 필요하다. 유용한 열을 회수하면 같은 전력을 컴퓨팅과 지역 에너지 수요에 모두 활용할 수 있다.

일본은 또 다른 방안도 시험하고 있다. AI 계산을 도시 간에 옮기거나 전력 공급 상황에 맞춰 실행 시점을 조정하는 방식이다. 두 실험은 AI가 전력을 어떻게 쓰는지, 전력을 어디서 소비하는지, 사용 후 에너지가 어떻게 되는지를 함께 다룬다.

WaBiCo의 칩 열 회수 방식

TEPCO는 이 기술을 ‘WaBiCo’라고 부른다. 와트비트 열병합(Watt Bit Cogeneration)의 약칭이다. 이름은 전력 단위인 와트와 디지털 정보 단위인 비트를 연결한다. 핵심 발상은 고성능 전자 장비를 컴퓨팅 자원이자 활용 가능한 열원으로 보는 것이다.

냉각 기술은 물을 대기압의 약 절반 수준인 낮은 압력에 두어, 일반적인 섭씨 100도가 아니라 약 80도에서 끓게 한다. GPU에서 나온 열이 증발을 일으키고, 시스템은 이를 통해 다른 용도에 쓸 수 있는 온도의 열에너지를 회수한다.

TEPCO는 GPU를 직접 냉각하고 열을 회수하는 전용 콜드플레이트를 개발했다고 설명했다. 열 순환 방식은 펌프를 가동하지 않고 열 자체를 이용해 열을 이동시킨다. 칩 가까이에서 에너지를 회수하면 서버실 전체로 열이 퍼지게 두는 것보다 더 뜨겁고 유용한 열을 얻을 수 있다.

온도는 용도마다 필요한 열의 수준이 다르기 때문에 중요하다. 회수 비용이 많이 드는 미지근한 공기는 활용처가 제한적이다. 섭씨 80도 안팎에서 회수한 열은 설비와 온도 요건에 따라 더 다양한 건물 및 산업 현장에서 사용할 수 있다.

예정된 활용처에는 인근 목욕시설과 공장에 열 공급, 지역난방, 회수한 열을 서버실이나 주변 시설 냉방의 에너지원으로 사용하는 방안 등이 포함된다. 열 구동 냉방은 전기로 작동하는 압축기에 전적으로 의존하는 대신, 열에너지로 냉각 사이클을 구동한다.

도쿄도의 지원 및 실증 내용

TEPCO의 사업 채택 발표에 따르면 도쿄도는 2026년 6월 30일 이 제안을 선정했다. TEPCO는 주관 사업자로 참여하며, 정부가 지정 비용 일부를 최대 5억2천만 엔까지 지원한다고 밝혔다.

도쿄도 산업노동국은 이번 실증을 에너지 효율 극대화라는 목표 아래 ‘2050 도쿄 전략’에 포함했다. 실제 운영 환경에서 증발 냉각 시스템을 개발하고 시험하는 것이 사업의 핵심이다.

사업은 회수한 열을 유용한 수요처와 연결해야 한다. 목욕시설에는 안정적인 열에너지 공급이 필요하다. 공장에서는 산업 공정의 온도와 운영 시점에 맞춰야 한다. 서버실에서는 안정적인 가동을 뒷받침하는 냉각 시스템에 회수열을 연계해야 한다.

발표 자료는 실증 장소를 도쿄의 데이터센터라고만 밝혔으며, 열 회수율, 전력 절감량, 배출량 감소, 열 공급처의 구체적인 이름, 상용화 시점은 공개하지 않았다. 실증 이후 이 방식의 실효성은 이러한 성과에 따라 판가름 날 전망이다.

냉각 효율과 열 재사용은 서로 다른 성과를 측정한다

TEPCO는 데이터센터 효율을 나타내는 표준 지표인 전력사용효율(PUE) 개선을 목표로 한다. PUE는 시설 전체가 사용한 전력을 컴퓨팅 장비가 사용한 전력으로 나눈 값이다. 1에 가까울수록 냉각 등 지원 시스템에 추가로 쓰는 전력이 적다는 뜻이다.

가상의 시설이 전력 120단위를 쓰고 컴퓨터가 그중 100단위를 사용한다면 PUE는 1.2다. 추가로 쓰는 20단위를 줄이면 이 수치가 개선된다. 도쿄 사업은 칩의 열을 제거하는 방식을 바꿔 이 같은 효율 향상을 노린다.

열 재사용은 또 다른 이점을 제공할 수 있다. 인근 시설이 컴퓨팅 과정에서 회수한 에너지로 난방 수요 일부를 충당하는 방식이다. 전력은 여전히 서버를 가동하는 데 쓰이지만, 유용한 열에너지는 다른 용도로 시설 밖으로 전달된다.

두 효과는 따로 측정해야 한다. 운영자는 냉각에 쓰인 전력, 실제 고객에게 전달된 열, 고객이 그 대신 사용했을 에너지를 추적해야 한다. 열을 공급받는 시설이 도착한 시점에 에너지를 사용할 수 있어야 열 연결의 가치가 생긴다.

효율 좋은 칩과 늘어나는 AI 작업량

NVIDIA는 에너지를 AI 인프라의 토대라고 설명한다. 2026년 1월 다보스 회의에서 젠슨 황 최고경영자(CEO)는 업계를 다섯 층으로 된 케이크에 비유했다. 맨 아래에 에너지가 있고, 그 위로 칩, 인프라, 모델, 애플리케이션이 놓인다는 설명이다.

NVIDIA의 사이토 히로키 대표는 에너지를 AI로 가는 첫 관문이라고 설명한다. 그의 설명은 컴퓨팅 수요가 빠르게 변하는 모습도 보여준다. 2022년 11월 ChatGPT 출시 당시를 기준으로, 2025년 1월 DeepSeek 추론 모델에 필요한 처리량은 그 100배, 약 1년 뒤 등장한 OpenClaw 자율 에이전트는 1,000배 수준이라고 그는 말했다.

이 사례들은 AI 작업의 종류가 달라지고 있음을 보여준다. 추론 모델은 문제를 풀기 위해 계산을 수행하고, 에이전트는 일련의 작업을 실행할 수 있다. 칩 하나의 효율이 높아지더라도 더 복잡한 작업에는 더 큰 처리 용량이 필요할 수 있다.

NVIDIA는 루빈(Rubin) 세대가 같은 전력으로 블랙웰(Blackwell)보다 에이전트 처리량을 10배 높일 수 있다고 밝혔다. 실제 효과는 장비를 어떻게 배치하고 어떤 작업을 실행하는지에 달려 있다.

사이토 대표는 운영 우선순위의 변화도 설명했다. 전통적인 데이터센터는 가동 상태를 유지하는 데 중점을 뒀다. NVIDIA가 AI 생산을 중심으로 구축된 인프라를 가리켜 쓰는 ‘AI 팩토리’는 유용한 컴퓨팅 성과도 극대화해야 한다. 전력 단위당 성능 향상과 수요 증가가 동시에 진행되고 있어, 전체 소비량은 두 요인 모두에 좌우된다.

급격한 전력 변동이라는 또 다른 과제

AI 시설은 총 전력 소비량 외에도 여러 문제에 직면해 있다. 모델 훈련 중에는 수십만 개의 GPU가 밀리초 단위로 함께 전력 소비량을 바꿀 수 있다. 전기 설비는 전력을 안정적으로 유지하면서 이처럼 급격한 변화를 감당해야 한다.

전력 공급업체와 데이터센터에 신뢰성 자문을 제공하는 업타임 인스티튜트의 수석 컨설턴트 앰버 빌레가스윌리엄슨은 이로 인한 부담을 다음과 같이 설명했다.

AI는 매우 이례적인 전력 수요를 만들어냅니다,

빌레가스윌리엄슨은 이를 자동차 엔진을 일정한 속도로 유지하지 않고 반복해서 더 세게 밀어붙일 때의 마모에 비유했다. 테슬라 전 임원이자 헤론 파워 일렉트로닉스 창업자인 드루 바글리노는 AI 전력 수요가 짧은 순간 시설 설계 용량보다 최대 50%까지 높아질 수 있다고 말했다. 그가 든 사례에서는 1기가와트 용량으로 설계된 데이터센터가 순간적으로 1.5기가와트를 소비할 수 있다.

이러한 부담과 관련된 장비 고장 사례에는 터빈 균열과 수주 또는 수개월 안에 교체해야 하는 배터리 등이 있다. 일부 시설의 가용성은 80%에 가까운 것으로 알려졌다. 중단에 따른 매출 손실 추산액은 운영 방식에 따라 분당 수천 달러에서 수십만 달러에 이른다.

북미전력신뢰도공사(NERC)는 미국 데이터센터 전력 수요 33기가와트 이상을 반영한 부하 모델 가운데 약 4분의 3이 동적 작동 특성을 충분히 나타내지 못했다고 밝혔다. 이 모델은 고객의 전력 사용이 전력망에 미치는 영향을 전력회사들이 예측하는 데 쓰이기 때문에, 소비량의 급격한 변화는 중요한 계획 과제다.

텍사스 서부에 계획된 2.67기가와트 규모 캠퍼스는 일정에 미치는 영향을 보여준다. 개발사 줄런트는 마이크로소프트가 요구한 99.999% 신뢰도를 충족하기 위해 설계 기간을 늘렸고, 이에 따라 전력 공급 개시 시점을 2027년에서 2028년으로 늦췄다. 이 신뢰도 수준에서는 연간 가동 중단 시간이 약 5분에 해당한다.

전력을 옮기는 대신 계산 작업을 옮긴다

일본의 두 번째 실험은 AI가 언제 어디서 전력을 소비하는지에 초점을 맞춘다. J파워, 시스코시스템즈, 동일본여객철도, 히타치, 비트미디어는 2026년 10월 8일 요코하마와 기타큐슈의 AI 데이터센터를 연결하는 실증 사업을 진행한다고 발표했다.

실증은 2026년 8월 시작됐으며 2027년 2월 1일까지 진행될 예정이다. 전력 및 컴퓨팅 상황에 따라 작업을 다른 장소나 시간에 배정하는 ‘워크로드 이동’을 시험한다.

공간적 이동은 계산 작업을 다른 데이터센터로 보내는 것이다. 시간적 이동은 다른 시간대에 작업을 예약하는 방식이다. 시스템은 재생에너지 발전량 예측, 전력 거래 가격, 수급 상황, 가용 컴퓨팅 용량, 재해 관련 정보를 고려한다.

목표 중 하나는 출력제어가 이뤄질 수 있는 재생에너지를 활용하는 것이다. 전력망이 가용 전력을 모두 수송하거나 받아들일 수 없어 태양광·풍력 발전량을 일시적으로 줄이는 것을 출력제어라고 한다. 적합한 AI 작업을 해당 전력이 공급되는 곳이나 시간대로 옮기면 재생에너지 활용을 늘릴 수 있다.

참여 기업들은 작업 이동으로 늘어나는 처리 시간과 서비스 품질을 유지하는 방법도 살펴볼 예정이다. 작업을 옮기는 데에는 현실적인 비용이 따르므로, 실증에서는 전력 측면의 이점과 컴퓨팅 성능에 미치는 영향을 함께 측정한다.

철도 광섬유가 더 큰 실험을 연결한다

참여 기업 5곳은 조에쓰 신칸센을 따라 전광 네트워크도 시험하고 있다. 에치고유자와, 조모코겐, 다카사키역의 광전송 장비는 기존 철도 광섬유를 이용해 진동과 기상 변화가 통신 품질에 미치는 영향을 살펴본다.

시험 항목은 신호 손실, 전송 오류, 지연 시간, 지연 시간 편차다. 서로 다른 장소의 컴퓨팅 시설이 함께 작동하려면 이러한 측정이 중요하다. 철도 네트워크 실험은 요코하마와 기타큐슈 간 워크로드 이동과 별도로 진행되는 사업이다.

J파워가 컨소시엄을 이끌고 결과를 평가한다. 히타치는 워크로드 이동 시스템과 광통신 시험 환경을 구축하고, 시스코는 네트워크 설계와 측정을 지원한다. JR동일본은 철도 통신 장비를 점검하고, 비트미디어는 데이터센터 내 시스템을 개발한다.

이번 사업은 JR서일본 광네트워크와 나고야철도도 참여한 협의회가 2026년 4월 출범한 데 이어 진행된다. 더 큰 목표는 광역 광네트워크와 워크로드 이동을 활용해 분산된 AI 데이터센터를 연계 운영하는 것이다.

주요 일정은 열 회수와 컴퓨팅 실험이 어떻게 맞물리는지 보여준다.

• 2026년 4월: 7개 기업이 광네트워크 및 워크로드 이동 협의회를 구성한다.
• 2026년 6월 30일: 도쿄도가 TEPCO의 열 회수 제안을 선정한다.
• 2026년 7월 16일: 도쿄 열 회수 실증 기간이 시작된다.
• 2026년 8월: 요코하마와 기타큐슈 간 워크로드 이동 실증이 시작된다.
• 2027년 2월 1일: 워크로드 이동 실증이 종료될 예정이다.
• 2028년 3월 31일: 도쿄 열 회수 사업이 종료될 예정이다.

일본, 에너지 낭비 줄이며 컴퓨팅 확대 추진

일본은 2050년 탄소중립을 추진하는 동시에 AI와 반도체 투자를 확대하고 있다. 구마모토현의 TSMC 공장도 이러한 산업 확장의 일부다. 2022년 일본의 재생에너지 발전 비중은 약 22%로, 일본은 화석연료를 포함한 다른 에너지원에 크게 의존하고 있다.

TEPCO의 제5차 종합특별사업계획은 2040회계연도까지 도쿄권 데이터센터 수요 증가를 세계 최고 수준으로 끌어올리는 목표를 제시한다. 따라서 이 회사의 열 회수 사업은 데이터센터 산업을 확대하려는 명시적인 목표와 함께 추진된다.

열 회수와 워크로드 이동은 산업 확장의 서로 다른 측면을 다룬다. WaBiCo는 서버가 이미 소비하는 전력에서 더 유용한 성과를 얻고자 한다. 워크로드 이동은 컴퓨팅 수요와 전력 공급 상황을 더 잘 맞추려는 시도다. 급격한 전력 변동을 감당하는 장비는 두 방식 모두에 필요한 안정성을 뒷받침한다.

인근 지역사회가 기대할 수 있는 구체적인 이점은 유용한 열을 얻고 데이터센터와 지역 에너지 수요를 더 긴밀히 연결하는 것이다. 운영자에게는 냉각 비용, 생산적인 컴퓨팅 시간, 안정적인 서비스가 과제다. 다음 단계는 성과 측정이다. 컴퓨터가 계속 작동하는 동안 에너지를 얼마나 절감하거나 재사용할 수 있는지가 관건이다.

핵심 내용

• 도쿄도는 지원 대상 비용의 최대 5억2천만 엔을 지원해 TEPCO의 열 회수 실증을 뒷받침한다.
• 사업은 2028년 3월 31일까지 진행되며 냉방, 목욕시설, 공장, 지역난방을 대상으로 한다.
• WaBiCo는 감압 증발 방식으로 GPU에서 유용한 열을 직접 회수한다.
• 별도 실증 사업은 전력 상황에 맞춰 요코하마와 기타큐슈 간, 그리고 시간대 간 AI 작업을 이동한다.
• AI 전력 소비의 급격한 변동은 장비와 신뢰성 문제도 일으키고 있다.
• 실증의 실질적인 가치는 측정된 에너지 절감량, 회수열 공급량, 운영 성과에 따라 결정된다.