보이지 않는 AI 공장, 데이터센터 전쟁이 시작됐다 | 밸류체인타임스

(출처=unsplash)

[밸류체인타임스=이지유 칼럼니스트] 사용자가 챗GPT에 “오늘 저녁 뭐 먹지?”라고 묻고 답을 얻기까지 걸리는 시간은 불과 몇 초 남짓이다. 하지만 이 짧은 찰나, 화면 뒤편에서는 수천수만 개의 고성능 서버가 굉음을 내며 가동된다. 인공지능(AI) 서비스가 일상 깊숙이 파고들면서, 이를 묵묵히 떠받치는 거대한 산업 인프라 ‘데이터센터’의 수요가 폭발적으로 급증하고 있다.

수만 개 GPU 24시간 풀가동… '학습'과 '추론'의 무한 궤도

AI의 생애주기는 인프라 관점에서 크게 ‘학습(Training)’과 ‘추론(Inference)’ 두 단계로 나뉜다.

챗GPT와 같은 거대언어모델(LLM)을 개발하기 위해서는 방대한 데이터를 수만 개의 그래픽처리장치(GPU)에 병렬 투입해 장기간 학습시키는 과정이 선행되어야 한다. 이 기간 동안 서버는 수개월간 24시간 내내 멈추지 않으며, 수만 개의 GPU가 하나의 슈퍼컴퓨터처럼 유기적으로 연결된다. 이를 수용하기 위한 초거대(Hyperscale) 데이터센터 구축은 선택이 아닌 필수다.

이어지는 추론 단계는 사용자가 질문을 던질 때마다 AI가 실시간으로 연산해 답을 생성하는 과정이다. 전 세계 수억 명의 동시 접속을 지연 없이 처리하려면 막대한 서버 인프라가 뒷받침되어야 한다. AI 이용자가 늘어날수록 데이터센터가 기하급수적으로 늘어날 수밖에 없는 구조적 이유다.

칩 하나에 수천만 원… 핵심은 '대규모 전력'의 즉각 공급

AI 데이터센터의 비용 구조는 기존 IT 인프라의 상식을 뛰어넘는다. 데이터센터의 ‘심장’ 역할을 하는 GPU가 전체 구축 비용의 절반 이상을 차지하는 경우가 태반이다. 주로 엔비디아의 최신 칩이 사용되는데, 차세대 블랙웰(Blackwell) 계열 칩은 개당 수천만 원을 호가하며 대형 센터에는 이러한 칩이 수만 개씩 투입된다.

더 큰 문제는 전력이다. AI 서버는 일반 서버 대비 5~10배가량 많은 전력을 소비한다. 24시간 무중단 전력 공급을 위해 전용 변전소와 송전 설비를 구축해야 하므로, 이제 데이터센터 부지 선정의 핵심 기준은 부동산업계의 ‘땅값’이 아닌 ‘대규모 전력의 즉시 공급 여부’로 이동했다.

미국 에너지부는 오는 2030년까지 자국 내 데이터센터 전력 소비량이 현재보다 두 배 이상 급증할 것으로 전망했다. 실제로 일부 초대형 데이터센터 단지는 중소 도시 전체와 맞먹는 전력을 소모한다. 전력 확보가 국가적 과제로 떠오르자, 마이크로소프트와 구글 등 글로벌 빅테크들은 원자력 발전소 인근 부지를 선점하거나 소형모듈원전(SMR)에 직접 투자하는 등 '무탄소 전력망' 확보에 사활을 걸고 있다.

(출처=unsplash)

"뜨거운 서버를 식혀라"… 공랭식 한계에 액체 냉각(Liquid Cooling) 급부상

서버에서 발생하는 막대한 열을 통제하는 '냉각 기술' 역시 데이터센터 전쟁의 핵심 변수다. 현재 데이터센터 전체 전력의 약 30~40%가 냉각에 사용되고 있다. 차가운 공기를 순환시키는 기존의 공랭식(Air Cooling) 시스템은 급증하는 고성능 GPU의 발열을 감당하기에 이미 한계에 직면했다는 평가다.

이에 대한 대안으로 서버 부품에 직접 차가운 물을 순환시키는 ‘직접 액체 냉각(Direct Liquid Cooling)’ 방식과 서버 전체를 특수 절연 액체에 담그는 ‘액침 냉각(Immersion Cooling)’ 방식이 급부상하고 있다. 초기 구축 비용이 막대하고 유지 관리가 까다롭지만, 압도적인 전력 절감 효과 때문에 주요 기업들은 앞다투어 차세대 냉각 기술 내재화에 나서고 있다.

국가 경쟁력 가르는 '보이지 않는 전쟁'

결론적으로 AI 시대의 데이터센터는 단순한 데이터를 모아두는 '저장 창고'가 아니다. 천문학적인 자본과 막대한 전력을 투입해 ‘연산력’이라는 21세기의 새로운 자원을 찍어내는 ‘AI 공장’이다.

업계 관계자는 "이제 AI 패권은 알고리즘의 우수성만으로 결정되지 않으며, 얼마나 안정적이고 압도적인 인프라를 갖추었느냐가 곧 기업과 국가의 경쟁력을 좌우한다"고 강조했다. 우리가 무심코 던지는 짧은 질문 한 줄이 거대한 산업 생태계를 움직이는 지금, AI 패권을 둘러싼 진짜 전쟁은 보이지 않는 데이터센터 안에서 치열하게 전개되고 있다.

Copyright © 밸류체인타임스. All rights reserved. 무단 전재 및 재배포, AI학습 이용 금지

[밸류체인타임스=이지유 칼럼니스트]