
챗GPT에 질문을 보내면 답은 스마트폰이 아니라 데이터센터에서 계산된다. 과거에는 서버를 안전한 환경에 보관하는 ‘서버 호텔’에 가까웠지만, 지금은 수만 개의 GPU가 인공지능(AI)의 학습과 답변 생성을 맡는 거대한 연산 시설이다.
데이터센터 투자가 왜 세계 산업과 금융시장의 관심사가 됐는지, 울산의 7조원 프로젝트를 통해 그 속사정을 들여다볼 수 있다.
데이터센터의 역할은 일상에서도 확인된다. 카카오톡 메시지는 상대방 휴대전화로 곧장 이동하는 게 아니라 서버를 거치며, 2022년 10월 판교 데이터센터 화재로 카카오톡이 멈췄을 때 그 의존성이 드러났다. 생성형 AI는 훨씬 복잡한 계산을 한다.
질문을 받은 서버가 문맥에 맞춰 답을 만들고, 완성된 문장 전체가 아니라 먼저 생성된 부분부터 기기로 보내기 때문에 화면에는 글이 타자 치듯 나타난다.
한국에서는 1999년 데이콤(현 LG유플러스)이 첫 인터넷데이터센터(IDC)를 열었다. 당시의 핵심은 서버가 잘 작동하도록 전력과 네트워크, 온도·습도를 관리하는 일이었다.
AI 시대에는 CPU 중심 장비 대신 병렬 연산에 강한 GPU가 중요해졌고, 데이터센터는 텍스트와 이미지, 영상을 실시간으로 학습·추론하는 ‘디지털 두뇌’로 바뀌었다. 전 세계 데이터센터 1만3186개 가운데 미국은 5108개로 38.74%를 차지한다.
한국에는 117개가 있으며, 울산의 SK텔레콤·아마존웹서비스(AWS) 사업은 투자비 7조원으로 국내 단일 데이터센터 투자 중 최대 규모다.
그 7조원을 2025년 세계 데이터센터 설비투자 비중에 맞춰 나누면 서버·네트워크·저장장치 등 IT 장비에 약 3조5600억원, 냉각·전력 설비를 포함한 시설 인프라에 약 2조2800억원, 건물과 부지에 약 1조1600억원이 들어가는 셈이다.
예컨대 엔비디아 H100 GPU 8개를 탑재한 AI 서버는 한 대에 4억~5억원 선이다. 더구나 데이터센터 수명은 약 20년이지만 장비는 4~6년마다 교체해야 한다. 신형 GPU와 가속기가 빠르게 등장해 초기 장비 투자에 맞먹는 재투자가 운영 기간 중 반복될 수 있다.
전력과 냉각은 건설과 운영의 핵심 조건이다. GPU가 내는 열을 식히지 못하거나 전력을 안정적으로 공급받지 못하면 시설이 제 기능을 할 수 없다. 특히 변압기는 발전소의 초고압 전기를 서버가 쓸 전압으로 낮추는 필수 장치다.
구리와 전기강판 가격 상승, 생산 과정의 어려움이 겹치며 변압기 완제품 가격은 2020년 이후 70% 넘게 올랐고, 초고압 제품은 주문 뒤 납품까지 최대 5년이 걸릴 수 있다. S&P 글로벌은 AI 데이터센터 전력 수요가 커지는 2028년을 공급 확보가 기업 생존을 가를 시점으로 짚었다.
투자 규모도 커지고 있다. PwC 분석에 따르면 전 세계 AI 수요를 뒷받침하는 데이터센터 자본투자는 2050년까지 31조6000억달러, 약 4경3000조원에 이를 전망이며, AI 도입이 빨라지면 50조달러까지 늘어날 수 있다.
따라서 시장이 주시하는 것은 투자 자체의 소멸보다 전력·인허가 문제에 따른 집행 시점의 변화다. 김록호 하나증권 애널리스트는 AI 경쟁이 국가 안보와 경제 패권에 연결돼 있어 데이터센터 투자를 근본적으로 제한할 가능성은 낮다고 봤다.
챗GPT는 매주 약 12억명, 생성형 AI 전체는 매달 약 32억명이 이용하는 것으로 집계돼, 이들의 요청이 시설 확충 수요를 뒷받침하고 있다.