AI 데이터 센터, 보이지 않는 세 개의 벽
요즘 AI 이야기가 넘쳐난다. 챗GPT가 어떻고, 엔비디아 주가가 어떻고. 그런데 정작 이 화려한 AI를 굴리는 데이터 센터가 어떤 처지인지 아는 사람은 드물다.
세상을 보는 눈에는 두 가지가 있다. 하나는 보이는 것을 보는 눈이고, 다른 하나는 보이지 않는 것을 보는 눈이다. 지금 세상은 AI라는 화려한 꽃에 취해 있다. 그러나 꽃만 보는 자는 뿌리가 마르는 것을 모른다.
AI 데이터 센터 산업은 지금 벽에 부딪혔다. 칩, 전기, 물. 이 세 가지가 없으면 아무리 좋은 AI 모델을 만들어도 돌릴 곳이 없다. 이것이 근본이다.
첫 번째 벽, 칩
엔비디아 GPU가 부족하다는 말은 이미 식상하다. 진짜 문제는 그 다음 단계다. 칩과 고대역폭메모리(HBM)를 하나로 묶는 패키징 공정, 이른바 CoWoS라는 게 있다. TSMC가 이걸 만드는데, 전 세계 수요를 감당하지 못한다. 칩은 있어도 조립을 못 하는 상황이다.
여기에 메모리 병목까지 겹친다. 연산 속도는 빨라지는데 데이터를 실어 나르는 길이 좁다. 그래서 더 많은 HBM이 필요하고, 더 많은 전력이 들어간다. 악순환이다.
더 무서운 건 공급망의 집중이다. 설계는 엔비디아, 생산은 TSMC. 이 두 회사 중 하나라도 문제가 생기면 전 세계 AI 인프라가 멈춘다. 대만해협에 긴장이 돌 때마다 실리콘밸리가 식은땀을 흘리는 이유다.
두 번째 벽, 전기
이게 가장 심각하다. AI 칩은 기존 서버보다 전력을 3배에서 10배 더 먹는다. 일반 서버 랙 하나가 5에서 10킬로와트를 쓴다면, AI 전용 랙은 50에서 100킬로와트를 넘긴다. 기존 데이터 센터 설계로는 전기를 공급조차 할 수 없다.
발전소를 더 짓는다고 해결될 일도 아니다. 전기를 만들어도 보낼 길이 없다. 송전탑 하나 세우는 데 5년에서 10년이 걸린다. 행정 절차, 주민 반대, 환경 심사. 전기가 있어도 쓰지 못하는 송전 제약이 곳곳에서 터진다.
거기에 탄소 중립 압박까지 있다. 구글, 마이크로소프트 같은 빅테크들은 재생에너지를 원한다. 그런데 태양광과 풍력은 해가 지고 바람이 멎으면 끝이다. 24시간 돌아가는 데이터 센터의 기저 전력을 감당하기 어렵다.
세 번째 벽, 물
전기가 들어가면 열이 난다. 이 열을 식히는 데 막대한 물이 필요하다. 챗GPT 같은 거대 모델을 학습시키는 데 수백만 리터의 물이 증발한다. 구글의 데이터 센터 냉각수 사용량은 매년 20퍼센트씩 늘고 있다.
데이터 센터 하나가 인구 10만 명 도시가 쓸 물을 가져간다. 가뭄이 잦은 지역, 농업 용수가 필요한 지역에서는 데이터 센터가 생존권 위협으로 여겨진다. 미국 서부, 칠레, 스페인 등지에서 주민들이 데이터 센터 건설에 반대하며 시위를 벌이는 이유다.
기술적으로도 한계가 있다. 팬을 돌려 공기로 식히는 방식으로는 더 이상 안 된다. 액체 냉각으로 넘어가야 하는데, 이건 데이터 센터 설계 자체를 바꾸는 대공사다.
한국의 현실
한국은 이 세 개의 벽 앞에서 묘한 위치에 있다. 칩에서는 강하다. SK하이닉스와 삼성전자가 HBM 시장을 쥐고 있다. 데이터 센터에 들어갈 부품을 공급하는 능력은 세계 최고 수준이다. 그러나 정작 GPU 설계 능력은 미국에 한참 뒤처진다. 부품은 만들어도 완성품은 못 만드는 셈이다.
전기는 아킬레스건이다. 한국 데이터 센터 수요의 80퍼센트 이상이 수도권에 몰려 있다. 그런데 수도권으로 전기를 끌어올 송전망이 이미 포화 상태다. 정부가 지방으로 내려가지 않으면 전기를 주지 않겠다고 선언했지만, 기업들은 인력 수급 문제로 지방 이전을 꺼린다.
한전은 적자에 허덕이고, 송전탑 건설은 주민 반대로 수년째 지연된다. 용인 반도체 클러스터조차 전력 공급 문제로 가동 시기가 불투명하다. 재생에너지 발전 비율은 OECD 최하위권이다. RE100을 달성해야 하는 글로벌 빅테크들이 한국에 데이터 센터 짓기를 꺼리는 결정적 이유다.
물도 문제다. 반도체 공장과 데이터 센터가 집중된 경기 남부 지역, 용인과 평택 일대는 이미 물 부족 스트레스를 받고 있다. 용인 클러스터 조성을 위해 팔당댐 물을 끌어와야 하는데, 인근 지자체와 갈등이 터졌다. 데이터 센터가 추가될수록 이 갈등은 격화될 것이다.
말과 일의 차이
AI 3대 강국. 좋은 구호다. 그런데 구호는 쉽고 일은 어렵다.
장자(莊子)에 이런 이야기가 있다. 어떤 사람이 용을 잡는 기술을 배우겠다며 천금을 들여 삼 년을 공부했다. 기술은 완벽하게 익혔으나, 정작 용을 잡을 곳이 없었다. 도룡지기(屠龍之技), 쓸 데 없는 기술이라는 말이 여기서 나왔다.
지금 한국은 AI라는 용을 잡겠다며 칩 기술에 천금을 쏟아붓고 있다. 그런데 그 용이 살 연못, 즉 데이터 센터를 돌릴 전기와 물이 없다. 기술은 익혔으나 쓸 곳이 없는 도룡지기가 될 판이다.
지혜로운 자는 일이 터진 뒤에 수습하지 않는다. 일이 터지기 전에 막는다. 병이 나기 전에 양생하고, 둑이 터지기 전에 보수한다. 이것을 예방(豫防)이라 한다. 노자(老子)가 말한 위지어미유(爲之於未有), 아직 없을 때 하라는 것이 이것이다.
송전망 문제는 5년 전에 손을 댔어야 했다. 수자원 갈등은 10년 전에 조정했어야 했다. 지금 시작해도 늦었다. 그런데 아직도 시작조차 안 했다.
무기는 있으나 전장이 없다
한국은 AI 시대를 위한 무기는 가지고 있다. HBM이라는 핵심 부품을 쥐고 있다. 그러나 그 무기를 휘두를 전장, 즉 데이터 센터 인프라가 열악하다. 수도권 집중이 지속되면 전력과 물 부족으로 신규 데이터 센터 승인 자체가 불가능해지는 날이 올 수 있다.
옛 병법에 병마미동 양초선행(兵馬未動 糧草先行)이라 했다. 군대가 움직이기 전에 군량과 마초가 먼저 가야 한다. 전쟁에서 이기려면 군대만 있어선 안 된다. 군량미를 나를 길이 있어야 하고, 병사들이 마실 물이 있어야 한다.
AI 전쟁도 다르지 않다. 화려한 칩만 바라보는 사이, 전기와 물이라는 군량이 끊기고 있다. 전기는 지방에 있고, 데이터와 인력은 서울에 있다. 이 미스매칭을 풀지 않으면, AI 3대 강국은 그저 구호로 끝난다.
꽃을 보는 자는 많고, 뿌리를 보는 자는 적다. 그러나 꽃이 시드는 것은 뿌리가 먼저 마르기 때문이다. 지금 한국의 AI 담론에서 전기와 물 이야기가 빠져 있다면, 그것이 바로 뿌리가 마르고 있다는 증거다.
