국내 최대 ‘GPU 팜’ 구축한 NHN클라우드 “AI 인프라 시장 선도”

국가 AI 데이터센터 외관. ⓒNHN클라우드

NHN클라우드가 생성형 AI 시대에 대응하기 위한 AI 인프라 청사진을 공개했다. 회사는 ‘국가 AI 데이터센터’에 ‘GPU(그래픽처리장치) 팜’을 국내 최대 수준으로 구축해 작년 말부터 가동하고 있으며, 각기 다른 종류의 GPU를 결합해 서비스를 최적화하는 역량을 활용해 누구나 쉽게 AI 서비스를 만들 수 있는 최상의 환경을 지속 제공하겠다는 목표다.

NHN클라우드는 지난 21일 광주광역시 김대중컨벤션센터에서 기자 간담회를 열고 광주광역시와 협업해 건립한 국가 AI 데이터센터의 특장점을 소개하고 향후 운영 계획을 밝혔다. 이날 발표는 김동훈 NHN클라우드 대표와 윤용수 NHN클라우드 데이터센터엔지니어링실 기술리더(이사)가 맡았다.

국가 AI 데이터센터는 이름 그대로 국가와 협력해 만들었다. 광주광역시는 부지를 제공하고 건물을 세웠다. NHN클라우드는 건물 내 AI 데이터센터 운영을 위한 기반시설과 주요 컴퓨팅 자원을 구축했다. 정부는 AI 산업 육성이라는 목표 아래 AI 기업에 GPU를 제공하기 위한 AI 데이터센터를 필요로 했으며, 민간기업 중 NHN클라우드가 AI 데이터센터 건립에 적합한 기술력을 가지고 있다고 판단해 협력 대상으로 선정했다는 설명이다. GPU는 AI 학습과 추론에 활용되는 장치다.

김동훈 NHN클라우드 대표와 윤용수 NHN클라우드 데이터센터엔지니어링실 기술리더(이사)가 지난 21일 광주광역시 김대중컨벤션센터에서 진행된 기자 간담회에서 기자들의 질의에 답변하고 있다. ⓒ데일리안 민단비 기자

NHN클라우드에 따르면 국가 AI 데이터센터는 국내 최대 규모의 GPU 팜을 구축하고 있다. GPU 종류는 현존 최고 성능의 GPU인 엔비디아 ‘H100’를 비롯해 그래프코어, 사피온 ‘X200’ 등이 있다. 특히 엔비디아의 H100 수는 1000장 이상으로, 국내 최대 규모다. NHN클라우드는 성능과 연산 정확도를 향상시킨 사피온 X200의 후속 모델 ‘X300’이 올해 출시되면 X300도 탑재할 예정이다.

김 대표는 “최근 AI 산업의 급격한 성장으로 CPU 기반 컴퓨팅에서 GPU 기반 가속 컴퓨팅으로 진화하고 있다”며 “GPU 기반의 다양한 생성형 AI 서비스에 대비하지 않으면 이 산업에서 성장하기 쉽지 않을 것이라고 생각했다”며 AI 데이터센터 건립을 추진하게 된 이유를 밝혔다. 이어 “가장 큰 이점은 다른 데이터센터보다 GPU를 저렴하게 사용할 수 있다는 것”이라며 “때로는 무상에 가깝게도 제공한다”고 했다.

국가 AI 데이터센터는 NHN클라우드의 다년간의 데이터센터 운영 경험과 노하우를 바탕으로 설립됐다. 윤 리더는 “엔비디아 H100은 최대 10키로와트(kw)를 소비하는데 국내 데이터센터의 랙당 평균 전력 제공량은 4.8~5kw다. H100 한 대도 못 돌리는 수준이다. 최근에 만들거나 내년에 개소되는 DC들도 랙당 평균 10kw 정도만 제공하고 있다”며 “국가 AI DC는 랙당 최대 15kw를 공급한다. H100에 전력을 제공하기 위해 고밀도로 설계한 것”이라고 설명했다. 김 대표도 “15kw를 제공하는 데이터센터는 현존하지 않는다”며 “AI 인프라 설계를 감안한 데이터센터는 우리가 유일하다”고 강조했다.

국가 AI 데이터센터 전산실. 엔비디아 H100을 비롯한 최신형 GPU로 구성돼있다. ⓒNHN클라우드

AI DC는 ‘전기 먹는 하마’로 불릴 만큼 막대한 양의 전력을 소비한다. 회사는 쓰이는 에너지를 최소화하기 위해 찬 공기와 더운 공기가 섞이지 않도록 차폐환경을 조성하는 랙을 자체 설계했다. 기존 데이터센터보다 층고를 더욱 높여 서버 열기를 식히기에 충분한 풍량이 공급될 수 있도록 했다. 김 대표는 “액침 냉각 기술, 수냉식(차가운 물로 실내 온도를 조절하는 방식) 시스템 등 여러 방식들이 시장에서 나오고 있지만 전부 POC(기술검증) 단계”라며 “공냉식(공기를 순환시켜 열을 시키는 방식)은 액침 냉각 기술처럼 효율적이지는 않지만 신기술들의 과도기 단계에서는 굉장히 경쟁력 있다고 생각한다”고 했다.

‘완전 무정전’을 실현하기 위한 설비도 갖췄다. 1000kw 용량의 비상전원공급장치(UPS)는 4대, 비상발전기는 2000kw 용량이 4대 설치됐다. 정전 시 먼저 UPS가 한 대당 15분 이상 전력 백업을 하고, UPS가 백업 가능한 시간이 넘어가면 비상발전기가 최대 72시간동안 가동된다. 여기에 유류 공급업체와 계약까지 체결해 현재 구축 중인 유류 공급망을 통해 AI DC가 끊임없이 가동할 수 있도록 했다.

AI DC 수익은 내년부터 확대될 전망이다. 김 대표는 “현재는 정부가 GPU 전체를 임차한 상태”라며 “이 기간이 올해 말 끝나면 내년부터 우리가 직접 임차할 수 있는 구조다. 그때부터는 정부가 일정 물량을 구매해 민간 기업들한테 지원할 예정이다. 그래도 다른 데이터센터보다 저렴하게 가격을 책정할 예정”이라고 밝혔다.

글로벌 진출 계획에 대해서는 “그동안 CPU 기반 서비스나 플랫폼은 아마존웹서비스(AWS)나 MS 애저가 선도했으나 GPU로 넘어오면서 람다 등 새로운 클라우드 업체들이 빠르게 성장하고 있다”며 “NHN클라우드도 이러한 트렌드에 맞춰 지코어와 함께 국내 및 일본 사업을 함께 추진하는 계획을 가지고 있다”고 말했다.

국가 AI 데이터센터 UPS실. ⓒNHN클라우드