"아니 그러니까, GPU 서버를 우리 회사 전산실에서 운영하는게 왜 안된다는 거야?"

알았어요. 알겠다고요. 차근 차근 설명해 드릴테니 잠시 숨 좀 고릅시다. 지난 글부터 쉴새없이 달려왔더니 힘드네요. 자, 그럼 다시 가봅시다. 코로케이션 특집 콘텐츠 #3에 오신 여러분 모두 환영합니다. 

이번 글에서는 왜 AI를 위한 GPU 서버를 일반 IDC에서 운영할 수 없는지, ICN10은 왜 AI 인프라에 딱 알맞은 센터인지, 다른 IDC들과 뭐가 다른지에 대해 자세히 알아보겠습니다. 아직도 AI 서버를 자사 전산실, 혹은 IDC 코로케이션 센터에 넣어도 된다고 생각하는 분들, 지금부터 이어질 내용에 집중해 주세요. 아셨죠? 

그럼 가볼까요? 코로케이션 특집 콘텐츠 #3, 디지털 리얼티의 데이터 센터만의 특징을 파헤쳐봅시다. 목차는 아래와 같습니다.

​

1. 생성형 AI 시대, 왜 기업들은 직업 AI 인프라를 구축하려 할까?

"AI 시대엔 자체 인프라가 필수야?"

요즘 기업들이 생성형 AI를 활용하는 방식은 크게 두 가지로 나뉩니다. 하나는 SaaS 기반 AI 플랫폼을 활용하는 것이고, 다른 하나는 직접 AI 인프라를 구축하는 것인데요. 이 중에서 첫 번째, SaaS 모델을 활용한다면? 기업은 SaaS 플랫폼에 데이터를 업로드하기만 하면 AI 모델이 알아서 그에 맞는 결과를 도출해 줍니다. 즉, SaaS 기반 AI 플랫폼은

• ●빠르고 간편함

• ●종량제 혹은 정액제를 선택해 초기 투자 비용을 최소화할 수 있음

• ●기본적인 보안도 갖춰져 있어 기업들이 손쉽게 사용 가능

이라는 강점을 가지고 있습니다. 그런데, 일부 기업들은 굳이 자체 AI 인프라를 구축하려 합니다.

"왜 굳이 비싼 비용 들여서 자체 AI 인프라를 구축하려고 하는거야?"

이유는 간단합니다. AI를 단순히 활용하는 수준을 넘어, 완전히 자사 환경에 맞춘 최적화된 운영을 하기 위해서죠. 그럼, 기업들이 자체 AI 인프라 구축을 고민하는 이유를 좀 더 자세히 알아볼까요?

<이미지 출처 : Insider Monkey, Will AI’s Future Be Shaped by Digital Realty Trust (DLR)?>

① 우리 데이터, 우리가 직접 관리할래!

"기업 데이터는 기업 고유의 자산이다."

이 말은 AI 시대에 더욱 중요해졌습니다. SaaS 플랫폼을 이용하면 데이터는 AI 제공사의 서버에 올라가고, 그 안에서 처리되는 것이 일반적이죠. 하지만 금융, 의료, 연구기관, 공공기관 같은 기업들은 데이터를 외부에 올리는 것 자체가 보안 리스크입니다. 그래서, 만약 기업이 자체 AI 인프라를 구축한다면

• ●기업 내부망에서만 데이터를 활용하며 AI 모델을 운영할 수 있어 보안이 강화됨

• ●고객 맞춤형 AI 학습이 가능하며, 모든 데이터가 자사 정책에 따라 관리됨

따라서, SaaS는 편하지만, 우리 데이터의 완전한 통제권을 갖고 싶다면 자체 인프라가 답이라고 할 수 있겠죠.

② AI 환경을 우리 워크로드에 맞게 커스터마이징 하고 싶어!

SaaS는 여러 기업이 공용으로 사용하는 서비스입니다. 즉, 제공되는 서버, 네트워크, 스토리지, AI 모델 등이 모두 표준화되어 있죠. 그런데 기업들은 각자 다른 워크로드를 가집니다.

• ●어떤 기업은 초고속 응답이 필요한 실시간 AI 분석이 필요하고

• ●어떤 기업은 정밀한 금융 데이터 연산을 위해 특정 AI 모델을 커스텀해야 하며

• ●어떤 기업은 자율주행 차량 학습을 위해 대량의 GPU 서버를 동원해야 합니다.

그래서, 기업이 자체 AI 인프라를 운영한다면

• ●전력, 네트워크, 냉각을 모두 맞춤형으로 설계해 AI 워크로드를 최적화 가능

• ●AI 모델의 추론 속도를 극대화하는 네트워크, 인프라 환경을 갖출 수 있음

이러한 이유로, AI 인프라는 표준화된 SaaS 환경에서 벗어나, 기업이 원하는 방식으로 맞춤 설계될 때 더 강력해집니다.

③ SaaS 비용보다 장기적으로 자체 인프라 구축이 더 유리할 수도?

"SaaS를 쓰는 이유가 비용을 절감하기 위해서 아냐?

그렇죠. 그런데 만약 사용 기간이 3년 5년 이렇게 쭉쭉 늘어난다면 어떻게 될까요? SaaS는

• ●사용할 때마다 비용이 발생하는 종량제 모델이 대부분이며

• ●AI 추론이 많아질수록 API 호출 비용이 기하급수적으로 증가함

"그렇다면 장기적으로 비용이 더 비싸지는 것 아닐까?"

그럴 가능성도 배제할 수 없습니다. 따라서, 자체 AI 인프라를 구축한다면

• ●초기 구축 비용은 들지만, 장기적으로 AI 워크로드가 많아질수록 비용 절감 효과를 볼 수 있음

• ●AI 연산을 위한 GPU 서버를 직접 관리하며 API 호출 비용을 아낄 수 있음

• ●온프레미스 환경에서 자체 AI 시스템을 운영하며 SaaS 대비 빠르고 유연한 확장 가능

그러므로, SaaS는 꽤나 간편하지만, 대규모 AI 프로젝트를 운영하려면 자체 인프라가 더 경제적일 수 있습니다.

④ AI 확장성 & 자율성을 갖춘 인프라가 필요하다!

생성형 AI는 빠르게 발전하는 기술입니다. 기업이 SaaS에 의존하면 SaaS 업체의 기술 업데이트 속도와 방향성에 따라 운영이 제한될 수 있죠. 하지만, 기업이 자체 AI 인프라를 활용하면

• ●기업이 원하는 스펙의 GPU, 네트워크, 스토리지를 자유롭게 선택할 수 있고

• ●필요한 만큼 AI 인프라를 확장하고, 불필요한 리소스를 줄이는 최적화도 가능하며

• ●자사 맞춤형 AI 학습 및 추론 환경을 유지하면서도, 글로벌 클라우드 네트워크와도 쉽게 연결 가능

그렇기 때문에, 자체 AI 인프라를 구축하는 것은 단순히 특정 인프라를 운영하는 것이 아니라, 기업의 미래를 설계하는 데 중요한 요소라는 뜻이 됩니다.

그래서 결론은, AI를 직접 운영하려는 기업에게는 AI에 친화적인 데이터센터가 필요하다! 는 것인데요. 그렇다면, 기업이 AI 인프라를 직접 구축하려 할 때 가장 중요한 요소는 뭘까요?

​

2. AI 추론 작업에 ‘GPU 서버’가 필요한 이유는?

"CPU 서버로도 AI 추론이 가능하다던데, 꼭 GPU를 써야 해?"

결론부터 말하면, CPU만으로 AI 추론을 하기엔 너무 비효율적입니다. LLM(대규모 언어 모델)과 같은 생성형 AI는 엄청난 연산량을 요구하는데, CPU는 이를 효과적으로 처리할 수 있는 구조가 아닙니다. 반면, GPU는 AI 추론에 최적화된 병렬 연산을 지원하기 때문에 필수적인 선택지가 되고 있습니다. 그렇다면, CPU와 GPU는 무엇이 다를까요?

• ■CPU vs GPU, AI 추론 환경에서 무엇이 다를까?

CPU(Central Processing Unit)는 빠른 컨텍스트 스위칭, 하지만 한계가 있습니다.

• ●순차(Sequential) 연산에 최적화 – 명령어를 한 단계씩 빠르게 실행

• ●일반적인 컴퓨팅, 데이터베이스 운영, 웹 서비스 등에서 강점

• ●소수의 고성능 코어(High-Performance Few Cores) 기반

• ●빠른 컨텍스트 스위칭으로 멀티태스킹 지원

하지만 GPU(Graphics Processing Unit)는 대규모 병렬 연산으로 AI 추론 작업에 제격입니다.

• ●대규모 병렬(Parallel) 연산에 최적화

• ●AI, 머신러닝, 데이터 분석, 그래픽 처리 등에 강점

• ●수천 개의 연산 유닛(코어)을 활용해 대량 데이터 동시 처리

• ●행렬 연산(Matrix Computation)과 벡터 연산(Vector Computation)에 알맞음

"그럼, AI 추론 작업에는 GPU가 필수야?"

필수는 아닙니다만 거의 필수처럼 여겨질 정도라고 하는게 좋겠군요. 그럼, 왜 GPU가 CPU보다 AI 추론 작업에 활용하기 더 좋을까요?

<이미지 출처 : NVIDIA Blog, What is a Virtual GPU?>

① CPU는 순차 연산, GPU는 병렬 연산

CPU는 *빠른 컨텍스트 스위칭을 통해 여러 작업을 수행할 수 있지만, 한 번에 많은 양의 데이터를 동시에 처리하는 데 한계가 있습니다. 반면, GPU는 수천 개의 연산 유닛을 활용하여 다량의 데이터를 한꺼번에 병렬 처리할 수 있죠. 예를 들어,

• ●CPU는 하나의 고속 고속도로에서 자동차가 빠르게 지나가는 것과 같고,

• ●GPU는 다차선 고속도로에서 수많은 자동차가 동시에 지나가는 것과 같음

• ●즉, AI 추론처럼 대량의 데이터를 동시에 처리해야 하는 작업에는 GPU가 훨씬 효율적임

※ 여기서 잠깐, 빠른 컨텍스트 스위칭이란?

CPU는 한 번에 하나의 작업만 실행할 수 있지만, 매우 빠르게 여러 작업을 전환하는 능력을 가지고 있습니다. 이걸 "빠른 컨텍스트 스위칭"이라고 합니다. 쉽게 말해, 한 명의 요리사가 여러 요리를 번갈아 가며 빠르게 조리하는 것과 같은 개념인데요. 예를 들어 설명해볼게요.

• ●웹 브라우징, 음악 재생, 문서 편집 등 여러 앱을 동시에 실행하는 것처럼 보이게 해줌

• ●하지만 한꺼번에 대량의 연산을 수행하는 데는 한계가 있음

• ●따라서 AI 추론과 같은 고속 연산에는 GPU가 훨씬 유리! 
  

이런 특징 덕분에 CPU는 다양한 작업을 유연하게 실행할 수 있습니다만, 대량 연산에는 GPU 대비 한계가 명확합니다. 왜 그럴까요?

② AI 모델 추론에는 수많은 행렬 연산이 필요

생성형 AI 모델은 벡터 및 행렬 연산(Matrix Multiplication, Vector Operations) 기반으로 동작합니다. CPU는 순차적으로 연산을 수행하기 때문에, 이러한 수많은 연산을 빠르게 처리하기 어렵죠. 반면, GPU는 행렬 연산에 최적화된 아키텍처를 가지고 있어 AI 모델 추론 속도를 대폭 향상시킬 수 있습니다.

예를 들어, ChatGPT 같은 LLM이 사용자의 질문을 받고 응답을 생성하는 과정에서는

• ●수천억 개의 파라미터를 가진 뉴럴 네트워크가 작동

• ●이 과정에서 대량의 행렬 연산이 필요

• ●따라서, GPU가 아니면 실시간으로 답변을 생성하는 것이 사실상 불가능

③ GPU 서버는 공간 & 에너지 효율성 모두 잡는다

같은 공간에 GPU 서버를 배치하면, CPU보다 더 높은 연산량을 수행할 수 있습니다. GPU는 대량의 연산을 동시에 수행하므로, 동일한 전력 대비 더 높은 AI 추론 성능을 제공할 수 있죠. 하지만 CPU만을 사용하면 동일한 AI 추론 성능을 내기 위해 더 많은 서버와 전력이 필요하게 되고, 이 때문에 공간과 비용이 증가하게 됩니다.

따라서, AI 추론 환경에서는 '시간'과 '비용'을 고려하는 것이 매우 중요하다고 할 수 있겠습니다. 그래서 CPU보다 GPU가 더 제격이고, AI 인프라에는 GPU 서버가 필수라고 여겨지는 것이랍니다.

"근데, GPU 서버는 사양이 엄청 높지 않아? 이런 고사양의 GPU 서버를 일반적인 IDC에서 수용 가능해?"

그러게요. 생각해 봅시다. 우리가 주로 코로케이션 센터로 활용했던 통신사 IDC는 이런 GPU 서버, AI 인프라를 수용할 수 있을까요?

​

3. GPU 서버, 왜 기존의 IDC에서 운영하기 어려울까?

"GPU 서버를 지금 사용하는 데이터 센터(IDC)에 넣고 운여하면 되지 않을까?"

AI 인프라를 고민하는 기업들이 흔히 떠올리는 질문입니다. 하지만 현실적으로 기존 IDC는 AI GPU 서버를 수용하기 어려운 구조적 한계를 가지고 있습니다. 기존 데이터센터(IDC)는 CPU 기반 서버 환경을 전제로 설계되었기 때문인데요. 그래서, 우리가 주로 활용하고 있는 IDC는

• ●전력 소비가 적고, 일반적인 IT 서비스(웹, DB, ERP 등)에 적합한 구조

• ●랙당 전력 소모량: 5~10kW 수준

• ●냉각 방식: 공랭식(AHU, 항온항습기) 위주

• ●네트워크 스위치, 스토리지도 함께 설치해야 하기에, CPU 서버는 보통 랙당 10~15대 정도 배치

하지만 AI 학습 & 추론을 위한 GPU 서버 환경은 기존 IDC와 완전히 다른 설계가 필요합니다. 그렇다면, 왜 기존 IDC는 AI를 위한 GPU 서버를 수용하기 어려울까요?

<흔한 데이터 센터 내부 모습>

① 전력 공급의 한계 : CPU 서버 vs GPU 서버

AI를 위한 GPU 서버는 기존 CPU 서버 대비 10배 이상의 전력을 소비합니다. 아래의 표를 봐주세요.

표의 내용을 토대로 보면, 기존 IDC는 랙당 3~7kW 수준의 전력 공급을 전제로 설계되었기 때문에, GPU 서버 1대도 운영하기 버겁습니다. NVIDIA DGX-H100의 경우 10.2kW의 전력을 소비하거든요.(DGX-B200은 14.3kW) 최신 NVIDIA GPU를(NVIDIA H100, GB200) 장착한 NVIDIA DGX, HGX 서버를 설치할 경우, 필요한 전력은 랙당 최대 50kW가 넘어갈 수 있습니다. GPU 서버는 작아도 6U, 보통 8U에서 10U 크기라서, 하나의 랙에 설치할 수 있는 수량도 많지 않죠. 그럼에도 불구하고 필요한 전력은 어마어마하게 많습니다.

게다가 AI를 위한 GPU 서버는 단순한 이중화(A/B 전력 라인)가 아닌, 최소 4개 이상의 독립적인 전력 소스가 필요하죠. 기존 IDC는 이를 감당할 인프라가 부족한 것이 현실입니다.

② 냉각 한계 : 공랭식만으로는 부족하다

"GPU 서버는 발열이 엄청나다며?"

맞아요. GPU 자체도 TDP가 CPU보다 몇 배는 높은데, 이 GPU가 서버 한 대에 최대 8장까지 꽂히거든요. 그래서 GPU 서버는 CPU 서버 대비 5~10배 이상의 발열을 발생시킵니다. 그런데 기존의 많은 IDC들은

• ●일반적인 CPU 서버를 고려하여 공랭식(AHU, 항온항습기) 위주로 설계됨

• ●하지만 GPU 서버는 고밀도 발열을 발생시키기 때문에, 기존 공랭식으로는 냉각이 어려움

• ●최신 AI 데이터센터에서는 Liquid Cooling(액체 냉각)과 공랭식을 병행하는 하이브리드 냉각 방식이 요구됨

이런 이유로 공랭식만으로는 랙 당 최소 30KW 이상의 전력을 소비하는 GPU 서버를 냉각하기 버겁습니다. 그래서 GPU 서버는 다이렉트-투-칩(Direct-to-Chip) 수랭(Liquid Cooling)같은 최신 냉각 기술이 필요한데, 기존 IDC는 이를 지원하지 않는 것이 문제랍니다. 냉각이 제대로 되지 않으면, 서버 과열로 인해 성능 저하는 물론이고, 시스템 장애 위험까지 증가할테니까요.

그럼, AI를 위한, 전력과 냉각 시설이 충분한 IDC는 없는 걸까요? 에이, 설마 그럴리가요. 통칭 AI Ready 데이터 센터라고 불리우는 코로케이션 센터가 있습니다. 지난 글에서 살펴봤던 디지털 리얼티 ICN10이 바로 AI 인프라를 수용할 수 있는 데이터 센터인데요. 앞서 정리한 기존 IDC가 가진 한계점을 ICN10은 과연 얼마나 극복했는지 자세히 따져봅시다.

​

4. GPU 서버 운영에 최적화된 진정한 AI Ready 데이터 센터, ICN10 특징

"GPU 서버를 운영하기 위해 뭘 신경써야 하는거야?"

앞서 살펴본 것처럼, AI GPU 서버는 기존 CPU 서버와 완전히 다른 요구사항을 갖고 있습니다. 특히 전력, 냉각, 네트워크 인프라에서 기존 IDC가 감당할 수 없는 수준의 기술적 요구사항이 존재하는데요. 디지털 리얼티의 첫 번째 한국 데이터 센터인 ICN10은 이러한 AI GPU 서버 운영에 최적화된 데이터 센터로 설계되었습니다. 그럼, 왜 그런지 그 이유를 살펴봐야겠죠? 하나씩 말씀드릴게요.

 ① 전력 인프라 : GPU 서버에 최적화된 초고전력 + 안정적인 설계

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

GPU 서버는 랙당 20~50kW의 전력을 소모합니다. 이 수치는 기존의 CPU 서버 대비 최대 15배 이상의 전력이 필요하다는 의미인데요. 그럼, ICN10의 전력 지원 수준은 어느 정도인지 구체적으로 알아볼까요?

• ●랙당 20kW 전력 공급이 가능한 High Power Density 고집적 시설 → AI GPU 서버 운영 최적화

• ●4개의(A/B/C/D) 독립적인 전력 라인 제공 → 분산 UPS(Uninterruptible Power Supply) 설계로 장애 발생 시 신속한 전력 공급 가능 → 국내 유일, 독보적인 ICN10만의 강점

• ●비상 발전기(디젤 + 가스터빈) 이중화 → 장기적인 전력 안정성 보장

그래서 ICN10은 GPU 서버의 초고출력 전력 요구 사항을 충족하고, 고가용성(HA) 전력 아키텍처로 안정적인 AI 인프라 운영이 가능하며, 전력 장애 시에도 중단 없는 AI 서비스를 제공할 수 있는 센터다 이겁니다.

 ② 냉각 시스템 : 공랜 + 수랭 하이브리드 설계

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

엄청난 전력 소모 = 무지막지한 발열이란 소리죠. 그래서 GPU 서버는 기존 공랭식(AHU : Air Handling Unit) 냉각 방식만으로는 열을 감당하기 어렵죠. 그래서 ICN10은 하이브리드 냉각 설계를 적용해 고발열 GPU 서버도 안정적으로 운영할 수 있도록 지원하고 있습니다.

• ●공랭(AHU) + 수랭(Liquid Cooling) 병행 운영 가능

• ●콜드 아일(Cold Aisle) 컨테인먼트 적용 → 냉각 효율 극대화

• ●Direct-to-Chip 리퀴드 쿨링 지원 → GPU 칩셋에 직접 냉각수 공급

현재 대부분의 GPU 서버는 공랭 방식을 사용하고 있지만, 고집적&고밀도 GPU 시스템에서 요구되는 수랭 및 Direct-to-Chip 냉각 환경까지도 ICN10은 무리 없이 지원 가능한 인프라를 갖추고 있다는 점이 큰 강점입니다.

 ③ 네트워크 연결성 : 초고속 AI 데이터 전송 지원

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

AI 모델 학습 및 추론 과정에서는 대량의 데이터 이동과 실시간 연산이 이루어집니다. 따라서 초저지연 네트워크와 고속 데이터 전송이 반드시 필요한데요. 여기에 ICN10 만의 강점이 있습니다. 그게 뭔고 하니

• ●국내 주요 통신사 모두 입점 → 7개의 국내외 통신사가 입점해 완벽한 망중립 네트워크 제공

• ●AWS 다이렉트 커넥트 입점 → AWS와 전용선으로 연결해 하이브리드 클라우드 환경 구축 가능

• ●데이터센터 간 초고속 연결 가능 → 대규모 GPU 클러스터 구축 용이

통신사 IDC는 해당 통신사의 네트워크 망을 사용해야 하기에 망 이중화, 삼중화 등 네트워크 망의 안정성 확보에 한계가 있습니다. 하지만 ICN10은 완벽한 망중립 네트워크 망이라 기업이 원하는 망을 원하는 수 만큼 연결할 수 있고요. 대규모 GPU 클러스터 구성을 위한 지원도 문제없습니다. 거기에 AWS 다이렉트 커넥트까지 지원하니 AWS 사용 기업이라면 ICN10이 딱 알맞은 코로케이션 센터가 되겠죠?

 ④ NVIDIA DGX-Ready 코로케이션 데이터 센터

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

현존하는 가장 뛰어난 GPU 서버는 NVIDIA DGX입니다. NVIDIA가 직접 설계한 CPU와 NVIDIA GPU H100 또는 B200 GPU SXM 폼팩터 8개가 장착되어 있는 어플라이언스로, 무려 높이가 8U에 달합니다. 19인치 48U 표준랙에 DGX를 4대만 설치할 수 있을 정도로 전력과 발열이 엄청난 서버인데요. ICN10은 이 NVIDIA DGX 서버를 안정적으로 운영할 수 있는 센터라고 NVIDIA의 인증을 받았습니다.(보다 자세한 내용은 여기서 확인하실 수 있습니다.)

따라서, 만약 NVIDIA DGX H100이나 B200을 도입하고 싶은데 자체 보유한 전산실이나 데이터 센터에서 운영할 수 있는 여건이 안된다면? 고민할 것 없이 ICN10에 입점하면 됩니다. DGX 뿐일까요? 다른 서버 제조사들이 공급하는 HGX 서버도 문제없습니다. 국내에서 NVIDIA GPU 기반의 서버 운영에 가장 알맞은 코로케이션 센터가 ICN10이라는 말씀! 

 ⑤ 글로벌 AI 인프라의 허브

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

디지털 리얼티는 전 세계를 연결하는 디지털 생태계의 허브이자, AI 워크로드에 최적화된 코로케이션 인프라 제공자입니다. 위 지도에서 보듯, 디지털 리얼티는 북미, 유럽, 아시아, 아프리카, 오세아니아에 걸쳐 전략적인 위치에 데이터센터를 운영하고 있는데요. 그 면면을 자세히 살펴보면

• ●북미 지역 – 뉴욕, 보스턴, 시카고, 실리콘밸리, 샌프란시스코, LA, 휴스턴, 피닉스 등 글로벌 기술기업과 하이퍼스케일 클라우드 사업자의 핵심 입점 지역에 포진

• ●유럽 지역 – 프랑크푸르트, 암스테르담, 런던, 파리, 마드리드, 브뤼셀, 취리히 등 글로벌 금융 허브 및 네트워크 집결지에서 AI 환경 구현 가능

• ●아시아 지역 – 서울, 도쿄, 오사카, 홍콩, 싱가포르 등 급성장 중인 AI, 클라우드 시장에 대응 가능한 거점으로 활용

• ●아프리카 및 오세아니아 – 요하네스버그, 케이프타운, 시드니 등 디지털 리얼티의 글로벌 네트워크 연계성은 신흥시장까지 커버 가능

AI 워크로드는 ‘위치’가 곧 경쟁력입니다. 추론 서비스의 경우 실시간 응답 속도가 중요한데, 사용자와 가까운 위치에 인프라가 있을수록 지연 시간을 최소화할 수 있기 때문이죠. 디지털 리얼티는 이러한 지리적 분산과 고속 연결성을 무기로, 기업들이 글로벌 AI 서비스를 구축할 수 있도록 도와줍니다. 특히 한국의 서울(ICN10)은 국내 기업들의 AI 코로케이션 및 글로벌 진출의 교두보 역할을 하고 있는 셈이죠.

<이미지 출처 : 디지털 리얼티 ICN10 미디어 브리핑>

이에 대한 글로벌 사례는 위와 같습니다. 그리고 국내의 경우 카카오뱅크 AI 센터가 ICN10에 입주해 있답니다.

그래서 정리하면, ICN10은 기존 IDC의 한계를 뛰어넘어 GPU 서버에 최적화된 환경을 제공하는, 진정한 하이퍼스케일 데이터 센터입니다. 4개의 독립된 UPS로 안정적인 전력 공급이 가능하고, 공랭과 수랭을 함께 사용할 수 있으며, 완벽한 망중립 네트워크에 AWS 다이렉트 커넥트 지원, 그리고 철통같은 보안으로 기업의 AI 인프라 운영 환경으로 최적의 센터라고 할 수 있겠습니다. 그리고 이런 모든 요소들을 기업이 원하는 수준에서 맞춤형으로 갖춰나갈 수 있다는 것이 ICN10의 강점인 것도 기억해 주세요.

그런데 말입니다. 이렇게 놓고 보니 ICN10은 꼭 AI 전용 데이터 센터처럼 보입니다. 그래서 혹시라도

"ICN10은 AI 용도가 아니면 이용 못하는 거 아냐?"

라고 오해하실 수도 있을텐데요. 그렇지 않습니다. 그 이유를 이어서 살펴보겠습니다.

​

5. AI 인프라를 포용하는 다목적 코로케이션 센터, ICN10으로 오세요!

"우리 회사는 아직 AI 연구 시작할 여력이 안되는데, ICN10에 입점할 수 있어?"

그럼요. 지금까지 ICN 10이 AI 인프라 구축에 최적화된 환경을 제공한다는 점을 강조했지만, 이곳의 진짜 강점은 AI만을 위한 데이터센터가 아니라는 점에 있습니다. 즉, AI 연구를 포함한 모든 기업 IT 환경을 유연하게 수용하는 다목적 코로케이션 센터라는 것입니다.

<이미지 출처 : Digital Realty 코로케이션 웹페이지>

"그럼, 어떤 기업들이 ICN10에 입주하면 좋을까?"

좋은 질문이에요. 아주 핵심적인 질문이군요. 간단히 정리하면 아래와 같아요.

• ●AI 클러스터를 구축해 고성능의 IT 인프라를 대규모로 운영해야 하는 대기업, 금융기관한 환경 제공

• ●다수의 네트워크 망을 연결해 안정적인 클라우드 서비스를 제공해야 하는 CSP

• ●이제 막 자체 AI 연구를 시작한 AI 스타트업 및 연구 기관

• ●낮은 레이턴시와 높은 네트워크 대역폭이 중요한 커머스, 콘텐츠, 그리고 게임사

결과적으로, ICN10은 AI 전용 센터로 한정되지 않고, 다양한 기업들이 필요한 만큼의 IT 인프라를 유연하게 확장할 수 있는 다목적 데이터 센터라고 보면 되겠죠? 이제 ICN10을 AI 전용 센터라고 오해하지 마세요.

• ■ICN10, 현재와 미래를 모두 커버할 수 있는 기업을 위한 최적의 센터

지금까지 디지털 리얼티의 ICN10이 다른 통신사 IDC와 어떻게 다른지, ICN10만의 고유한 특징은 무엇인지 자세히 살펴봤습니다. 앞서 언급했듯이 ICN10은 AI 기업뿐만 아니라 기존의 금융, 미디어, 클라우드, 게임, 제조 등 다양한 기업군이 활용할 수 있도록 인프라를 설계되었다는 점, 기존의 대형 기업뿐만 아니라 규모가 작은 기업들도 입점할 수 있다는 점을 꼭 기억해 주세요. 대기업들이나 누릴 수 있었던 IT 인프라 환경을, 중소 기업들도 얼마든지 누릴 수 있다 이겁니다.

• ○AI 연구를 위한 인프라를 고민하고 있다면?

• ○기존 데이터센터에서 한계를 느끼고 있다면?

• ○유연한 확장성과 맞춤형 IT 환경을 원한다면?

디지털 리얼티 ICN10을 우선 순위로 놓고 고민해 보시기 바랍니다.

마지막으로, 이벤트 하나 소개해 드릴게요. 디지털 리얼티에서 위와 같이 자사의 데이터 센터 지도와 노트, 펜으로 구성된 맵키트를 증정하는 이벤트를 진행하고 있습니다. 디지털 리얼티의 글로벌 데이터 센터 현황이 궁금하신 분들은 맵키트 증정 이벤트해 신청해 보시기 바랍니다. 위 배너를 클릭하면 신청 페이지로 이동합니다.

이것으로 총 3부에 걸친 코로케이션 특집 콘텐츠를 마치겠습니다. 이 글이 기업 내 IT 인프라 담당자 분들, 특히 AI를 위한 인프라를 고민 중이신 분들께 조금이나마 도움이 되었기를 바랍니다. 끝!