Nutanix 세션 2개 + 고객 세션 1개 핵심만 콕!

지난 9월 26일(목) 오전 10시 20분부터 저녁 6시까지, Nutanix에서 주최한 .NEXT On Tour Seoul 2024 컨퍼런스가 열렸습니다. 이번 행사에서는 하이브리드 멀티클라우드가 어떻게 변화하고 있는지에 대한 최신 트렌드와 함께, Nutanix가 제공하는 다양한 하이브리드 멀티클라우드 플랫폼 솔루션이 발표되었는데요. Nutanix 세션 9개, 그리고 Nutanix와 협력하는 스폰서 세션 7개 및 고객 세션 1개를 더해 총 17개의 세션을 통해 기업들이 어떻게 하면 하이브리드 멀티클라우드 환경을 잘 운영해 나갈 수 있을지에 대한 방안을 소개했습니다. 당시 행사 분위기가 어땠는지, 스케치 영상으로 확인해 볼까요?

아무튼, Nutanix는 당시 행사에 참여하지 못하신 분들을 위해 .NEXT On Tour Seoul 2024 다시보기라는 사이트를 개설, 17개의 세션을 온라인으로 공개했습니다. 덕분에 저도 주요 세션들을 다시 볼 수 있었는데요. 그래서 작년이 이어 올해도 .NEXT On Tour Seoul 2024의 세션을 정리해 보고자 합니다. 단, 작년 행사는 모든 세션을 간단히 요약했었다면, 올해는 총 17개의 세션 중 3개를 골라 주요 내용을 자세히 말씀드리려고 합니다. 어떤 세션이냐고요? 아래의 목차를 봐주세요.

첫 번째 세션에서는 복잡하고 다양한 환경에서 클라우드 네이티브 및 컨테이너화된 애플리케이션을 단순하게 운영 관리하는 방안에 대해 알아봅니다. 두 번째 세션에서는 Nutanix가 무료로 제공하는 하이퍼바이저인 AHV를 사용해온 현대엔지니어링의 담당자가 전하는 생생한 사용 경험 및 운영 노하우를 전합니다. 마지막 세션에서는 기업이 내부 통제가 가능하고 안전한 프라이빗 환경에서 생성형 AI를 어떻게 비즈니스에 활용할 수 있는지에 대한 방법을 소개할 예정입니다. 

어때요? Nutanix 플랫폼에 대한 전반적인 소개와 IT 트렌드의 가장 선봉에 서 있는 생성형 AI 활용, 거기에 Nutanix를 다년간 운영해 온 고객 담당자의 생생한 노하우까지 들을 수 있으니, 제법 알찬 구성이죠? 그럼, 각 세션이 어떤 내용을 담고 있는지, 지금부터 저와 함께 자세히 살펴봅시다.

이 콘텐츠는 Nutanix의 지원으로 제작되었습니다.

​

1. 더 빠르고 비용 효율적인 클라우드 네이티브로의 여정

이 세션에서는 Apple, Twitter 등 유수 글로벌 기업들의 쿠버네티스 운영 관리를 이끌어온 D2iQ를 인수하여 출시한 Nutanix 쿠버네티스 플랫폼에 대한 소개와 혁신적인 클라우드 네이티브 서비스의 필요성에 대해 설명합니다. 발표자 김상우 상무는 최근의 빠른 기술 변화 속에서 IT 리더들이 마주하는 경쟁 압박을 이야기하며, 이러한 압박을 해결하기 위해 애플리케이션과 인프라의 현대화가 필수적임을 강조하고 있는데요. 특히, 하이브리드 멀티클라우드 환경의 구축과 다양한 데이터베이스 서비스와의 통합 관리에 대한 장점을 덧붙이며, 클라우드 생태계를 최적으로 활용하는 방법을 제시하고 있습니다. 그럼, 주요 내용을 살펴볼까요?

• ■생성형 AI의 확산으로 압박을 느끼는 IT 리더들

생성형 AI를 필두로, 새로운 기술들이 주류로 자리잡는 시간이 점점 짧아지고 있습니다. 2022년 11월에 발표된 ChatGPT는 출시 5일만에 100만 사용자를 기록, 현재 월간 사용자 수는 1.8억명에 달한다고 하는데요. 이에 발맞춰 ChatGPT를 활용한 많은 AI 서비스들이 출시되었고, 다른 빅테크 기업들도 여러 생성형 AI 서비스를 앞다투어 내놓으며 AI 기술 경쟁에 뛰어들었습니다.

그리고, 이렇게 AI를 중심으로 빠르게 변화하는 환경에서 기업의 IT 리더들은 신기술에 투자하지 않으면 경쟁에서 뒤쳐지지 않을까 하는 압박을 느끼고 있는데요. 그래서 이들은 AI와 같은 새로운 기술을 더 빠르고 효율적으로 처리하기 위한 방안을 찾기 시작했습니다. 그 방안이 바로 인프라의 현대화, 클라우드 네이티브로의 전환입니다.

• ■HCI의 발전, 그리고 클라우드 네이티브

Nutanix는 HCI를 개발하고 상용화에 성공한 최초의 기업이라는 것 다들 잘 알고 계실겁니다. 초기 HCI는 주로 VDI 환경에 치중되어 있었으나, 지금은 데이터베이스, 빅데이터 분석, AI 워크로드 등 다양한 기업의 비즈니스 크리티컬 애플리케이션에 활용되고 있죠. 명실상부 기업의 가장 중요한 핵심 인프라로 HCI가 당당히 자리잡았다고 해도 과언이 아닐 것입니다.

그런데 Nutanix HCI는 온프레미스 뿐만 아니라 퍼블릭 클라우드까지 온프레미스에서 통합 관리가 가능한, 하이브리드 멀티클라우드 환경을 제공합니다. 기업이 운영하는 애플리케이션과 데이터가 어디에 있든 상관없다는 거죠. 지난 2021년 Red Hat과 파트너쉽을 체결, Nutanix 플랫폼에서 Red Hat Openshift를 운영할 수 있게 되어 안정적인 쿠버네티스 환경까지도 품게 되었고요. 나아가 D2iQ라는 회사를 인수해 NKP(Nutanix Kubernetes Platform)이라는 자체적인 쿠버네티스 플랫폼도 갖추었습니다. 기업이 Nutanix HCI 위에서 운영할 수 있는 쿠버네티스 플랫폼의 선택지가 다변화된 것이라고 할 수 있겠습니다.

그렇다면, Nutanix는 왜 쿠버네티스 플랫폼 회사를 인수하면서까지 이렇게 클라우드 네이티브를 강조하고 있는 것일가요? 가장 큰 이유는 앞서 말씀드렸듯이 애플리케이션과 데이터를 어느 위치에서건 자유롭게 운영할 수 있기 때문입니다. 애플리케이션에 자유를 선사하는 것이 클라우드 네이티브의 기본 사상이니까요. 이렇게 애플리케이션이 자유롭게 이동하기 위해서는 몸집이 가벼워야겠죠? 그래서 VM이 아닌 컨테이너가 선호되는 것이고, 다수의 컨테이너를 효율적으로 운영, 관리하기 위해 쿠버네티스 플랫폼이 필요한 것입니다.

따라서, 개발자들이 개발한 특정 애플리케이션을 플랫폼에 따라 코드를 수정할 필요 없이, 원하는 환경으로 빠르게 이동하고 안정적으로 운영할 수 있는 클라우드 네이티브 환경을 지원하기 위해 Nutanix는 Red Hat과 협력하고 D2iQ라는 기업을 인수해서 자사의 클라우드 네이티브 지원 환경을 강화한 것이라고 보면 되겠습니다.

• ■클라우드 네이티브 서비스와 마이크로서비스 아키텍처

앞서 언급한 것과 같이, 애플리케이션이 특정 플랫폼, 특정 환경에 대한 종속성을 탈피할 수 있으면 개발자들은 더 빠르게 개발할 수 있고, IT 관리자들은 안정적으로 애플리케이션을 운영할 수 있습니다. 이게 가능한 이유는 애플리케이션이 컨테이너를 활용해 마이크로서비스 아키텍처로 개발되었기 때문인데요. 매우 많은 수의 컨테이너로 나누어 개발하는 마이크로서비스 아키텍처로 인해 개발자와 관리자들이 신경써야 할 컨테이너의 수가 엄청나게 증가하게 되었습니다. 그래서 쿠버네티스 플랫폼이 필요한 것인데, 사실 오픈소스로 쿠버네티스 플랫폼을 구축해서 운영하기가 쉽지 않죠.

만약 기업 내부적으로 이런 오픈소스 기반 쿠버네티스 플랫폼을 자체 구축하고 운영하려 한다면 많은 시간과 노력이 필요할 겁니다. 발표자는 평균 1년 정도의 시간이 소요된다고 언급했는데요. 문제는, 이렇게 구축까지의 시간도 오래 걸리지만 오픈소스 쿠버네티스의 신규 버전 발행 주기가 짧고, 단종 주기 또한 9개월에 불과하기 때문에, 어렵게 구축을 완료했을 때 이미 구 버전이 되어버릴 수 있다는 위험도 있습니다.

그 뿐인가요? 자체 구축한 플랫폼을 운영할 때에도 지속적으로 변화하는 내부 인프라 환경에 대응하기 위해 네트워크, 보안 등 다양한 요소를 신경써야 하고, 패치나 업데이트도 주기적으로 행해야 합니다. 이래서 언제 애플리케이션 개발하나요? 그래서 사전에 검증된, 다양한 쿠버네티스 플랫폼 구성 요소들이 통합되어 패키징된 솔루션이 필요한 것입니다.

• ■Nutanix표 클라우드 네이티브 서비스의 강점

Nutanix가 제공하는 쿠버네티스 플랫폼은 CNCF(Cloud Native Computing Foundation)와 호환되는 쿠버네티스 버전을 그대로 사용하기에 특정 벤더의 솔루션을 사용했을 때에 발생할 수 있는 여러 문제들을 피해갈 수 있습니다. 기본적으로 CNCF의 에코 시스템을 그대로 활용할 수 있기 때문에 오픈소스 커뮤니티가 제공하는 빠른 혁신에 Nutanix의 검증된 관리도 누릴 수 있죠.

게다가 Nutanix는 HCI의 원조잖아요? HCI도 태생 자체가 복잡하고 비효율적인 인프라 구조를 단순화하고 현대화시켜 소프트웨어로 관리하겠다는 거죠. 컴퓨팅 자원과 스토리지 용량이 더 필요하면? HCI 노드를 추가하기만 하면 됩니다. HCI 위에서 VM을 운영하든 컨테이너를 돌리든 기업이 운영하고 싶은 환경을 마음대로 구축하고, 필요로 하는 성능을 선형적으로 늘려나갈 수 있어 기업의 IT 인프라 운영 방식을 유연하게 바꿔줄 수 있다는 것이 HCI의 핵심입니다. 거기에 Nutanix만의 차별점은 AWS, Azure와 연동 호환이 원활하여 진정한 하이브리드 멀티클라우드 환경을 제공한다는 것입니다.

클라우드 네이티브도 마찬가지입니다. 자유자재로 컨테이너를 이동시키고, 늘리고 줄이는 등 유연하게 인프라를 운영할 수 있어야 하죠. HCI의 핵심 가치와 일맥상통하지 않나요? 그래서 HCI가 클라우드 네이티브에 최적화된 플랫폼이라는 것입니다. 그리고 여기에 다양한 유형의 스토리지 서비스, 그리고 데이터베이스 관리 서비스를 더해 완벽한 클라우드 네이티브 애플리케이션 운영 환경을 제공합니다.

• ■Nutanix에서 스토리지와 데이터베이스 운영까지 한번에

Nutanix는 HCI 플랫폼 내에서 클라우드 네이티브 애플리케이션이 필요로 하는 블록 스토리지, 파일 스토리지, S3 호환 오브젝트 스토리지를 만들어 컨테이너에 할당해줄 수 있습니다. 별도의 스토리지 팜을 구축할 필요 없이 HCI 기반으로 통합된 인프라 위에 다양한 스토리지 서비스를 운영할 수 있다는 것이고요. 여기에 추가로, 애플리케이션의 연속성을 보장하고 데이터를 안전하게 보호하기 위해 스토리지 복제 기능 및 데이터 백업과 마이그레이션 기능을 제공함은 물론, 간편하게 작업을 수행할 수 있습니다.

그리고, Nutanix는 데이터베이스 운영도 도와줄 수 있는데요. 많은 기업들이 여전히 데이터베이스 만큼은 별도의 물리 서버 혹은 VM 환경에서 관리하고 있죠. 별개의 시스템으로 운영하고 있다는 것입니다. 왜 그럴까요? 데이터베이스는 기업의 시스템 중 가장 중요한 것 중 하나이고 운영 난이도 역시 꽤 높습니다. 그래서 데이터베이스 하나 배포할 때에도 DBA와 같은 전문가의 도움이 필요하며, 데이터베이스에서 어떤 작업을 수행하게 되면 연결된 모든 애플리케이션에도 영향을 끼치죠. 그래서, 이 데이터베이스 관리와 운영 역시 좀 더 간소화될 필요가 있습니다.

AWS는 RDS라는, 퍼블릭 클라우드에서 간편하게 데이터베이스를 배포하고 운영할 수 있는 서비스를 제공하죠. Nutanix도 자사의 HCI 플랫폼에서 마치 RDS처럼 Microsoft SQL, Oracle과 같은 상용 데이터베이스는 물론 오픈소스 데이터베이스인 PostgreSQL, MariaDB, MongoDB 등을 간편하게 배포하고 관리할 수 있는 NDB(Nutanix 데이터베이스 서비스)라는 서비스를 제공합니다. 

즉, 단순히 클라우드 네이티브 애플리케이션을 운영할 수 있는 인프라 환경만 제공하는 것이 아닌, 이 애플리케이션에 필요한 스토리지와 데이터베이스까지 서비스 형태로 제공함으로써 클라우드 네이티브 구성 요소의 대부분을 하나의, Nutanix라는 플랫폼에서 통합 관리할 수 있게 해준다는 것입니다.

그리고, 앞서 여러번 하이브리드 멀티클라우드를 언급한 이유가 있겠죠? AWS, Azure와 같은 퍼블릭 클라우드에서 운영하는 컨테이너, 쿠버네티스 기반 애플리케이션에도 Nutanix 플랫폼에서 배포한 스토리지와 데이터베이스를 연결할 수 있습니다. 온프레미스에 구축한 클라우드 네이티브 클러스터를 동일하게 퍼블릭 클라우드에도 구축해서 한 곳에서 통합 관리, 운영할 수 있다는 것입니다. 이런 환경이기 때문에 앞서 언급했던 클라우드 네이티브, 애플리케이션의 자율성이 보장되는 것이라고 할 수 있겠죠. 그 중심에 NKP가 있습니다.

정리하면, 클라우드 네이티브 애플리케이션은 온프레미스든 퍼블릭 클라우드든 어디에서든 간편하게 운영할 수 있어야 합니다. 이런 하이브리드 멀티클라우드 환경을 단일 플랫폼으로 통합 관리하기 위해 Nutanix는 NKP를 제공하고 있고요. 최신 업스트림 오픈소스 쿠버네티스 기반의 NKP는 CNCF와 호환되는 어떠한 솔루션들도 문제 없이 운영할 수 있는, 기업이 진정한 클라우드 네이티브 환경을 구축하고 운영할 수 있도록 도와주는 플랫폼이다 라고 할 수 있겠습니다.

​

2. 필드 엔지니어와 현대엔지니어링 고객의 목소리로 듣는 Nutanix AHV

이번 세션에서는 기업이 VMware 라이선스 비용 이슈에 대한 해결책으로 Nutanix를 활용한 사례에 대해 설명합니다. 현대엔지니어링의 실제 담당자가 연사로 나와 Nutanix 하이퍼바이저인 AHV의 효율성과 더불어 자신들이 어떻게 비용을 절감했는지에 대한 노하우를 전달하는데요. AHV 설치 과정에서의 간소화된 절차와 모니터링 기능, 업그레이드자동화 등을 강조하며 새로운 시스템으로의 이전을 고민하는 많은 기업들에게 도움이 될 만한 내용을 가득 담고 있습니다. 그럼, 그 내용이 무엇인지 살펴볼까요?

• ■VMware 라이선스 비용 이슈 해결은 물론 운영 효율성도 챙길 수 있는 Nutanix

연사로 나선 10년 경력의 파트너사 필드 엔지니어는 Broadcom의 VMware 인수로 라이선스 정책이 변경되면서 이 비용이 3년 기준 1.5배, 5년 기준으로는 2배 이상 증가했다고 전했는데요. 이러한 높은 VMware 라이선스 비용 이슈로 인해 많은 기업들이 Nutanix AHV로의 전환을 고민하게 되었다고 합니다.

뒤이어 등장한 현대엔지니어링 담당자는 Nutanix HCI로의 전환이 기존 환경 대비 운영 효율성이 크게 향상됐다고 했는데요. 과거의 3-Tier 아키텍처 기반 가상화에서는 많은 하드웨어 설치가 필요했으나, Nutanix HCI는 집적도가 높은 아키텍처여서 서버의 수, HCI 노드 수를 대폭 줄여 상면 공간을 최소화할 수 있었다고 합니다. 구체적으로 상면 공간 90%, 하드웨어 수량 80%, 전력 소모량은 60%나 줄었고, Nutanix의 설치 자동화 도구 덕분에 하이퍼바이저, CVM, 논리적인 스토리지에 클러스터 구성까지 자동으로 진행되니 전체 구축 기간도 2주 이상 단축시켰다는군요.

• ■현대엔지니어링의 가상화 시스템 활용 사례

현대엔지니어링은 현재 서버 가상화 클러스터와 3D 설계 가상화 클러스터로 나누어 운영하고 있습니다. 이 중 서버 가상화 클러스터의 경우, HRM, CI/CD 인증 서버 뿐만 아니라, 대외 고객용 힐스테이트 홈페이지, 통근버스 시스템과 같은 대외 고객 시스템까지 OS 기준으로 200대 이상의 시스템을 운영 중이라고 합니다. 이런 대규모 시스템을 1년 반 동안 별다른 장애 없이 안정적으로 운영하고 있다고 강조했습니다.

그리고, 3D 설계 가상화 클러스터의 경우 현대엔지니어링의 주요 사업인 플랜트 부문의 설계 업무를 위해 구성되었는데요. NVIDIA A40 GPU를 서버에 장책해 HP Anyware 기반의 고성능 VDI를 설계 엔지니어들에게 제공하고 있습니다. 여기서 주목해야 할 점은 이 VDI에서 Smart3D와 같은 고성능 워크스테이션에서나 사용할법한 무거운 3D 애플리케이션을 구동한다는 것인데요. VDI로 제공함에도 불구하고 30여명의 설계 엔지니어들이 아무런 불편함 없이 VDI에서 설계 업무를 진행하고 있어, 앞으로 규모를 더욱 확대해 나갈 예정이라고 합니다.

• ■Nutanix 스토리지는 이렇게 사용하고 있어요

현대엔지니어링은 VM에 로컬 디스크를 할당함과 동시에 Nutanix Volumes를 사용해 공유 볼륨을 구성했는데요. 사내 전자 조달 시스템을 Nutanix HCI로 이관하면서 DB 이중화 구성이 필요했는데, 이 때 1번 DB와 2번 DB에 공유 스토리지 볼륨을 할당한 다음 Veritas Infoscale로 Active/StandBy 이중화 환경을 구성했습니다. 그래서 실제 1번 DB가 다운이 되면 2번 DB로 페일오버되는 형태로 운영되어 다운타임을 최소화할 수 있었고, 공유 스토리지를 통해 디스크 사용률을 최적화시켰다고 합니다.

추가로, Nutanix Files로 NAS를 구성, 무료로 제공되는 1TB 용량 한도 내에서 다수의 웹서버들이 서로 공유해야 하는 이미지, 로그와 같은 파일들을 효율적으로 관리할 수 있었고, 향후 사용량이 늘어나면 용량 추가 라이선스를 구매할 예정이라는군요. 중요한 것은 직접 NAS나 SAN 스토리지를 구축하는 것과 비교해 관리 포인트도 줄이고 비용도 절감할 수 있었다는 점입니다.

마지막으로, 백업의 경우 Nutanix에서 자체적으로 제공하는 스냅샷 백업 기능으로 VM의 스냅샷을 찍고, 그 스냅샷 데이터를 과거부터 사용 중이었던 Commvault 백업 서버로 백업하는 형태로 운영 중입니다.

• ■인프라 관리는 어떻게? Nutanix 모니터링과 레포팅

200대 이상의 대규모 시스템을 운영하는 만큼 모니터링도 무척 중요할 텐데요. Nutanix는 Predefined, Custom 이렇게 두 가지 레포팅 방식을 제공합니다. Predefined의 경우 Nutanix가 미리 정해 둔 주요 항목들을 그대로 사용하는 것이고, Custom은 말 그대로 사용자 입맛에 맞게 점검하고 싶은 항목을 설정하거나 세부적인 데이터를 선택할 수 있고요. 이런 기능을 통해 자동으로 생성된 레포트는 PDF, CSV 등 다양한 형식으로 제공되며, 이메일을 통해 수신할 수 있습니다.

그리고 Nutanix는 VM 뿐만 아니라 하드웨어, 스토리지, 클러스터까지 인프라의 구성 요소 전반에 대한 모니터링 기능을 제공합니다. 그래서 만약 특정 컴포넌트에서 문제가 발생하면 즉시 외부 모니터링 서버, SMTP, SNMP, 시스템 로그 서버로 메시지가 관리자에게 전달해주죠. 이 때 단순히 문제가 발생한 사실만 간단히 나열하는 것이 아닌, Nutanix 자체 Knowelge Base 시스템의 문제 해결를 위한 문서까지도 링크로 걸려있어 관리자가 빠르게 조치를 취할 수 있도록 하는 것이 특징입니다.

추가로, Nutanix HCI 플랫폼으로 관리되는 H/W와 S/W의 업데이트, 업그레이드를 단일 화면에서 간편하게 수행할 수 있습니다. LCM이라는 기능을 통해 H/W, S/W의 요소 별로 업그레이드가 가능한 S/W 목록 혹은 H/W 펌웨어 목록을 확인할 수 있고, 이 LCM에서 한번에 언그레이드를 수행할 수 있습니다. 이 때 제조사가 제공하는 호환성 리스트를 확인하지 않아도 되는 점이 특히 유용한데요. LCM에 나타나는 목록이 이미 Nutanix에서 검증한, 호환되는 목록만을 노출해 주기 때문입니다.

그리고 이러한 업그레이드를 수행하기 전에 이 작업을 해도 되는지 사전에 검사할 수 있는 기능은 물론, 실제 업그레이드 역시 순차적으로 자동으로 진행되고요. 이 모든 작업을 단일 UI에서 수행하고 관리해 나갈 수 있으니 인프라 운영 효율성은 당연히 향상될 수밖에 없겠죠?

• ■이렇게 좋은 Nutanix, 어떻게 마이그레이션 해야 하지?

그렇다면, 지금까지 말씀드린 Nutanix의 다양한 장점들을 누리기 위해 기존 시스템을 Nutanix로 이관해야 할텐데요. 어떻게 하는 것이 효율적일까요? 현대엔지니어링은 Nutanix가 제공하는 마이그레이션 도구인 Move 대신에 Commvault로 VM과 DB를 백업한 다음 VM 단위로 이관하거나 새롭게 시스템을 구성해서 DB와 데이터를 이관하는 형태로 진행했다고 합니다.

마지막으로 현대엔지니어링은 Nutanix의 관리 플랫폼인 Prism 콘솔의 조작이 무척 쉽고 간편하며, 다운타임 없이 VM 자원을 증설하거나 복제하는 등 대규모 인프라를 한 곳에서 통합 관리할 수 있었다고 하고요. 앞으로 더욱 자사의 인프라를 최적화하는 데에 Nutanix에서 제공하는 자원 사용 계획 및 예측 레포트를 적극 활용할 계획이라며 발표를 마쳤습니다.

​

3. Nutanix GPT-in-a-Box로 첫번째 생성형AI 워크로드 배포하기

이제 마지막 세션이군요. 조금만 더 힘냅시다! 이번 세션에서는 Nutanix GPT-in-a-Box 솔루션을 활용해 간편하게 AI 애플리케이션을 개발하는 방안을 소개합니다. 발표자는 생성형 AI가 발전하면서 기업들이 생산성을 향상하는 방법을 강조하며, 특히 데이터 보호와 지적 소유권관리의 중요성을 설명하는데요. Nutanix GPT-in-a-Box를 사용하면 빠르게 AI 애플리케이션을 개발해 고객 지원 및 운영 효율성을 대폭 향상시킬 수 있다고 합니다. 또한 자동화 기능을 활용해 복잡한 AI 모델 구축의 어려움을 해소할 수 있다고 하는데요. 그럼, 어떤 내용이 소개되었는지 좀 더 자세히 들여다볼까요?

• ■이토록 열광적인 서비스가 또 있었을가, ChatGPT의 놀라운 성과

2022년 11월 이전까지 가장 널리 사용되는 서비스는 단연코 Google이라고 할 수 있을겁니다. 구글링이라는 단어도 생길 정도로, 사람들은 모르는 것이나 궁금한 것들이 생기면 구글링을 했죠. 그런데 이 판도가 2022년 11월 이후로 깨졌습니다. 사용자가 질문하면 알아서 최적의 답변을 생성해내는 ChatGPT는 과거의 Google을 위시한 검색 방식과 크게 차별화된 경험을 제공했습니다. 핵심은, 사용자가 원하는 답을 찾기까지 걸리는 시간을 대폭 줄여준다는 것인데요.

이러한 강점을 바탕으로 ChatGPT는 100만 사용자 확보에 단 5일 밖에 걸리지 않았습니다.(이건 첫 번째 세션에서도 언급했었죠?) Netflix가 3.5년, Instagram이 3개월 걸린 것과 확실히 다른 빠른 성장세를 보이고 있는데요. 이처럼 ChatGPT와 같은 생성형 AI의 수준은 이미 인간의 능력을 초월하는 단계로 발전해 나가고 있고, 이를 어떻게 기업의 업무 환경에 활용할 수 있을지에 대한 기대감 역시 나날이 커지고 있습니다.

• ■생산성 향상, 그 이상의 것을 위해 AI가 활용돼야

미국의 거대 유통 기업들은 현재 시애틀, LA, 샌프란시스코 등 대도시에서 절도 문제로 매장을 철수하고 있는데요. 일부 제품은 잠긴 캐비넷에서 판매되고 있어, 소비자가 구매하기 위해서는 직원 호출 수 10분을 기다려야 하는 불편함을 감수해야 합니다. 게다가 마약 문제와 도시의 슬럼화, 그리고 치안 유지를 위해 경비원 투입을 늘려야 하나 그러기도 쉽지 않고, 직원 관리 비용 증가 역시 또 다른 문제로 떠오르고 있어 기업들의 고민이 깊어지고 있는데요.

이러한 문제들을 해결할 수 있는 방안으로 AI 기술이 주목받고 있습니다. CCTV 영상을 분석해 절도 행위를 탐지하고 빠르게 대응하는 데에 AI 기술을 활용하자는 거죠. 일반적으로 AI는 직원들의 업무 생산성을 향상시켜 주는 데에 주안점을 두고 있지만, 이렇게 기업이 그동안 골머리를 썪고있던 다양한 문제들을 해결해 줄 수 있는 대안으로 주목받고 있습니다. 기업마다 보유한 데이터를 기반으로 파인튜닝해서 AI를 활용해 보자는 시도가 늘어나고 있는 것입니다.

• ■기업 고유의 생성형 AI, 어떻게 접근해야 할까?

그런데 문제는, 기업이 AI를 활용하고자 할 때 어떻게 시작해야 할 지에 몰라 어려움을 겪고 있다는 것입니다. 어떤 AI가 우리 회사의 사정, 우리 회사의 애플리케이션, 비즈니스에 적합한지, 인프라를 얼마나 갖춰야 하는지, 어떤 AI 모델을 활용해야 하는지, 그리고 이러한 요소들을 버무려 실제 우리 회사만을 위한 AI를 만들기 위한 기술은 무엇인지 등 AI 사용 목적을 정의하고, 계획하는 과정까지, 즉 시작부터 어려움에 봉착하고 있다고 합니다.

여기에 데이터 보안, 그리고 기업이 보유한 지적 소유권, IP 보호에 대한 문제도 있습니다. 어쨌든 AI는 우리 회사의 데이터와 같은 자산으로 학습을 시켜야 하는 만큼, 기업의 소중한 자산들이 유출되지 않도록 보호할 수 있는 대비책도 마련해야 하죠. 그리고 이 AI를 학습하고 운영할 시스템, 인프라 단의 문제도 있습니다. 하지만 이런 다양한 요소들을 Meta와 같은 글로벌 빅테크 기업들은 그들이 보유한 엄청난 인적 자원과 인프라를 활용해 내결해 나가고 있습니다. 그래서, AI는 아직은 빅테크 기업들의 전유물이 아닌가 하는 생각도 드는 것이 현실입니다.

• ■우리 회사도 AI 할 수 있다! 어떻게? GPT-in-a-Box로!

그래서 Nutanix가 GPT-in-a-Box를 내놓은 것입니다. Nutanix의 HCI 플랫폼으로 AI 운영을 위한 인프라에 대한 고민을 상당 부분 해결할 수 있고요. 단순히 인프라만 제공하는 것이 아닌, 실제 AI를 개발하고, 운영하고, 기업의 데이터를 보호할 수 있는 AI에 최적화된 환경을 완벽하게 제공하겠다는 일념하에 탄생한 것이 GPT-in-a-Box입니다.

현재 2.0 버전으로 제공되는 GPT-in-a-Box는 HP, Lenovo, Dell Technologies, Fujitsu 등 다양한 하드웨어 벤더들의 서버 위에서 동작하는데요. NVIDIA의 최신 GPU는 물론 Intel Xeon 4세대 스케일러블 프로세서부터 지원되는 AI 연산 성능을 가속해 주는 AMX도 지원합니다. 그리고 이 하드웨어 플랫폼 위에 AI 애플리케이션 개발 프레임워크인 PyTorch를 비롯한 다양한 오픈소스 소프트웨어들을 사전에 Nutanix가 테스트하고 검증해서 GPT-in-a-Box에 통합해 두었고요.

기업은 그저 Nutanix 솔루션 위에서 이것 저것 신경쓸 것 없이 바로 AI 애플리케이션을 개발해 나갈 수 있도록 Nutanix가 다양한 기업들과의 협력을 통해 말끔하게 준비를 해 두었다라고 보시면 되겠습니다. Nutanix 플랫폼에서 이런 기업들의 제품들을 잘 활용할 수 있다, Nutanix가 인증한 Nutanix Ready 제품들이다라고 보시면 되겠습니다. 물론, 이런 다양한 Nutanix의 파트너들과의 개별적인 협력에 어려움을 느낀다면 Nutanix의 전문 컨설팅 서비스를 활용하셔도 됩니다.

• ■그래도 어려운 것 같다면? DataRobot + Nutanix Support GPT 개발 방식 활용하기

자, 이렇게 AI 애플리케이션을 운영할 수 있는 환경은 Nutanix가 잘 갖춰 놓은 것 같은데요. 이것만으로는 아쉽죠? 그렇죠. 실제 AI 애플리케이션 개발 과정도 도와줄 수 있어야 할 텐데요. Nutanix는 AI 애플리케이션 통합 개발 솔루션인 DataRobot과 파트너쉽을 맺고, 기업의 온프레미스 환경에서 자체적인 AI 애플리케이션을 빠르게 개발해 나갈 수 있도록 지원하고 있습니다.

그 지원을 어떻게 하느냐, GPT-in-a-Box에 DataRobot이 통합되어 있습니다. DataRobot은 기업이 AI와 머신러닝 모델을 쉽게 개발, 배포, 관리할 수 있도록 돕는 자동화 플랫폼으로, 데이터 준비부터 모델 생성, 해석, 원클릭 배포 및 모니터링을 지원하며, 비전문가도 복잡한 알고리즘이나 개발 지식이 없어도 고성능의 AI 예측 모델을 개발할 수 있도록 도와주는데요. 

앞서 보셨던 Nutanix Ready 제품들과는 달리, 이 DataRobot이 GPT-in-a-BoX와 통합되어 있다는 것입니다.  그래서 기업은 자신들이 보유한 데이터를 외부로 유출하지 않고 데이터 주권을 지키면서, 빠르게 기업 고유의 AI 애플리케이션을 개발하고 운영할 수 있다는 것으로 이해하시면 되겠습니다.

그리고 Nutanix는 자체적으로 Support GPT라는 생성형 AI 서비스를 개발해 고객 지원 업무에 활용하고 있는데요.  GPT가 대신 고객의 문의를 접수해 Nutanix 내부의 Knowlge Base 시스템에 접속, 필요한 자료를 찾아 고객에게 제공하는 등 고객지원 업무 생산성을 크게 향상시켜줬다고 합니다.

Nutanix는 이렇게 직접 자신들이 만들어 본, Nutanix가 검증한 이 설계 방식을 활용하면 기업은 자사 직원들의 업무를 도와줄 수 있는, Nutanix의 Support GPT와 같은 GPT 기반 애플리케이션을 빠르게 개발할 수 있습니다. 물론 LLM의 한계를 극복하기 위해 활용되는 RAG를 활용할 수 있는 아키텍처도 제공합니다.

정리하면, Nutanix는 기업들이 생성형 AI 애플리케이션 개발을 위해 갖춰야 할 인프라를 다양한 하드웨어 벤더 및 오픈소스 기업들과 협력해 에코 시스템을 구축해 두었고, 그 환경 위에서 실제로 운영할 AI 애플리케이션도 빠르고 간편하게 개발할 수 있는 플랫폼에 더해 검증된 아키텍처도 제공한다고 간단히 요약할 수 있겠습니다.

지금까지 .NEXT On Tour Seoul 2024 컨퍼런스의 세션 3개를 자세히 정리해 봤습니다. 앞서 서두에서도 언급했듯이 총 17개에 달하는 많은 세션 중 고작 3개만 정리한 것이고요. 이 외에도 Nutanix와 강력한 파트너십을 선언한 Dell, AWS와 Nutanix의 철저한 협업 모델 등 다른 세션의 내용이 궁금하신 분들은 아래의 링크로 이동하시어 직접 세션을 시청해 보실 것을 권합니다. 마침 이벤트도 진행되고 있으니 놓치지 말고 참여해 보세요!

• ●.NEXT On Tour Seoul 2024 다시보기

이 콘텐츠가 클라우드로의 전환을 준비하는 IT 인프라 운영 담당자 분들, 그리고 우리 회사만의 생성형 AI 개발 방안을 고민 중이신 분들께 조금이나마 도움이 되었기를 바랍니다. 끝!