AI 파도 잘 탈 수 있는 검증된 서핑보드가 왔어요!

업무용 소프트웨어부터 IT 인프라 관리 및 운영, 보안, 개발에 이르기까지 IT 전 영역에 걸쳐 가장 큰 화두는 단연코 AI라고 할 수 있습니다. 과거 RPA를 위시한 다양한 자동화 도구들이 AI 전초전이었다면, 생성형 AI의 출현은 가히 AI 대전이라 불릴 만큼 IT 업계에서는 이제 새로운 기술을 논할 때 AI를 빼놓고는 할 이야기가 없을 정도가 되어버렸죠. 그렇기 때문에 진짜 그 어느때보다 기술의 발전이 빠르고 비즈니스 환경이 변화하는 최근의 상황을 생각해보면, 기업이 고유의 경쟁력을 유지하고 지속적인 성장을 이루기 위해서 AI에 투자하는 것은 어쩔 수 없는 선택이지 않나 라는 생각마저 듭니다.

그렇다면 기업은 AI를 어떻게 활용할 수 있을까요? 일단 기업이 보유한 데이터를 기반으로 한 의사 결정, IT 인프라의 운영 효율성 증대, 개인화된 고객 경험 제공 등 다양한 방식으로 기업의 변화를 이끌어내는 데에 활용할 수 있습니다. 이미 빅테크 기업들은 AI를 활용해 자신들의 비즈니스 프로세스를 혁신하고, 새로운 성장 기회를 모색하고 있는 상황이라고 할 수 있죠.

그렇다면 실제 기업들은 어떤 움직임을 보이고 있을까요? 2023년 4월에 발표된 'Scale, 2023 AI Rediness Report'에 따르면 전체 기업 중 65%가 AI 전략을 강화하거나 처음으로 AI 전략을 개발하고 있다고 합니다. 게다가 Accenture는 'A new era of generative AI for everyone' 보고서에서 생성형 AI의 부상은 모든 직원의 업무 시간 중 40%를 증강 분석이나 자동화할 수 있는 가능성을 열어주고 있다고 밝혔습니다. 이러한 사실은 이제 AI가 비즈니스 성공의 핵심 요소로 자리 잡고 있음을 보여주는 것으로 해석할 수 있겠죠. 

<이미지 출처 : Yash Technologies, How AI will transform Infrastructure Management>

그래서 어찌보면 지금이야 말로, 다들 AI AI 바로 지금이 우리 회사도 AI를 도입할 수 있는 적절한 시기가 아닌가 하는 생각도 듭니다. 다들 AI를 외치는데 우리만 BI라고 하면 경쟁에서 도태되는 것은 불보듯 뻔할테니까요. 물론 AI가 모든 기업의 경쟁력 강화에 정답이지는 않을 것입니다. 하지만 어쨌든 대세는 AI이고, 마침 기업들이 가지고 있는 방대한 데이터를 기반으로 새로운 업무 프로세스 혁신, 비즈니스 전환을 꾀하는 기업들의 IT 인프라 담당자들은 새로운 프로젝트를 추진할 수 있는 좋은 상황인 것은 인정해야 하지 않을까요?

그래서 이번 콘텐츠에서는 AI가 기업의 경쟁력 강화에 구체적으로 어떤 도움을 주고 있으며, 기업이 AI를 처음 도입하려 할 때 직면하게 되는 문제들은 무엇이고 어떻게 해결해야 하는지, 효율적인 AI 인프라 구축 방법은 무엇인지 자세히 살펴보겠습니다. AI라는 거대한 파도에 그냥 무작정 뛰어드는 것이 아닌, 서핑보드로 파도를 넘나들며 서핑을 즐길 수 있는 방법을 준비했으니 차근 차근 잘 따라와 주세요. 아젠다는 아래와 같습니다.

이 콘텐츠는 Lenovo의 지원으로 제작되었습니다.

(백서) 어디서나 AI 기술 활용지원

레노버의 백서를 통해서 효율적인 AI 인프라 구축 방법은 무엇인지 확인해 보세요

'어디서나 AI 기술 활용지원'  백서를 다운로드 해주신 모든 분들께 스타벅스 아메리카노 기프티콘을 드립니다!  

기간 : 2024년 8월 16일(금)까지

※ 백서 다운로드 이벤트는 종료되었습니다. ※

백서 다운로드 바로가기   

​

1. AI 도입하면 구체적으로 뭐가 좋아질까?

서두에서 언급한 것과 같이 AI의 중요성은 다들 잘 알고 계실겁니다. 그렇다면, 구체적으로 기업들이 AI를 도입해서 얻을 수 있는 이점들은 어떤 것들이 있을까요? 크게 아래와 같이 4가지 정도로 분류해서 정리해 보겠습니다.

• ①데이터 기반 의사결정의 혁신

기업은 매일 대량의 데이터를 생성하고 있습니다. 이 데이터를 제대로 분석하고 활용할 수 있다면 보다 쉽게 경쟁 우위를 확보할 수 있을텐데요. 문제는 이게 말처럼 쉽지 않다는 거겠죠. 그래서 여기에 AI를 활용하는겁니다. AI는 데이터를 실시간으로 분석하여 경영진이 빠르고 정확한 의사 결정을 내릴 수 있도록 돕습니다. 예를 들어, 기업이 자사의 제품 판매 데이터 분석에 AI를 활용하면 보다 정확하게 시장 트렌드를 예측할 수 있을 것이고, 고객의 구매 패턴을 파악하여 고객 맞춤형 마케팅 전략을 수립할 수 있지 않을까요?

• ②운영 효율성 증대

AI를 도입하면 반복적이고 시간이 많이 소요되는 작업을 자동화할 수 있습니다. 이러한 이점은 과거 RPA 시절부터 많이 알려졌던 것인데요. AI가 가미되면서 이러한 자동화 효과는 더욱 커졌습니다. AI 기반 자동화 기술을 활용하면 기업은 인건비 절감뿐만 아니라 아껴지는 시간 덕분에 직원들이 좀 더 비즈니스 관점의 더욱 가치 있는 업무에 집중할 수 있게 만들 수 있는데요. 만약 고객 서비스에서 AI 챗봇을 도입한다고 해보죠. 그럼 기업은 24/7 고객 지원이 가능해집니다. 게다가 간단한 문의는 자동으로 처리되고, 복잡한 문제는 직원이 해결하는 방식으로 운영 효율성을 향상시킬 수도 있을겁니다.

• ③진정한 개인화 마케팅

과거 마케팅 분야의 화두는 맞춤형 마케팅이었습니다. 고객의 성향에 따라 맞춤 정보를 제공해 서비스를 더욱 자주 이용하고 제품 구매율을 높이기 위해 방대한 고객 데이터를 기반으로 맞춤형 마케팅 방법을 사용해 왔었는데요. 여기에 AI가 적용되면서 단순히 고객 맞춤형 마케팅 넘어 고객의 행동 패턴과 선호도를 분석해 초 개인화 마케팅이 가능한 시대가 되었습니다. 어떤 쇼핑몰에 AI 기반 추천 시스템이 적용됐다고 해봅시다. 이 쇼핑몰은 고객이 관심을 가질 만한 제품을 먼저 제안하고, 개인 별 맞춤 프로모션을 제공함으로써 구매 전환율을 높이고 궁극적으로 매출을 증대시킬 수 있을겁니다.

• ④시장 동향 파악과 신속한 대응

AI는 대규모 데이터를 분석하여 시장의 변화를 빠르게 파악하고, 이에 대한 대응 전략을 수립하는 데 도움을 줍니다. 기업이 새로운 기회를 포착하고, 잠재적인 위협에 신속하게 대응할 수 있는 능력을 제공해 줄 수 있다는 것인데요. 과거 기업이 이렇게 신속한 움직임을 취하기 위해서는 시장 동향만을 전문으로 파악하는 전담 인력을 두거나 컨설팅 펌에 분석을 의뢰했어야 했습니다. 이 분야에 AI가 접목되면 경쟁사의 움직임을 상세히 분석할 수 있음은 물론, 시장의 변화에 따라 제품 개발이나 마케팅 전략을 즉각적으로 조정할 수 있는 의사결정을 내릴 수 있게 됩니다. 사람의 감에 의존한 결정이 아닌 AI의 분석 및 예측 결과는 데이터에 기반한 결정이기 때문에 효과도 더욱 좋겠죠?

정리하면, AI는 데이터 분석과 예측을 통해 의사 결정을 지원하고, 운영 효율성을 높이며, 개인화된 고객 경험을 제공하는 핵심 도구로 활용될 수 있습니다. AI 도입으로 기업은 신속하고 정확한 의사결정, 운영비 절감, 고객 만족도 향상을 이룰 수 있을 것이고, 이것은 곧 기업이 비즈니스 경쟁력을 강화하고, 새로운 성장 기회를 창출할 수 있는 발판이 될 수 있다라고 요약할 수 있겠습니다.

​

2. 기업들이 AI를 시작할 때 겪게 되는 문제점과 해결 방법은?

이렇게 기업에게 다양한 이점을 가져다 줄 수 있는 AI지만, '우리 회사도 이제 AI 도입해야지!'하고 이미 만들어진 AI 서비스를 활용하면 뚝딱 기업 경쟁력이 향상되는 것은 아닙니다. 사실 다들 AI AI를 외치지만 제대로 자신들만의 AI를 구현해서 업무에, 비즈니스에 활용하고 있는 기업은 아직 많지 않은 것이 현실이니까요. 빅테크 기업이라면 모를까, 일반 기업들이 자사의 비즈니스에 AI를 접목하는 것은 그렇게 쉬운 프로젝트가 아닙니다. 그렇다면, 기업들이 AI를 시작할 때 직면하게 되는, 반드시 넘어야 하는 장애물은 어떤 것들이 있을까요? 그리고 그것들을 어떻게 해결하면 좋을까요? 간단히 정리해 보겠습니다.

• ①높은 초기 비용 및 투자 부담 문제

AI 도입에는 고성능 하드웨어, 소프트웨어 라이선스, 데이터 관리 시스템 등 초기 비용이 많이 들기 때문에 많은 기업들이 부담스러워합니다. 특히 하드웨어 비용, 그 중에서도 GPU 비용이 어마어마하죠. 그래서 필요한 것이 효율적인 예산 계획인데요. 초기 비용을 줄이기 위해서는 우선순위를 정해 필요한 인프라부터 순차적으로 도입해야 합니다. 학습 위주라면 어쩔 수 없이 GPU 비중을 높여야 겠지만 이미 학습된 모델 기반의 추론 중심이라면 GPU 투자 비중은 줄여도 되겠죠? 만약 여력이 안된다면 일단 클라우드 기반 AI 솔루션을 활용해 테스트를 먼저 충분히 해 보고, 추후 어느 정도의 인프라 규모가 필요한 지 가늠해서 비용 계획을 세우는 것도 도움이 될 수 있습니다.

• ②AI 전문가 부족 문제

AI 프로젝트를 성공적으로 수행하기 위해서는 데이터 과학자, 머신러닝 엔지니어 등 고도의 기술을 보유한 인력이 필요합니다. 하지만 문제는, 이러한 전문가들의 수가 매우 적다는 것입니다. 그래서 그들의 몸값도 매우 비싸게 형성되어 있어 적절한 인력 채용이 어렵다는 것인데요. 이런 경우 외부 AI 컨설팅 업체와 협력하여 프로젝트를 추진하는 것이 대안이 될 수 있을겁니다. AI 프로젝트를 반드시 내부 인력만으로 수행하는 것을 고집할 필요가 없다는 것입니다.

• ③데이터 관리와 보안 문제

AI 모델을 학습시키고 운영하기 위해서는 대량의 데이터가 필요합니다. 이 데이터에는 민감 정보가 포함될 수 있기 때문에 관리 소홀에 따른 데이터 유출 발생 시 심각한 보안 문제가 될 수 있죠. 따라서, AI 모델 학습에 활용될 데이터는 별도의 저장공간에서 고도의 암호화 기술을 적용해 저장하고, 강력한 접근제어 시스템을 도입하여 데이터를 안전하게 관리할 필요가 있습니다. 하지만 문제는, 별도의 외부 솔루션을 사용해야 하기에 비용이 예상보다 많이 필요할 수 있고, 솔루션 구축까지도 시간이 많이 소요될 수 있다는 것인데요. AI 프로젝트를 시작하기 전에 이러한 준비 단계부터 관리자가 지쳐버릴 수도 있기 때문에, 사전에 데이터 관리 및 보안 환경 구축까지 턴키로 제공해 줄 수 있는 역량있는 파트너를 선택하는 것이 성공적인 AI 프로젝트로 가는 지름길입니다.

• ④기술 통합과 운영 복잡성

AI 시스템을 기존 IT 인프라와 통합하는 과정은 복잡하고 시간이 많이 소요될 수 있습니다. AI 프로젝트 자체는 독립된 시스템으로 운영되겠지만, 추후 완성된 AI 모델을 기존에 운영하던 여러 다른 시스템과 통합할 때 문제가 생길 수 있는데요. 예를 들어, 이커머스나 리테일 기업의 경우 AI 기반 추천 시스템 프로젝트를 야심차게 시작했지만, 기존에 운영하던 CRM 시스템과의 통합에 어려움을 겪을 수 있습니다. 따라서 AI 모델을 구축하는 시스템과 기존 시스템간의 통합 운영이 가능한 지 여부도 사전에 면밀히 체크해야 합니다.

• ⑤ROI(투자 대비 수익) 불확실성

AI 도입 초기에는 ROI를 정확히 예측하기 어려울 수 있습니다. AI 프로젝트가 성공적으로 수행될 경우 높은 수익을 기대할 수 있지만, 초기 단계에서는 모든 것이 불확실하죠. 그래서 AI 도입의 목표를 사전에 명확히 정의하고, 이를 기반으로 성과 지표를 단계 별로 설정해야 합니다. 그리고 프로젝트 초기 단계부터 성과를 평가하고 부족한 부분을 개선해 나가면 최초에 목표로 삼았던 ROI에 근접한 성과를 거둘 수 있을것입니다.

위 5가지 내용을 간단히 정리하면, 기업은 최초에 AI 프로젝트를 시작하는 단계에서 높은 초기 인프라 구축 비용, AI 전문가 부족, 데이터 관리와 보안 문제, 기술 통합의 복잡성, ROI 불확실성 등의 문제에 직면할 수 있다는 것이고요. 이러한 문제들을 해결하기 위해 AI 인프라를 단계적으로 도입하고 클라우드 서비스 활용을 검토해야 하며, AI 컨설팅 업체와의 협력, 강력한 데이터 보안 정책 적용을 위한 역량있는 파트너 선정, 기존 시스템과의 통합 용이성을 사전에 면밀히 점검해야 합니다. 마지막으로, ROI를 단계 별로 설정하여 파일럿 프로젝트를 통해 초기 성과를 평가하고 점진적으로 확대하여는 형태로 ROI를 맞춰나가야 한다는 것으로 요약할 수 있겠습니다.

​

3. 우리 회사에 딱 맞는 AI 인프라(서핑보드)가 여기있네! : 레노버 & 인텔의 솔루션

앞서 기업이 AI를 시작하려 할 때 겪게 되는 주요 문제들과 이를 해결할 수 있는 방법도 함께 알아봤는데요. 결론은, 우리 회사에 알맞은 AI 인프라를 잘 골라서 도입해야 한다는 것, 아닐까요? 파도를 잘 타려면 제대로 된 서핑보드는 필수니까요. 그렇다면 어떤 AI 인프라를, 어떤 서핑보드를 선택해야 할까요? 지금부터 소개할 AI 인프라 구축 방안은 레노버와 인텔이 함께 협력해서 기업들에게 제공하는 솔루션입니다. 성공적인 AI 인프라 구축의 핵심 요소는 무엇이고, 레노버와 인텔이 내놓은 솔루션은 어떤 특징을 가지고 있는지 자세히 살펴봅시다.

• ①AI 인프라 구축의 핵심, 고성능 컴퓨팅 파워

AI 인프라 구축에는 고성능 컴퓨팅, 안정적인 데이터 저장 및 처리 능력, 네트워크 연결성, 확장성, 높은 보안성 등이 필요합니다. 이러한 요소 중에서 특히 높은 성능의 컴퓨팅 파워가 중요한데, AI 모델 학습과 추론 작업에는 대량의 연산 작업이 수행되기 때문이죠. 이를 위해 레노버가 제공하는 ThinkSystem SR650 V3 서버는 5세대 인텔® 제온® 스케일러블 프로세서를 탑재하여 AI 워크로드에 최적화된 성능을 제공합니다.

그럼 어떻게 ThinksSystem SR650 V3 서버가 AI 워크로드에 최적화된 성능을 제공할 수 있는지 좀 더 구체적으로 살펴볼까요? 일단 먼저 AI 학습과 추론 작업의 차이점부터 짚어봅시다. 

• ●AI 학습

일반적으로 AI 모델을 학습시키는 과정은 매우 많은 연산을 필요로 합니다. AI 모델이 대량의 데이터셋을 사용하여 모델의 가중치를 최적화하는 형태로 발전해 나가기 때문인데요. 그래서 AI 모델 학습에는 대량의 병렬 처리가 가능한 GPU가 필수적입니다. GPU는 대량의 매트릭스 연산을 동시에 처리할 수 있어 학습 속도를 크게 향상시킬 수 있기 때문입니다.

• ●AI 추론

AI 추론은 이미 학습된 AI 모델을 사용하여 새로운 데이터를 처리하고 예측 결과를 도출하는 과정입니다. 그래서 학습 과정에 비해 계산 요구 사항이 상대적으로 낮은 편인데요. AI 추론 작업은 AI 학습 작업 대비 병렬 처리 요구가 상대적으로 낮기 때문에 GPU 없이 CPU 만으로도 충분히 처리할 수 있습니다. 

특히, 최신 5세대 인텔® 제온® 스케일러블 프로세서는 인텔® DL Boost 기술과 같은 AI 가속 기술이 통합되어 있어 AI 모델의 추론 속도를 크게 향상시켜 대 고객 서비스, 예측 기반 유지보수, 금융거래 사기 탐지 등의 AI 애플리케이션에서 실시간 응답이 가능하게 만듭니다. AI 추론을 위해 대량의 GPU를 갖추지 않아도 되니 비용 절감 효과도 거둘 수 있다는 것도 기억해 주세요.

• ②인텔의 다양한 AI 추론 최적화 도구와 기술

인텔® Distribution of OpenVINO™ 툴킷은 다양한 하드웨어 가속기를 활용하여 AI 모델의 추론 성능을 최적화합니다. 이 솔루션은 이미지 및 음성 인식, 자연어 처리 분야에서 활용될 수 있고요. 추가로, 인텔® Granulate™는 OS 및 런타임 리소스 관리를 최적화하여 AI 인프라의 성능과 에너지 효율을 최적화할 수 있습니다.

• ③레노버의 전문적인 지원 서비스

AI 도입 전 과정에서 전문적인 지원을 제공하는 서비스가 필요합니다. 레노버는 Lenovo Professional Services라는 엔드-투-엔드 아키텍처 설계, 하드웨어 설치, 데이터 마이그레이션 및 시스템 구축 지원 등 전담 AI 전문가를 활용해 기업의 직원들이 AI 프로젝트에 투입되는 시간과 노력을 절감할 수 있도록 돕습니다. 게다가 AI 인프라 직접 구축에 대한 비용 부담이 큰 기업들을 위해 TruScale IaaS라는 인프라 사용량에 따른 과금 모델도 제공합니다. AI에 활용할 데이터를 직접 관리하면서 비용은 클라우드처럼 합리적으로 지불하고 싶은 기업들에게 딱 알맞은 서비스이지 않나 생각되는군요.

또한 레노버는 AI 이노베이터라는 파트너 에코 시스템을 운영하고 있는데요. 50개가 넘는 AI 솔루션 파트너들과 함께 165개 이상의 AI 솔루션을 제공하고 있어 AI 프로젝트 도입을 필요로 하는 기업에게 턴키 AI 솔루션을 공급할 수 있습니다. AI가 아니더라도 특정 프로젝트를 추진할 때 가장 큰 이슈는 계획대로 프로젝트가 진행되지 않아 시간이 지연되고, 이로 인해 비용이 증가하는 것일텐데요. 사전에 레노버에서 검증한 AI 솔루션 제공 업체들로 구성된 AI 이노베이터 프로그램을 활용하면 이러한 프로젝트 지연 문제를 최소화함은 물론, AI 프로젝트 구축 시간을 획기적으로 단축시킬 수 있다는 것이 레노버 AI 이노베이터 프로그램의 가장 큰 이점이라고 보시면 되겠습니다. 프로젝트 기간 단축 = 비용 절감 = ROI 달성으로 이어질 수 있을테니까요.

​

4. 결론 : AI 파도를 잘 타기 위해서는 제대로 된 서핑보드를 잘 활용할 수 있는 코치를 만나야

여기까지 기업이 AI를 활용해서 어떤 이점을 얻을 수 있는지를 통해 AI 프로젝트 시작에 대한 당위성과 함께 성공적인 AI 프로젝트를 추진하기 위해 산재된 문제들은 무엇이고, 이 문제들을 해결하기 위해 레노버와 인텔이 어떤 도움을 줄 수 있는지에 대해 살펴봤습니다. 앞서 소개한 모든 내용을 한 문장으로 요약하면, 기업이 AI 프로젝트를 추진해야 하는 것은 거스를 수 없는 당면 과제가 되어버렸기 때문에, 기업의 다양한 상황에 맞는 검증된 솔루션을 가진 능력있는 파트너를 만나야 한다는 것입니다.

클라우드 컴퓨팅이라는 거대한 파도를 잘 넘어 온 많은 기업들은 이제 AI라는 또 다른 파도를 맞닥뜨리게 되었습니다. 능력있는 서퍼라면 어떤 파도가 오더라도 능숙하게 잘 타고 넘어다닐 수 있겠죠. 현재 AI는 거스를 수 없는, 필연적으로 만날 수밖에 없는 또 다른 엄청난 파도입니다. 이 파도를 잘 타기 위해서는 제대로 된 서핑보드가 필요함은 물론, 그 보드를 잘 활용할 수 있도록 안내해 줄 코치도 필요하겠죠? 레노버와 인텔이 협력해 내놓은 솔루션이 AI 파도를 제대로 요리할 수 있는 훌륭한 서핑보드이고, 레노버의 Lenovo Professional Services와 AI 이노베이터 프로그램이 훌륭한 코치가 될 수 있습니다. AI 파도가 너무 높다고 겁부터 먹지 마시고, 일단 코치에게 강습부터 받고 자신감을 키워 나가시길 바랍니다.

​

※ 백서 다운로드 이벤트는 종료되었습니다. ※

앞서 소개한 서론과 더불어 레노버와 인텔이 협력한 결과물에 대한 보다 자세한 내용은 첨부된 백서에서 확인하실 수 있습니다. 마침 이벤트도 진행하고 있으니 정보도 얻고 커피도 얻어가시는 행운을 함께 누려보시는 것은 어떨까요? 참여해 보신 분들은 확률이 꽤 높은 이벤트라는것을 잘 아실 겁니다. 선착순 이벤트이니만큼 빠른 참여가 중요하다는 것 잊지 마시고요.

이번 콘텐츠가 AI 프로젝트를 새롭게 추진하시거나 AI 인프라 도입에 고민이 많은 분들께 조금이나마 도움이 되었기를 바랍니다. 끝!