AI 도입을 추진하는 금융 기업을 위한 안내서

지난 2016년, 이세돌과 알파고의 대결이 전 세계에 AI의 위상을 알렸다면, 2022년 말 ChatGPT의 등장은 AI를 누구나 쉽게 사용할 수 있는 기술로 자리매김하면서 사람들의 인식을 바꿔놓았습니다. 이제 AI는 더 이상 특정 기업이나 전문가만의 전유물이 아니라 우리 모두의 일상 속으로 스며들고 있는 모양새인데요.

그래서일까요? 어떤 업종이든 AI를 접목하지 않으면 도태될 것처럼 모든 언론에서 목소리를 강하게 내고 있습니다. '우리 회사도 AI 시작해야 하는 것 아니야?'라며 직원들을 종용하는 경영진이 있는가 하면, 'AI가 없으면 이제 업무를 할 수 없어요'라며 AI를 아주 잘 활용하고 있는 직장인들도 많죠. 

<이미지 출처 : Pacific Data Integrators, The Possibilities of AI in Finance>

이러한 변화 속에서 금융 산업도 혁신의 전환점을 맞고 있습니다. 과거 금융권은 정형 데이터 중심의 보수적인 시스템을 유지해왔는데요. 하지만 이제, AI의 발전으로 금융권이 보유한 방대한 양의 비정형 데이터를 빠르게 분석하고 예측할 수 있는 시대가 열렸습니다. 금융 기업의 오랜 숙원인 리스크 관리, 투자 예측, 고객 맞춤형 금융 서비스 제공과 같은 진정한 금융 혁신이 가능해 진 시대가 된거죠.

실제로, 글로벌 금융 기업들은 AI를 활용해 기존 대비 40% 이상 빠른 업무 처리 속도를 달성하고 있습니다. 투자은행들은 AI 기반의 알고리즘을 활용해 수억 건의 데이터를 실시간으로 분석하고, 최적의 투자 결정을 내리는 시스템을 운영 중입니다. 그럼, 국내 금융 기업들은 사정은 어떨까요? 이러한 글로벌 금융 기업들에게서 증명된 효과를 국내 금융 기업들이 누리려면 어떻게 해야 할까요?

이에 대한 다양한 솔루션 기업들이 제시한 방안을 한 자리에서 조망해 볼 수 있는 행사, 금융IT Innovation '리디자인(Re-Design) 디지털 금융' 컨퍼런스가 지난 2024년 12월 12일 목요일에 롯데호텔 서울 크리스탈볼룸에서 진행되었습니다. 이번 콘텐츠에서는 이날 발표된 세션 중 HS효성인포메이션시스템과 지음에이아이가 함께 진행한 '[금융 AI의 Next Step] 금융 혁신을 위한 AI 적용 및 확장방안' 이라는 세션 내용을 자세히 정리하고자 합니다. 

HS효성인포메이션시스템과 지음에이아이가 바라보는 금융 AI의 다음 단계는 무엇일까요? 금융 기업들이 AI 도입을 위해 어떤 요소들을 고려해야 하는지, 실제 금융에 AI가 적용되면 어떤 업무 변화를 가져올 수 있는지, 성공적인 프로젝트 수행을 넘어 향후 확장까지 고려한 AI 인프라 구축을 위해 필요한 것은 무엇인지 알아보겠습니다. 목차는 아래와 같습니다.

이 콘텐츠는 HS효성인포메이션시스템의 지원으로 제작되었습니다.

​

1. 진화하는 AI, 어떻게 도입해야 할까? : AI 트렌드

서론에서 언급했던, ChatGPT를 필두로 한 생성형 AI의 대중화는 AI 전문가 뿐만 아니라 모든 사람이 AI를 쉽게 사용할 수 있는 시대가 되었음을 의미합니다. 그런데 이 AI는 성장 속도가 매우 가파릅니다. 벌써부터 단순한 AI를 넘어 AGI, 나아가 사람의 능력을 아득히 뛰어넘는 ASI, 슈퍼 인텔리전스가 조만간 출현할 것으로 예측되고 있는 상황인데요. 최근 OpenAI와 NVIDIA 등 주요 기술 기업들은 AI를 단순한 자동화 도구가 아닌 초인공지능 시스템으로 발전시키는 데에 집중적으로 투자하고 있습니다.

그렇다면 어떻게 이런 급격한 성장이 가능해 진 것일까요? 여러 요소가 있겠지만, 중요한 것은 컴퓨팅 성능의 비약적인 상승으로 봐야하지 않을까요? GPU 기반 병렬 컴퓨팅과 HBM을 앞세운 메모리 성능의 증가로 AI를 위한 컴퓨팅 성능은 지속적으로 향상되고 있습니다. 이런 수혜를 AI가 고스란히 받게 되면서 AI 자체도 빠르게 성장하고 있다고 보는 것이 합리적이겠죠. 따라서, 이렇게 고도 성장 가도를 달리고 있는 AI 기술을 금융 산업에 적용하면, 산업 자체의 혁신적인 변화가 가능해 질 것임은 당연지사 아닐까요? 그렇다면 관건은, AI를 어떻게 활용하느냐가 될 것입니다. 

AI를 활용하겠다고 결정하는 것은 단순히 특정 솔루션을 도입하겠다는 것과는 차원이 다른 거대한 프로젝트입니다. 프로젝트를 성공적으로 완수하기 위해서는 우선적으로 목표를 명확히 정해야 할 텐데요. AI를 도입하고자 할 때에도 이 목표 설정이 가장 중요합니다. 여기서 말하는 목표라는 것은, 금융 기업의 어느 업무 분야에, 어떤 비즈니스에 AI를 도입해서 얼마만큼의 성과를 내겠다라는 것을 의미합니다. 이 목표가 뚜렷해야 AI 도입 효과를 가늠해 볼 수 있을 것이고, 이를 바탕으로 경영진을 설득하고 AI 프로젝트를 추진할 수 있을테니까요.

금융 기업의 경우 이미 보유한 방대한 금융 데이터에 마이 데이터를 결합해 새로운 표준화된 데이터를 만들 수 있다면 어떨까요? 이 데이터를 바탕으로 새로운 금융 상품을 기획하고, 기존 고객들에게 차별화된 서비스를 제공할 수 있지 않을까요? 이러한 구체적인 목표가 정해진다면 그 다음은 이러한 목표 수행에 활용할 데이터를 잘 다룰 수 있는 인프라를 구축해야 하는데요. 이 때 온프레미스에 쌓이는 방대한 데이터 뿐만 아니라 클라우드와 같이 외부 인프라에서 수집되는 데이터도 하나로 합칠 수 있는 하나의 거대한 통합 데이터 저장소가 필요합니다. 

왜냐하면, 금융 산업에 AI를 적용한다고 해서 금융 데이터만을 사용한다면 기존 문법과 크게 다르지 않은 결과물이 나올 것이 뻔하기 때문입니다. 금융이라는 범위를 벗어나야 보다 참신한 아이디어, 기획이 나오고, AI가 가진 잠재력을 더욱 잘 활용할 수 있을테니까요.

그리고 또 중요한 것은, AI는 끊임없이 재학습을 통해 모델을 평가하면서 성능을 개선시켜 나가야 한다는 점입니다. 이런 체계가 마련돼야 지속적으로 높은 품질의 AI 서비스를 제공할 수 있겠죠? 이렇게 하기 위해서는 금융 기업이 가진 모든 인적 역량은 데이터 품질 강화, 그리고 AI 모델 고도화에 집중돼야 합니다. 즉, AI 인프라 구축 및 운영은 전문가 집단에게 맡기는 것이 더 낫다는 것인데요.

그래서 HS효성인포메이션시스템과 지음에이아이 두 기업이 힘을 합쳤습니다. HS효성인포메이션시스템은 국내 하이엔드 스토리지 10년 연속 점유율 1위를 기록하고 있고, 특히 대부분의 은행에서 이 회사 스토리지를 사용하고 있지요. 따라서 금융권 데이터를 어떻게 다뤄야 하는지 누구보다 잘 알고 있는 기업이라고 할 수 있습니다. 그래서 금융 기업이 방대한 데이터를 바탕으로 AI를 잘 운영하고 지속적으로 발전시킬 수 있는 기반이 되는 AI 전용 인프라 구축 임무를 맡았습니다.

지음에이아이는 100개 이상의 금융 부문 컨설팅을 수행한, 금융 전문 기업인 지음지식서비스에서 AI부문이 독립되어 나온 AI 기업입니다. 그래서 금융기관과 기업들이 AI를 활용하고자 할 때 기대하는 바가 무엇이고, 그 기대를 충족하기 위해 필요한 요소는 어떤 것들이 있는지 풍부한 경험을 바탕으로, 금융 기업들이 요구하는 금융 전문 AI 서비스 개발 임무를 수행합니다.

결국, 궁극적으로 금융기관과 기업들이 원하는 것은 AI 도입일텐데, 사내 AI 기반 서비스 개발은 지음에이아이가, 그 AI 서비스 운영 인프라 구축 및 운영은 HS효성인포메이션시스템이 맡은 것으로 보시면 됩니다. HS효성인포메이션시스템에게 부족한 금융권 도메인 지식을 지음에이아이가 채워주고, 지음에이아이가 수행하기 어려운 AI 인프라 구축 역량을 HS효성인포메이션시스템이 떠받쳐 주는 조합인 것입니다.

그럼, 지금부터는 금융권에서 AI 프로젝트를 성공적으로 수행하기 위해 무엇이 필요한지, 그리고 실제 금융 업무에 적용된 AI 기술과 사례에 대해 좀 더 자세히 살펴보겠습니다.

​

2. 금융 AI 전문가, 지음에이아이의 AI 기술 및 적용 사례

• ■성공적인 금융권 AI 프로젝트를 위한 지음에이아이의 역량

지음에이아이가 경험한 다수의 금융권 AI 프로젝트를 토대로, 그들이 느낀 성공적인 AI 프로젝트를 위해 집중해야 할 요소들을 짚어보겠습니다. 먼저 서비스 구현에 주안점을 두고 프로젝트를 진행해야 한다는 것을 꼽을 수 있겠는데요. 일반적으로 기업의 담당자들은 새로운 기술을 기반으로 비즈니스 혁신을 기대한다고 합니다. 그런데 앞서 보신 바와 같이 AI 관련 기술의 발전 속도가 매우 빠르기에 실제 특정 기술을 구축하는 동안 새로운, 더 나은 기술이 출현될 수도 있습니다. 그렇다고 중간에 프로젝트를 엎을 수도 없는 노릇이죠. 그래서 중요한 것은 기술 구현이 아닌 이 기술을 활용해 어떤 서비스를 구현할 것인가에 집중해야 한다는 것입니다.

그 다음 요소는 양질의 데이터인데요. 많은 데이터 보다는 좋은 데이터가 더 중요합니다. AI 모델 학습에 필요한 데이터는 많으면 많을 수록 좋다고 여길 수 있겠으나, 현재 추세는 LLM도 점점 경량화되면서 효율성을 챙기는 쪽으로 발전하고 있습니다. LLM 모델 학습을 위한 컴퓨팅 자원이 너무 많이 소요되는 것이 또 다른 문제로 떠오르고 있기 때문이죠. 아무튼, 데이터가 좋으면 AI 모델의 학습 결과물도 좋을 것이라고 예측할 수 있긴 합니다. 따라서, 금융 업무에 필요한, 제대로 된 데이터가 AI 모델에 제공되어야 금융 업무에 최적화된 결과물을 추론해낼 수 있을 겁니다.

세 번째 요소는 단계적으로 접근해야 한다는 것입니다. 기술의 발전을 면밀히 검토해서 현재 업무에 적용 가능한 부분 부터 조금씩 단계적으로 적용해 나가야 한다는 건데, 모놀리식 접근이 아닌 애자일 방법론을 따르는 것이 AI 프로젝트에도 적용된다고 볼 수 있겠군요.

다음은 최신 기술 도입시기를 결정해야 한다는 것인데요. 너무도 많은 기술들이 쏟아지고 있기에 일일이 다 검증하기란 현실적으로 매우 어렵습니다. 그리고, 검증이 덜 된 오픈소스로 프로젝트를 시작했다 하더라도 도중에 지속적으로 새로운 기술과 오픈소스가 등장하는 것이 현재의 모습이고요. 따라서, 새로 등장하는 기술이 우리의 어떤 문제를 해결할 수 있는지부터 파악하고, 적용할 수 있는 것 부터 적용해 나가되, 궁극적으로 이 기술들을 언제 어느 타이밍에 적용해 나갈지에 대한 계획을 수립해 나가는 것이 중요하다고 할 수 있겠습니다.

마지막 요소는 도메인 지식을 가지고 있는 기술 보유 파트너를 선택해야 한다는 것입니다. 현존하는 모든 AI 기술들을 자유자재로 다룰 수 있는 기업은 거의 없겠죠. 새로운 기술 도입에 보수적인 금융권이라면 아마 최신 기술을 섭렵하고 있는 인적 자원은 더욱 제한적일 것입니다. 그렇기 때문에, 기술 구현에 대한 부분은 전문 파트너에 맡기고 기업은 자신들만의, 고유의 금융 비즈니스를 어떻게 혁신해 나갈 것인가에 대한 방향키를 잡아야 합니다. 배가 앞으로 나아가기 위해 노를 젓고 돛을 조절하는 역할은 금융 도메인 지식이 풍부한 파트너에게 맡기고, 금융 기업의 직원들은 본질에, 배가 나아가야 할 방향을 정하는 것에 집중해야 한다는 얘기입니다. 기업이 모든 기술적 역량을 다 갖추기 위해 노력하는 것은 비효율적이라는 걸 기억해 주세요.

그렇다면 지음에이아이는 금융 기업의 성공적인 AI 프로젝트 수행을 위해 어떤 역량을 갖추고 있을까요? 크게 두 가지로 요약할 수 있겠는데요. 기술 역량과 서비스 역량으로 나눌 수 있겠습니다. 먼저 기술 역량, GNOS Tech Stack을 살펴보면, 궁극적으로 금융 업무에 최적화된 AI Agent를 제공하는 것을 목표로 하고 있고요. 오픈소스 LLM 모델을 기반으로 한 AI Agent를 구현하기 위해 지음에이아이는 데이터 정제, 파인 튜닝, 프롬프트 엔지니어링, RAG 등의 기술을 활용하고 있습니다.

그리고 이런 기술 역량을 바탕으로 금융 기업들에게 네 가지 서비스를 제공하고 있는데요. AI CDP는 금융 기업의 마케팅을 위한 캠페인 활동 및 고객으로부터 수집되는 정보를 분석해서 후속 대응 방안을 도출할 수 있는 서비스이고요. 기업 내부 심사 기준에 따라 사람처럼 빠르게 심사를 수행하는 AI 심사, 약관 정보 검색과 고객 자산 포트폴리오에 따라 상품을 추천하는 고객 상담 어시스턴트, 개인정보 보호를 위한 비식별화, AI를 위한 업무용 학습 데이터 정제 및 최적화된 데이터 셋 생성, 기존 레거시 시스템의 코드 최적화, 워크플로우 최적화, 산출물 품질 관리 등 AI 기반 IT 서비스도 제공하고 있습니다.

금융권은 어느 업종보다도 강력한 보안 규정이 적용되는 업종이라고 할 수 있습니다. 그래서 오래전부터 망분리 정책이 시행되어 왔는데, 이 금융 분야의 망분리 정책이 금융보안법 개정으로 조금 완화되었습니다. 가장 크게 변화된 것은 금융 기업들이 망분리 환경을 자율적으로 선택할 수 있도록 하는 것, 그리고 클라우드 서비스가 허용된 것을 들 수 있겠는데요. 

망분리를 위한 자유도가 확대된다는 것은 그만큼 금융 기업 자체적으로 신경써야 할 보안 요소들이 많아졌다는 것을 의미합니다. 과거 금융감독원에서 정해준 지침대로 따르면 그만이었지만, 이제는 그렇지 않습니다. 새로운 기술을 활용하되, 그 기술을 적용했을 때 예상되는 보안 위협은 무엇이고 어떻게 대응해야 하는지를, 위 장표의 우측에 있는 사항들을 기업 스스로 준비해야 한다는 거죠. 이를 위해 지음에이아이가 준비한 서비스가 있습니다. 하나씩 살펴볼까요?

• ■지금에이아이의 AI 서비스 구현 사례

고객정보 비식별화는 상담원과 고객과의 통화 데이터에서 이름, 생년월일, 휴대폰번호를 AI가 자동으로 파악해서 비식별화 수행하는 서비스입니다. 이미 금융권은 개인정보가 포함된 고객 데이터는 마스킹 처리 후 암호화해서 보관하고 있죠. 이런 데이터는 금융 시스템으로 수집되는 정형 데이터일 가능성이 높습니다. 이런 류의 데이터를 AI가 학습한다 한들, 어떤 성과를 낼 수 있을지 의문이 남는데요.

하지만 비정형 데이터는 다릅니다. 예를 들어, 금융 기업들은 다수의 상담원들을 통해 엄청나게 많은 고객 상담 내용을 녹음하고 있죠. 이 녹음 파일을 AI가 학습할 수 있다면 어떨까요? 상담 내용의 패턴을 분석해서 실제 상담원들이 좀 더 원활한 상담을 이어갈 수 있도록 도울 수 있지 않을까요? 그런데 문제는 이런 상담 내용에 고객의 개인정보가 포함되어 있다는 것입니다.

그래서 지음에이아이는 상담 내용 중 고객의 개인정보를 식별할 수 없는 정보로 바꾸는, 비식별화를 진행합니다. AI가 상담 내용 중 개인정보를 찾아내 비식별화 작업을 수행한다는 것인데요. 이렇게 하면 고객의 상담 내용을 비식별화 작업을 통해 안전하게 보관함은 물론 AI 모델 학습에도 활용할 수 있게 됩니다.

다음은 접촉정보 요약입니다. 마찬가지로 상담원이 고객과 통화한 내용을 STT(Speech To Text)로 문서로 만들고, 그 문서의 세부 내용을 sLLM을 활용해 간단히 요약합니다. 금융 업무 특성 상 같은 고객과 여러 번 통화할 일이 많을텐데요. 그럴 때 이전 통화 내용의 요약본을 보고 고객과 통화한다면 좀 더 원활한 상담이 가능하겠죠? 이전에 고객과 어떤 내용으로 통화했는지 통화 내역 전문을 찾아볼 필요 없이 AI가 핵심만 간단히 알려주기 때문입니다.

그리고, 실제 고객과의 상담 후 보상금 정산을 위해 다른 부서의 담당자에게 업무를 이관했을 경우에도 이 서비스는 유용하게 활용될 수 있습니다. 보상 담당자가 고객의 문의 내용은 무엇인지, 어떤 내용으로 이전 상담사와 통화했는지를 빠르게 파악할 수 있으니 정산 업무를 신속하게 처리할 수 있을 것이고요. 고객도 같은 내용을 반복해서 이야기할 필요가 없어지고 정산도 빨리 받게 되니 고객 만족도 역시 향상될 수 있습니다. 

지음에이아이는 이러한 고객 접촉 정보를 요약해 주는 것에 그치지 않고, 위와 같이 직원이 자신의 업무 현황을 한 눈에 파악하고, 상세 내용을 빠르게 확인할 수 있는 대시보드도 제공합니다. 상담원들의 주 업무 중 하나는 그날의 업무 일지를 기록하고 보고서를 작성하는 것일 텐데요. 이 업무에 대한 생산성을 획기적으로 향상시켜줄 수 있겠죠? 핵심은 현재의 업무 현황 파악 + 고객에게 어떤 조치가 필요한지 파악해서 후속 업무가 무엇인지 빠르게 판단할 수 있도록 도와준다는 것입니다.

지음에이아이의 AI 서비스는 간편보험 심사에도 활용됩니다. AI가 사람을 대신해서 고객이 신청한 보험에 대하여 고객이 보유한 질병을 심사하는 간편심사 서비스인데요. 일차적으로 AI가 심사를 하고, 사람은 그 결과를 토대로 실제 집행을 하는 형태로 업무가 진행된다고 보시면 됩니다. 

저도 실손의료보험을 청구했을 때, 어떤 영수증은 신청한 지 몇 시간이 채 지나지 않은 상태에서 상담원과의 통화도 없이 바로 승인이 떨어져 보험금을 수령했고, 다른 영수증은 실제 상담원과 통화 후 보험금을 수령한 경험이 있는데요. 금융 기업 내부적으로 기준이 명확하고 사례도 많은 청구 건이라면, 이렇게 AI 기반의 간편보험 심사를 통해 빠르게 고객의 보험금을 정산해 줄 수 있을 것입니다.

이러한 AI 기반 간편심사에서 가장 중요한 것은 AI의 심사 결과를 신뢰할 수 있느냐겠죠? 지음에이아이는 위와 같이 지속적으로 모델을 학습시켜 모델의 정확도를 높여나갔습니다. 그 과정에서 실제 심사 건을 AI 모델에 적용했을 때 정확도가 떨어지는 것을 발견했고, 다시 한번 데이터를 보정하고 재학습을 시켜 AI의 정확률을 높여가는 작업을 했다고 합니다. 

그리고 이 과정에서 유연성 테스트도 함께 수행했는데요. 금융 기업의 특성에 맞는 개별 데이터들을 재학습 없이 AI 모델에 변경 적용시킬 수 있는지에 대한 테스트도 진행했다고 합니다. 결과적으로 이런 일련의 과정을 통해 지속적으로 고품질의 AI 서비스를 제공하게 하는 것이 핵심이라고 할 수 있겠습니다.

• ■성공적인 AI 프로젝트 추진을 위한 방법론

그렇다면, 앞서 보신 지음에이아이의 AI 적용 사례들과 같이 성공적인 AI 프로젝트를 추진하기 위해서는 어떤 절차를 밟아야 할까요? 여기 지음에이아이의 AI 프로젝트 추진 방법론이 있습니다. 내용을 보면, 먼저 비즈니스 부서에서 할일과 역할을 명확하게 규정해야 합니다. 그리고 AI 에이전트에게 물어볼 프롬프트에 대한 정보는 사내 지식기반 시스템을 활용할 수 있어야 하고요. AI 모델이 이상한 결과를 도출하지 않도록, 현실에 맞게 데이터를 조정해 가는 업무와 AI 모델을 평가할 수 있는 명확한 평가지표도 마련해야 합니다.

이러한 일련의 순서를 차근차근 밟아나가면 직원들의 업무를 도와줄 수 있는 똑똑한 AI Agent를 만들 수 있겠죠? 그 다음은 이 AI Agent가 어떤 방식으로 업무를 도와줄 지에 대한 워크 플로우를 만들고, 어떠한 역할을 수행할 지에 대해서 정의한 다음, 종합적인 테스트를 거쳐 직원들에게 배포하면 됩니다.

지금까지 지음에이아이의 금융 분야 AI 프로젝트 추진 경험담과 서비스 구현 사례를 자세히 살펴봤습니다. 하지만 프로젝트에는 실제 서비스 구현만 있는 것은 아닙니다. 서비스를 제대로 구현하고 안정적으로 운영해 나갈 수 있는 인프라가 필요하죠. 그에 대한 이야기를 좀 더 해보겠습니다.

​

3. 지속적으로 성장해야 하는 AI에 알맞은 인프라는? AI 확장형 구축 방안 및 사례

앞서 AI 인프라는 확장 가능한 형태로 구축해야 한다고 말씀드렸습니다. AI 자체가 지속적으로 데이터를 공급해 줘야 하기에, 한정된 인프라로는 AI 성능이 최초 만든 상태 그대로를 유지하는 데에 그칠겁니다. 발전이 없는 AI는 금방 쓸모가 없어질지도 모릅니다.

그렇다면, 어떻게 AI 전용 인프라를 구축해야 할까요? 일단 AI 인프라는 자체 보유한 데이터를 활용해야 하기에 온프레미스로 구축합니다. 그 다음 AI의 추론 결과물에 대한 완성도를 높이기 위해 RAG 시스템을 활용해 AI 시스템을 고도화시켜 나가야 하는데요. 만약 여기서 서비스를 확장하려고 한다면 퍼블릭 클라우드와의 연계가 필요한데, 이 때 클라우드에서 수집되는 데이터의 비식별화 작업이 반드시 선행되어야 함은 앞서 지음에이아이의 AI 기반 비식별화 서비스 사례에서도 언급했었죠? 퍼블릭 클라우드상의 AI시스템과 연계하여 서비스를 수행하려면 퍼블릭 클라우드상에 개인정보가 포함된 데이터를 사용하면 안되기 때문에 비식별화 작업이 필요합니다.

결과적으로, AI 서비스를 지속적으로 발전시켜 나가기 위해서는 온프레미스 기반의 AI 인프라에 더해, 새로운 데이터를 계속 공급해 줄 수 있는 퍼블릭 클라우드와의 통합까지 고려된 하이브리드 인프라가 필요한 것이라고 할 수 있겠습니다.

그럼, AI 인프라의 구성 요소를 좀 더 자세히 들여다볼까요? 크게 스토리지, 컴퓨팅 영역으로 나눌 수 있겠는데요. 먼저 스토리지의 경우, 일단 AI가 학습할 수 있는 데이터를 모아 놓은, 거대한 데이터 저장소인 데이터 레이크가 필요합니다. 이 데이터 레이크는 차곡차곡 쌓이는 데이터들을 빠르게 AI가 학습할 수 있도록 공급해 줄 수 있는 높은 성능의 스토리지와 병렬파일시스템으로 구성돼야겠죠. 그리고 당장 AI 학습에 사용할 데이터가 아닌 것들은 자동으로 분류해 저장할 수 있는 오브젝트 스토리지도 필요합니다.

데이터 레이크에 쌓인 데이터는 200G 이상의 이더넷 또는 인피니밴드와 같은 고속 네트워크를 통해 컴퓨팅 영역, GPU 서버로 전달됩니다. 이렇게 조성된 인프라 위에서 앞서 보신 지음에이아이의 AI 서비스가 구현되는 것이라고 보시면 되겠습니다.

그런데, 이러한 AI 전용 인프라 구축을 위해 스토리지 따로, 데이터를 효율적으로 관리할 파일시스템 따로, 데이터를 학습시킬 GPU 서버 따로, 개별적으로 구축하게 된다면? 인프라 구축하고 안정화 시키다가 프로젝트 기간의 절반은 넘게 소요될 지도 모릅니다. 그리고 어느 정도 사양의 하드웨어가 필요한 지도 파악하고, 개별 공급 업체를 컨택하는 것도 일이죠. 

그래서, 이러한 AI 인프라 요소들이 하나로 합쳐진, 통합 AI 플랫폼이 필요합니다. 모든 요소들이 하나의 랙에 통합된 AI 플랫폼이 있어야 합니다. 그래야 금융 기업은 핵심 자원들을 인프라의 운영이 아닌, 인프라 자원을 활용해 AI를 고도화 시키고 업무에 적용하는 데에 집중할 수 있을 테니까요. HS효성인포메이션시스템은 앞서 언급한 AI 인프라에 필요한 요소들을 모두 통합한 단일 시스템으로 제공하며, 구축 경험도 풍부한 AI 인프라 전문 파트너입니다.

AI는 끊임없이 공급되는 데이터를 자양분 삼아 계속 재학습하며 성장해야 합니다. 이렇게 성장하는 AI를 위해서는 인프라도 확장이 용이해야겠죠? 그래서 앞서 보신 통합 AI 플랫폼이 필요합니다. 기업은 AI 프로젝트 완수 이후에도 지속적으로 AI를 고도화시켜서 적용 범위를 확장해 나가야 하는데 인프라가 발목을 잡으면 안되잖아요? 

HS효성인포메이션시스템은 위와 같이 데이터 규모가 100TB, 600TB, 1.2PB에 달하는 인프라 구축 사례를 가지고 있습니다. 위 장표를 유심히 보시면, 3개 사례 모두 데이터의 크기만 다를 뿐, 실제 구현된 아키텍처는 동일한 것을 알 수 있죠?아키텍처가 단순해야 인프라를 쉽게 확장해 나갈 수 있거든요. AI 인프라가 통합 플랫폼으로 제공되어야만 AI를 적용한 업무 환경은 변하지 않고 인프라 규모를 지속적으로 확장해 나갈 수 있다는 것이 핵심입니다.

​

4. 결론 : AI 구현은 전문 파트너에게, 기업은 AI 기반 비즈니스 혁신에 집중해야

이제 결론을 내보겠습니다. 어쨌든 중요한 것은 성공적으로 AI 프로젝트를 완수하는 것일텐데요. 그러기 위해서는 제대로 된 파트너를 선택해야 합니다. 그럼, 그 파트너는 어떤 기준으로 선택해야 할까요?

AI 프로젝트를 시작하려면 AI 전용 인프라가 있어야 합니다. 그리고 그 인프라를 선택하기 전에 당연히 기업에서 요구하는, AI를 돌릴 워크로드에 필요한 성능 검증을 위한 PoC/BMT가 선행되어야겠죠? 고객 환경에서 AI 인프라의 테스트를 수행할 수 있는지 여부를 점검해봐야 합니다. 그리고 테스트를 통해 충분히 성능이 나오는 것 이상으로, 실제 구축 경험이 풍부한 지도 검토해야 할것입니다. 마지막으로, 문제가 생겼을 때 빠르게 기술지원을 해줄 수 있는 인력이 국내에 상주하고 있는가, 새로운 AI 기술 및 솔루션이 출현했을 때 이를 발빠르게 적용할 수 있는 전문 인력이 있는가도 중요한 파트너 선택 시 고려해야 할 요소입니다.

HS효성인포메이션시스템은 통합 AI 플랫폼을 제공할 수 있고, 실제 구축 경험도 많은 AI 인프라 전문 파트너입니다. 그리고 지음에이아이는 금융 기업을 위한 전문 AI 서비스 프로젝트를 성공적으로 수행해 온 파트너이고요. 

따라서, 우리 회사가 금융 기업인데 AI를 회사 업무에, 비즈니스에 적용해 보고 싶다면? 지음에이아이를 선택하면 됩니다. 그런데 지음에이아이가 구현할 AI 서비스를 운영하려면 그에 걸맞은 인프라가 필요하겠죠? 그 인프라는 HS효성인포메이션시스템이 제공한다고 보시면 되겠습니다. 금융권 인프라 전문가 그룹과 금융권 AI 서비스 구축 전문가 집단이 만났으니, 금융 기업은 AI 구현은 이들에게 맡기고, 어떻게 AI를 활용할 지에 대해서만 고민하면 된다는 것입니다.

<이미지 출처 : HS효성인포메이션시스템 보도자료>

여기까지 '[금융 AI의 Next Step] 금융 혁신을 위한 AI 적용 및 확장방안 세션' 내용을 자세히 정리했습니다. 제가 이번 세션을 듣고 부스에서 질문하며 궁금증을 해결하고, 다시 한번 이렇게 세션 내용을 정리하면서 느낀 것은, '진짜 AI 시대가 오긴 오고 있구나'라는 것이었습니다. 왜냐, 잘 아시겠지만 금융권은 가장 높은 수준의 IT 기술이 적용되는 분야임과 동시에 기술 도입에 있어 가장 보수적인 분야이기도 합니다. 즉, 검증이 끝나면 기술의 도입 속도는 매우 빠르고, 그 규모 역시 엄청난 것이 특징이라고 할 수 있죠. 이러한 금융권에 AI의 바람이 제대로 불고 있다는 것을 이번 컨퍼런스에서 느낄 수 있었습니다. 

AI라는 범접하기 어려워 보이는, 글로벌 빅테크 기업들이나 구축해서 사용할 것만 같은 기술이 점점 아래 단계로 내려오고 있습니다. 다양한 AI 기반 SaaS 서비스들 덕분에 AI 대중화는 착착 진행되는 것처럼 보이나, 실제 기업의 IT 환경에, 업무에 적용해 나가는 것은 속도가 더딘 것처럼 느껴졌었는데요. 금융권이 본격적으로 자체 AI 시스템을 구축해 나가기 시작하면서, 그 물결이 조만간 일반 기업으로도 확산될 것 같습니다. 금융권에서 검증된 시스템이라면, 그 시스템을 구축한 경험이 있는 파트너라면, 어떤 업종의 기업이라도 AI 프로젝트에 있어 최적의 파트너라고 봐도 되지 않을까요?

금융권 종사자이면서 AI 도입을 고민하고 있다면, 아니 금융권이 아닌 일반 기업이라도 AI 도입 수요가 있다면, 주저하지 마시고 HS효성인포메이션시스템 전문가의 도움을 받아보시기 바랍니다.

• ●HS효성인포메이션시스템 AI 전문가 상담 신청하기

이 콘텐츠가 기업 내 AI 도입을 고민하시는 분들께 조금이나마 도움이 되었기를 바랍니다. 끝!