비용, 효율, 속도를 생각하면 이제는 AI가 답이에요

요즘 ChatGPT에서 지브리 화풍으로 이미지를 생성하는 것이 유행입니다. 간단히 사진을 업로드하고 '지브리 풍으로 그려줘'라고 프롬프트에 입력하면 몇 분만에 정말 지브리 애니메이션에 나올 법한 캐릭터를 생성해주죠. 얼마 전 까지만해도 도저히 써먹을 수 없는 수준의 이미지를 생성했던 것과 비교하면 ChatGPT의 이미지 생성 성능이 엄청 좋아진 것 같군요.

이렇게 이미지를 만들어주는 AI를 '생성형 AI, Generative AI'라고 부릅니다. 그런데, 전 국민이 다 아는 ChatGPT이지만, 정작 업무에 사용하시는 분들은 생각보다 많지 않다고 하는군요. 왜 그럴까요? 사용하기 어려워서? 비싸서? 성능이 기대 이하여서? 여러 이유가 있겠지만, 업무에 아주 잘 사용하고 있는 기업, 직장인들도 많은 것이 사실입니다.

그래서 이번 글에서는 왜 우리의 업무에 ChatGPT를 위시한 LLM과 같은 생성형 AI를 사용해야 하는지, 이런 AI가 우리 업무를 어떻게 도와줄 수 있는지, 사용할 만한 AI 서비스는 어떤 것들이 있는지 간단히 알아봅시다. 목차는 아래와 같습니다.

​

1. AI, 당장 시작하지 않으면 도태될 지도 모른다

“AI 같은 건 아직 먼 얘기 아니야?”

그랬으면 좋겠죠. 그런데 현실은 이미 달라지고 있습니다. 생성형 AI, 특히 ChatGPT 같은 도구를 사용해서 보고서를 요약하고, 회의록을 정리하고, 이메일을 쓰는 기업들이 늘어나고 있거든요. 심지어는 개발 코드, 콘텐츠 초안, 제품 기획 아이디어까지 AI가 도와주는 시대입니다. 개발의 개 자도 모르는 저도 아직 시작 단계이긴 하지만, ChatGPT랑 대화하면서 서비스를 개발하고 있거든요. 아마 AI를 사용하는 개발자들의 업무 생산성은 어마어마하게 올라갔을겁니다.

“진짜 그 정도야?”

네, 진짜입니다. 그래도 못믿겠다면 다음의 통계 자료를 참고해 주세요. 

<이미지 출처 : 연합뉴스, AI 도입 깅버 6.3% 불과 / 한국은행, AI 기술 발전이 경제에 미치는 영향 보고서>

한국은행이 발표한 자료에 따르면, AI를 제대로 도입하면 국내 생산성이 최대 3.2%, GDP는 12.6%까지 증가할 수 있다고 합니다. 그런데 현재 한국 기업의 AI 활용률은 고작 6.3% 수준이에요. 바꿔 말하면, 지금 이 시점에 AI를 잘 활용하는 기업은 ‘치트키’를 쓴다는 의미가 됩니다.

<이미지 출처 : McKinsey & Company, Unleashing developer productivity with generative AI>

그뿐만이 아닙니다. 위와 같이 McKinsey & Company의 자료에 따르면, 생성형 AI를 활용한 개발자들은 작업 속도가 25~30% 더 빠르며, AI 투자 1달러당 3.5달러의 ROI를 거두고 있다는 IDC의 통계도 있답니다.

자, 이렇게 AI는 많은 직장인들의 업무에 깊숙히 침투해서 실제로 업무 생산성을 올려주고 있습니다. 그래서, 질문 하나 드릴게요. 당신의 회사는 지금 이러한 국면에서 경쟁사 대비 유리한 위치에 있나요, 아니면 아직도 “우리는 나중에 천천히 해도 돼”라고 말하고 있나요?

​

2. AI가 회사에서 실제로 해낼 수 있는 일들은 뭐가 있을까?

<이미지 출처 : Chat360, How Does Generative AI Work?>

“AI가 그렇게 좋으면, 대체 뭘 할 수 있는데?”

좋은 질문입니다. 많은 분들이 “AI 쓴다”는 말은 많이 하지만, 막상 어디에 어떻게 쓰는지는 잘 모르세요. 그래서 이번에는, AI가 여러분의 회사에서 실제로 어떤 일들을 해낼 수 있는지 ‘현실 업무’ 중심으로 보여드릴게요.

• ■이메일, 회의록, 제안서 초안 작성

매일 쓰는 이메일, 회의 끝나고 남기는 회의록, 거래처에 보내는 제안서 초안 등등, 거 다 직접 쓰고 계시죠? ChatGPT 같은 생성형 AI는 이런 문서를 70~80% 수준까지 자동으로 작성해 줍니다. 거기에 살짝 다듬기만 하면 되니까, 시간은 줄고, 퀄리티는 올라갑니다.

“회의 끝나자마자 회의록이 정리되어 있어요. AI가 핵심 요점만 콕 집어주거든요.”

라는 말을 임직원들이 진짜 하고 있다니까요.

• ■문서 요약, 규정 정리, FAQ 자동 생성

업무 매뉴얼, 사내 규정, 법률 문서와 같이 읽기도 싫고, 요약하자니 시간은 없는 문서들 엄청 많죠? 그럴 땐 생성형 AI에게 맡기세요. 긴 문서를 요약해주고, 핵심만 정리해주고, 심지어 자주 묻는 질문도 뽑아줍니다. 업무 인수인계도 AI가 정리해줘서, 예전처럼 인수인계서 작성에 많은 시간을 들이지 않아도 됩니다.

• ■고객 응대 챗봇, CS 자동화

이건 꽤 예전부터 CRM, RPA 솔루션을 통해 많이 활용되고 있는 분야인데, 여기에 생성형 AI가 붙으면서 더 좋아졌습니다. 고객 응대 시 FAQ 복붙하고, 매번 똑같은 답변 하느라 지치신 분들 많이 계실텐데요. AI는 고객 질문을 이해하고, 상황에 맞는 답변을 자동 생성할 수 있습니다. 기존의 챗봇보다 훨씬 자연스럽고, 똑똑하거든요. 실제로 생성형 AI 기반의 컨택 센터를 구축한 기업에서는 아래와 같은 피드백을 줍니다.

“상담원 연결 전에, 기본적인 문제는 AI가 다 해결해줘요. 덕분에 콜센터 대기 시간도 줄었죠.”

• ■아이디어 브레인스토밍, 콘텐츠 기획

"오늘 뭐 쓰지?" "이 캠페인에 어떤 문구가 좋을까?"

마케터나 기획자 뿐만 아니라 콜드 메일을 작성해야 하는 영업대표, 심지어 사내 공지문을 작성해야 하는 IT 담당자들도 뭔가 글을 쓰기 전에 아이디어가 떠오르니 않아서 골치가 아픈 경험 많을겁니다. 그럴 땐 AI에게 물어보세요. 카피 문구, 글 주제, 새로운 프로모션 기획 아이디어에 공지문 구성까지 술술 나옵니다. 사실 저도 이 부분에 AI를 가장 많이 활용하고 있답니다. 

• ■코드 작성, 개발 문서 정리

“AI가 틀을 짜주면 그 위에 개발만 하면 되니까, 신입도 바로 실전에 투입 가능하더라고요.”

아니라고요? 진짭니다. 활용도에 따라 이런 반응보다 더 놀라운 피드백도 많아요. 사실 전 이제 노코드, 로우코드는 한물 간 것 같다고 생각합니다. AI에게 필요한 내용을 알려주면 기가막히게 코드를 만들어 주거든요. 그래서 기획자가 요구사항 정리해두면, AI가 초기 코드 틀을 짜주고, 주석까지 정리해줍니다. 개발팀에서 일하기 한결 편해지겠죠?

게다가, AI는 기술 문서나 API 설명서도 빠르게 작성해줍니다. 개발자 입장에서 일 잘하는 인턴 한 명 생긴 셈이죠. 근데 이 인턴이 내 자리를 위협할 만큼 똑똑한거예요. 하지만 걱정 마세요. AI는 내가 시키는 것만 하니까요.

그래서, 지금까지의 내용을 간단히 핵심만 요약하자면

• ●AI는 단순 반복 작업은 자동화하고

• ●복잡한 일은 더 쉽게 만들고

• ●사람은 사람답게 더 창의적인 일에 집중하게 해줍니다.

이제 슬슬 궁금하실 겁니다. 그럼 대체 어떤 AI 서비스를 써야 할까요? 

​

3. 생산성을 높이는 대표적인 생성형 AI 서비스들

“그럼, 뭘 써야 돼?”
이 질문, 정말 많이 하시죠? 회사에서 AI 도입을 검토할 때 제일 먼저 부딪히는 벽이 "종류가 너무 많아서 뭘 골라야 할지 모르겠다”는 거예요. 그래서 여기, 현업에서 진짜 잘 쓰이고 있는 생성형 AI 서비스들만 골라봤습니다. 특히 오늘은 핵심인 LLM(Large Language Model) 기반 서비스 중심으로 정리할게요.

• ■OpenAI ChatGPT - 못하는 게 없는 만능형 비서

생성형 AI의 아이콘, ChatGPT, 이제는 모르는 사람이 없죠. GPT-4o부터는 파일 분석, 이미지 인식, 코딩까지 다 됩니다. 마치 ‘멀티 플레이어’ AI 사원 같은 느낌이죠. 기획, 콘텐츠, 분석, 코딩 뭐든 기본 이상은 해냅니다. 그래서 딱 하나만 써야 한다면? 여전히 ChatGPT가 1순위입니다.

• ■Microsoft Copilot - Microsoft 365와 찰떡궁합

“우리는 회사에서 엑셀, 워드, 파워포인트 엄청 많이 쓰는데…”

그럼 Copilot이 딱입니다. 아예 Microsoft Office 제품 안에 AI가 들어가 있어서, Excel 데이터 분석, 보고서 작성, 회의 요약까지 워드 안에서 다 됩니다. 심지어 PPT 디자인도 AI가 다듬어줍니다. 종일 PPT와 씨름해야 하는 분들의 야근 시간을 이제 대신 Copilot이 책임져줍니다.

• ■Google Gemini - Google 생태계 최적화

Microsoft에 Copilot이 있다면 Google에는 Gemini가 있죠. Gmail, Docs, Sheets 등 업무용 도구가 Google Workspace 기반의 기업이라면 이쪽을 우선순위에 두고 검토해야 합니다. 메일 요약, 회신, 문서 초안 작성 등 자동화 작업에 탁월하죠. 또한 유튜브, 검색, 지도 데이터와 연계되는 것도 강점입니다.

• ■Anthropic Claude - 문서 정리에 특화된 LLM

긴 문서 읽고 정리할 때는 Claude가 진짜 물건입니다. 맥락 파악도 좋고, 요약도 자연스럽고, 무엇보다 최대 입력 용량이 크다는 점이 강력하거든요. 한꺼번에 수십 페이지 문서를 넣고 요약받고 싶은 분께 추천합니다. ChatGPT도 긴 내용의 요약을 잘 하긴 하는데, Claude가 더 자연스러운 것 같아요. Claude에게 30장짜리 정책 문서를 요약시켜보세요. 아마 깜짝 놀라실걸요?

이 외에도 다양한 AI 서비스들이 있고 활용 사례도 무궁무진합니다. 그럼 당연히 이런 궁금증이 들기 시작할거예요.

“그럼, 우리 회사엔 어떤 게 맞을까?”

이건 기업 규모, 부서 구조, 업무 스타일, 그리고 예산에 따라 다를 수밖에 없습니다. 이런 고민은 다음 글에서 제대로 풀어볼게요.

​

4. 다음 글 예고 - 우리 회사에 딱 맞는 AI는 어떻게 고르면 좋을까?

<이미지 출처 : Smartbridge, A Guide to Evaluating and Choosing the Right Generative AI for Your Enterprise>

여기까지 읽으셨다면 이런 생각이 드실 겁니다.

“좋아, AI가 좋다는 건 알겠고 이제 도입도 하고 싶은데… 도대체 뭘 골라야 하지?”

맞습니다. AI 도입은 단순히 “유명한 걸 쓰자”는 문제가 아닙니다. 우리 조직의 업무 방식, 보안 정책, 협업 툴, 예산 구조까지 모두 고려해야 진짜 ‘잘 쓴다’고 말할 수 있죠. 게다가 요즘은 월 정액형 서비스 말고도, 쓰는 만큼만 과금되는 종량제 서비스도 나오고 있습니다. 이런 서비스는 소규모 팀이나 실험적으로 시작하려는 기업에 특히 유리하죠.

게다가, 사전에 프롬프트 엔지니어링이 잘 되어 있어서 AI 사용법을 몰라도 누구나 쉽게 쓸 수 있는 서비스도 있다면? AI 도입이 훨씬 부담 적어질 겁니다.  그래서 다음 글에서는

• ●어떤 기준으로 AI 서비스를 고르면 좋을지

• ●지금 주목해야 할 새로운 AI 서비스는 무엇인지

• ●그리고 그 서비스가 왜 현업에서 실용적인지

이 사항에 대해 구체적으로 살펴보겠습니다. AI 도입, 이제 고민만 하지 마세요. 일 잘하는 회사들은 이미 시작했습니다. 그래서, 이러한 AI 서비스를 어떻게 우리 회사에 도입하면 좋을지, 다음 글에서 자세히 다뤄보겠습니다.

끝!