추론AI로 쏠리는 AI 시장 무게중심

Vol 130. (2025.04.11)

공유하기      |      지난 호 보기

📚이번 주 Trend Topic 정리📚

1. 범용 LLM 한계... 산업 특화형 AI 개발 집중

2. 추론AI로 쏠리는 AI 시장 무게중심

3. 중소제조기업에 AI 활용·확산 방안 연구

4. 고성능 GPU 도입하는 대학들

오늘날 기업과 연구 기관들은 전례 없는 데이터 폭증과 복잡한 연산 요구에 직면해 있습니다. 인공지능, 빅데이터 분석, 시뮬레이션, 디지털 트윈 등 첨단 기술의 도입은 컴퓨팅 환경의 복잡성을 급격히 증가시켰습니다. 이러한 변화 속에서 고성능 컴퓨팅(HPC) 인프라의 효율적인 통합 관리가 기업 경쟁력의 핵심 요소로 부상하고 있습니다.

오늘은 IT TREND를 통해 분산된 자원을 관리하는 것에 대한 한계점과 통합 관리에 대한 필요성, 핵심 요구사항과 활용 사례 등에 대해 알아보겠습니다.

→ 자세히 보기

Trend Topic

구글클라우드가 추론 기능에 초점을 맞춘 텐서처리장치(TPU) '아이언우드'(Ironwood)를 공개했어요. 이는 구글이 내놓은 첫 추론 전용 AI 칩인데요. 기존 AI 모델이 방대한 데이터에서 패턴을 학습해 확률에 기반한 답변을 생성해 냈다면, 추론 모델은 문제 해결 과정을 단계별로 보여주고 마치 사람의 사고를 따라가듯 답변을 제공해요. 여러 단계를 미리 생각하고 사용자를 대신해 복잡한 작업을 수행해야 하는 AI 에이전트에 필요한 핵심 기술인데요. 이를 부하 없이 구동하려면 탄탄한 컴퓨팅 파워가 받쳐줘야 하는데, 구글 클라우드는 이 같은 시장 상황을 반영해 새로운 칩을 내놨어요.

추론AI에 이어 이를 뒷받침할 AI 칩 기술 경쟁도 한층 더 치열해질 전망이에요. 엔비디아 CEO 젠슨황은 "추론 모델 등장으로 이전보다 100배 많은 컴퓨팅 파워가 필요하다. 사고 능력을 갖춘 AI 에이전트가 많이 사용될수록 AI 추론 수요는 늘어날 것"이라고 언급한 바 있어요.

▶ '추론 AI'로 쏠리는 AI 시장 무게중심... 첫 추론 AI칩 내놓은 구글