이제 AI는 단순한 실험 단계를 넘어 본격적으로 기업 현장에 적용되고 있습니다. 특히 ‘AI 에이전트(Agentic AI)’라고 불리는 자율적 AI 시스템이 실제 운영 단계에 접어들면서 산업 전반에 큰 변화를 일으키고 있습니다.
2025년 미국 샌프란시스코에서 열린 VB Transform 컨퍼런스에서는 이러한 변화가 기업 전반에 얼마나 빠르게 확산되고 있는지 구체적인 데이터와 함께 확인할 수 있었습니다. 해당 컨퍼런스를 통해 공유된 네 가지 주요 인사이트를 중심으로, AI 도입이 기업에 어떤 실질적인 영향을 미치는지 살펴보겠습니다.
목차
AI 에이전트 실전 투입 가속화: 이미 많은 기업이 사용 중입니다
과거 기업에서 AI는 주로 데이터 분석, 챗봇, 고객 응대 자동화 등 제한적인 분야에 활용됐습니다. 하지만 지금은 단순한 지원 도구가 아닌, 특정 업무를 주도적으로 수행하는 ‘에이전트형 AI’가 실제로 운영되고 있습니다. 특히 그 도입 속도가 예상보다 훨씬 빠르게 전개되고 있는 점이 인상적입니다.
컨퍼런스 직전에 벤처비트(VentureBeat)가 실시한 설문조사에 따르면, 직원 수 1,000명 이상인 기업 중 68%가 이미 AI 에이전트를 구축한 것으로 나타났습니다. 이 수치가 과장된 듯 보일 수 있지만, KPMG의 별도 조사 역시 이를 뒷받침합니다. KPMG 자료에 따르면 2024년 말까지 11%에 불과했던 도입률이 단 두 분기 만에 33%로 상승했습니다. 3배 이상 증가한 셈입니다.
예를 들어, 회계 소프트웨어로 잘 알려진 Intuit는 AI 에이전트를 통해 송장 발행과 결제 요청 과정을 자동화했습니다. 이 AI는 기업이 평균적으로 결제를 5일 더 빨리 받을 수 있도록 도와줬으며, 완납률도 약 10% 향상시켰다고 보고됐습니다. 이런 결과는 어느 산업군에서든 주목할 만한 투자 대비 효과로 평가됩니다.
또한 LinkedIn, Capital One, Highmark Health 등 다양한 산업의 선도 기업들 역시 AI 에이전트를 도입해 고객 응대, 내부 정보 흐름 관리, 운영 자동화 등 다양한 영역에서 실제 성과를 내고 있습니다.
멀티 모델, 멀티 클라우드 전략으로 전환 중인 기업들
AI 서비스의 접근 방식 또한 변화하고 있습니다. 과거에는 성능이 우수한 대형 언어 모델(LLM)을 보유한 소수의 기술기업, 예를 들어 OpenAI, Google, Meta 등이 유일한 선택지였지만, 지금은 상황이 다릅니다. 많은 기업들이 멀티 모델, 멀티 클라우드 전략으로 전환해 다양한 옵션을 혼합해 사용하는 방식으로 유연성을 확보하고 있습니다.
IBM AI 플랫폼 부문 부사장인 아르망 루이즈는 “이제 하나의 모델만 사용하는 시대는 지났다”고 강조합니다. IBM은 자사 오픈소스 모델 외에도 타사 모델을 손쉽게 통합할 수 있는 게이트웨이 시스템을 개발해 기업이 필요에 맞는 모델을 자유롭게 선택할 수 있도록 지원하고 있습니다.
또한 Zoom은 자체 개발한 AI 모델, 외부 파트너 모델, 그리고 고객이 생성한 맞춤형 모델을 모두 수용할 수 있는 세 단계 전략을 채택해 기술 역량을 강화하는 동시에 고객의 요구에도 유연하게 대응하고 있습니다.
이와 함께, AI 도입의 장애 요소 중 하나였던 하드웨어 자원 문제도 다양한 기술 기업들이 대응하고 있습니다. 예를 들어 Solidigm은 AI 연산에 특화된 스토리지 및 메모리 솔루션을 제공함으로써 시스템 병목 현상을 완화하고 있습니다.
실질적 문제 해결에 집중하는 기업들, AGI는 관심 밖입니다
언론과 일부 기술 리더들은 여전히 범용 인공지능(AGI)에 주목하고 있지만, 실제 기업 현장의 관심은 훨씬 현실적인 과제에 집중되어 있습니다. 대부분의 기업은 아직 먼 미래의 기술보다 지금 해결할 수 있는 구체적인 문제에 초점을 맞추고 있습니다.
높은 만족도를 얻고 있는 사례 중 하나는 미국 의료서비스 기업 Highmark Health입니다. 이 회사는 영어에 익숙하지 않은 고객과 효과적으로 소통하기 위해 다국어 대응 AI를 도입했으며, 의료 청구의 자동화 시스템도 함께 구현해 고객 응대 품질과 운영 효율을 동시에 높이고 있습니다.
금융 기업 Capital One은 리스크 평가, 감사, 대출 매칭 등 여러 업무에 특화된 AI 에이전트를 도입해 부서별 업무 단위로 나뉘어 운영하고 있습니다. 이 AI들은 인간 팀원처럼 개별 업무에 최적화된 책임을 가지고 작동합니다.
여행 업계에서도 변화가 두드러지고 있습니다. Expedia, Kayak 등은 “자연광이 좋은 오션뷰 숙소 찾아줘” 같은 자유로운 언어 표현을 해석해 검색 결과를 제시하는 AI 기반 검색 기능을 개발 중입니다. 이는 기존 키워드 기반 검색 방식보다 훨씬 직관적인 사용자 경험을 제공합니다.
소형 팀 중심의 개발 문화로 전환: 모두가 AI 매니저가 되는 시대입니다
AI 도입이 가속화되면서 기업 내 팀 구조와 업무 방식 또한 빠르게 변화하고 있습니다. 예전에는 대규모 팀이 장기간 프로젝트를 추진했지만, 현재는 소규모 팀이 빠르게 테스트하고 결과를 측정하는 방식이 보편화되고 있습니다. 이런 전환에는 AI 기술의 빠른 발전이 큰 영향을 미쳤습니다.
AI 개발 도구를 제공하는 Windsurf의 최고경영자 바룬 모한은 “3~4명의 소형 팀이 빠르게 아이디어를 검증하고 반복하는 구조가 가장 이상적”이라고 설명합니다. 이처럼 빠른 검증과 실험이 가능해지면서, 소속 부서나 직무와 관계없이 누구나 AI 프로젝트를 주도할 수 있는 구조가 형성되고 있습니다.
이러한 흐름은 AI 전문 엔지니어 중심의 개발 문화를 넘어, 일반 직원들도 직접 AI 기능을 설계하고 적용하는 방향으로 확장되고 있습니다. GitHub, Atlassian, AWS 등은 ‘AI 매니저’라는 새로운 직무를 통해 다양한 구성원이 AI 운영에 참여할 수 있도록 하고 있습니다.
한편, Anthropic의 클로드(Claude) 제품 책임자인 스콧 화이트는 개발자가 아니면서도 실제 환경에서 작동 가능한 AI 기능을 구축한 경험을 공유하며, AI 개발의 진입장벽이 점점 낮아지고 있다는 점을 강조했습니다.
이와 같은 변화는 ‘작게 시작해 빠르게 실험하라’는 철학에도 기반합니다. AI 분야의 권위자인 앤드류 응 교수는 “초기에는 폐쇄된 환경에서 자유롭게 실험하고, 실질적 가치가 입증된 후에 거버넌스를 적용하라”고 조언합니다. 이는 실패를 두려워하지 않고 유연한 실험 문화를 채택하는 것이 중요하다는 의미입니다.
결론: 기업용 AI의 미래는 이미 현실입니다
AI 에이전트는 더 이상 미래 예측의 대상이 아닙니다. 이미 수많은 기업들이 AI 에이전트를 현업에 투입해 구체적인 성과를 내고 있으며, 이에 따른 확산 속도는 꾸준히 더 빨라지고 있습니다. 각종 조사 결과, 도입률, 예산 배정, 고객 서비스 향상 지표까지 모든 요소가 이를 뒷받침합니다.
이처럼 AI 기반 업무 전환이 가속화되고 있는 지금, 선제적으로 대응한 기업들은 이미 시장에서 우위를 확보하기 시작했습니다. 반면, 아직 준비가 되지 않은 기업들은 빠르게 배우고 경험을 축적해야 할 시점입니다. 실험이 곧 경쟁력이라는 사실은 이제 명확해지고 있습니다. 빠르게 시도하고, 작게 시작하되, 꾸준히 확장해가는 전략이 지금 필요한 접근 방식입니다.
 | AX 100배의 법칙 – 나와 조직의 능력을 100배 높이는 AI 경영의 실제 도서 구매 |
함께 읽으면 좋은 글: