혹시 회사에서 IT 지원을 받기 위해 챗봇을 이용해보신 적이 있으신가요? 문제가 생겨 도움을 요청했지만, 계속해서 “이게 도움이 되었나요?” 같은 답변만 되풀이되고, 결국엔 사람이 응답하는 상담을 요청하게 되는 경우, 누구나 한 번쯤 겪어보셨을 것입니다.
그런데 이 답답한 상황을 근본적으로 바꾼 기업이 있습니다. 바로 글로벌 금융 서비스 기업 아메리칸 익스프레스(American Express, 이하 Amex)입니다. Amex는 약 8만 명에 이르는 직원들을 대상으로 생성형 AI 기술을 도입해 IT 지원뿐 아니라 여행 상담, 소프트웨어 개발 등 다양한 업무의 효율성과 만족도를 크게 향상시켰습니다.
이번 글에서는 Amex가 실제로 어떻게 AI를 활용하고 있는지, 또 그런 시도가 어떤 성과로 이어졌는지 살펴보며, 오늘날 기업들이 참고해야 할 중요한 전략 포인트를 정리해드리고자 합니다.
IT 지원의 성공적인 AI 전환, 이렇게 진행됐습니다
Amex는 가장 먼저 내부 IT 지원의 효율화를 실현했습니다. 기존에는 BERT 기반의 자연어처리(NLP) 기술을 활용한 챗봇을 운영했지만, 실제 사용 경험은 한계가 명확했습니다. 단순히 관련 링크만 나열하는 형태라 직원들이 궁극적인 해결책을 얻기 어려웠고, 결국엔 실시간 상담으로 넘어가는 경우가 많았습니다.
이를 개선하기 위해 Amex는 생성형 AI와 폐쇄형 언어 모델을 결합한 새로운 IT 지원 챗봇을 도입했습니다. 새로운 챗봇은 사용자의 질문을 언어의 맥락에 맞게 분석해 보다 직관적인 응답을 제공하고, 단계적으로 문제 해결을 안내하며, 필요시 자동으로 사람 상담으로 전환합니다.
예를 들어, 한 직원이 “인터넷이 연결되지 않는다”고 문의했을 때, 챗봇은 “Wi-Fi 목록이 보이지 않으신가요?”, “기기를 재시작해보셨나요?”와 같은 추가 질문을 통해 원인을 좁혀나갑니다. 이에 따라 해결 속도는 빨라지고, 반복적인 티켓 처리가 현저히 줄어들었습니다.
실제 결과는 매우 인상적이었습니다. 2023년 10월 이 시스템을 도입한 이후, 전체 IT 지원 티켓의 40%가 사람의 개입 없이 처리됐고, 직원들이 업무로 복귀하는 시간도 크게 단축됐습니다. 단순히 자동화를 적용한 것이 아니라, 만족과 효율을 모두 충족시키는 ‘완성도 높은 자동화’였던 것입니다.
AI 전략 도입: 500개 후보, 70개 선택
Amex는 AI를 단순한 기술 프로젝트로 보지 않았습니다. 조직 전체에서 500개에 이르는 AI 활용 가능성을 식별하고, 이 중 70여 개를 실제 적용 가능한 항목으로 선별해 전략적으로 도입했습니다.
이 과정에서 특히 두 가지 원칙을 중시했습니다. 첫째, 모든 부서가 동일한 방향으로 AI 전략을 실행할 수 있도록 ‘코어 AI 프레임워크’를 구축했고, 이를 기반으로 공통 템플릿과 코드 샘플을 제공함으로써 일관된 개발 환경을 만들었습니다. 둘째, 금융 서비스 업종이라는 특성을 감안해 개인정보와 민감 정보 보호를 위해 엄격한 ‘AI 방화벽’을 설계했습니다.
Amex는 이를 바탕으로 신뢰할 수 있는 데이터를 기반으로 AI가 움직이도록 RAG(Retrieval-Augmented Generation) 기법과 프롬프트 엔지니어링을 적극 활용하고 있으며, 매달 수천 건의 문서를 업데이트해 최신성과 정확성을 유지하고 있습니다.
Premium 고객을 위한 여행 상담에도 AI가
Amex는 Premium 고객을 위한 여행 상담 서비스에도 AI를 도입했습니다. 5,000여 명의 여행 컨설턴트들이 전 세계의 럭셔리 숙소, 레스토랑, 명소 정보를 기반으로 맞춤 추천을 제공하기 때문에 정보 탐색과 제안 프로세스의 효율성이 중요했습니다.
이에 Amex는 ‘Travel Counselor Assist’라는 AI 솔루션을 도입해 상담사를 지원했습니다. 이 AI는 고객의 카드 사용 내역과 성향 데이터를 분석하고, 인터넷상의 방대한 여행 정보를 검토한 뒤, Amex가 보유한 내부 데이터와 결합해 고객에게 최적화된 여행 일정을 추천해줍니다.
예를 들어, 한 고객이 바르셀로나 여행을 계획 중이라면, AI는 고객의 이전 레스토랑 취향을 분석하고, 지역별 영업시간과 혼잡도를 고려해 이번 여행에 가장 적합한 장소를 제안합니다. 이 과정에서 AI는 일차적인 정보 제공자 역할을 하고, 최종적인 조율과 감성적인 판단은 여전히 인간 상담사가 담당합니다.
이를 통해 상담의 정밀도가 향상되었고, 응답 시간도 짧아졌으며, 실제 85% 이상의 상담사가 “AI 도구 덕분에 일의 효율성이 높아졌다”고 평가했습니다.
코드 개발 효율도 AI로 높인다
Amex는 IT 지원과 여행 컨설팅을 넘어 소프트웨어 개발 분야에도 AI를 접목하고 있습니다. 현재 약 9,000명의 개발자들이 GitHub Copilot과 같은 AI 코딩 도구를 활용해 코드 작성, 테스트 자동화, API 문서화 등의 작업을 수행 중입니다.
예를 들어, 개발 중 코드의 다음 줄을 추천받거나 테스트 케이스를 자동으로 생성하는 일이 가능해졌고, 복잡한 API 문서를 쉽고 빠르게 구성할 수 있게 되었으며, “이 코드의 의미가 뭔가요?”와 같은 질문에도 즉각적인 응답을 받을 수 있게 되었습니다.
그 결과, 개발자의 생산성이 평균 10% 정도 향상되었고, 85% 이상의 개발자들이 AI 코드 도우미 사용에 만족감을 표시하고 있습니다. Amex는 기술 성과뿐 아니라 사용자 만족도를 중요한 성공 지표로 삼고 있으며, 실제로 “업무의 결과뿐만 아니라, 작업하는 사람의 경험이 개선되고 있는가?”라는 질문을 항상 검토하고 있다고 밝혔습니다.
Amex에서 배울 수 있는 4가지 교훈
Amex의 AI 전략은 단순히 시스템을 도입했다고 끝나지 않습니다. 그 안에는 모든 조직이 참고할 수 있는 깊은 통찰이 담겨 있습니다.
첫째, AI는 ‘도입’이 아니라 ‘전략’이어야 합니다. Amex가 500개의 가능성 중 70개를 선별한 사례처럼, 명확한 기준과 우선순위를 정해 접근해야 합니다. 이것이 현장의 실행력과 연결됩니다.
둘째, AI는 사람을 대체하기 위한 기술이 아니라 효율을 극대화하는 협업 파트너입니다. 여행 상담에서처럼, AI가 정보를 제시하면 사람은 감정과 맥락으로 보완함으로써 궁극적인 가치를 만듭니다.
셋째, 성공은 성과와 만족이 함께 따라올 때 완성됩니다. IT 자동화율 40%, 상담사 효율 85%라는 수치는 인상적이지만, 고객과 직원 모두의 긍정적인 반응이 뒤따르지 않았다면 실패할 수도 있었습니다.
마지막으로, AI는 일관된 개발 환경과 보안 설계 없이는 효과를 발휘하기 어렵습니다. 산업 규제와 데이터 민감도가 높은 조직일수록 프레임워크와 보안 체계를 정교하게 구성해야 합니다. Amex는 이 점을 철저히 설계했습니다.
AI는 더 이상 미래가 아니다
Amex는 더 이상 “우리는 AI를 검토 중입니다”라는 표현을 쓰지 않습니다. 여행, IT, 개발 등 모든 부서가 AI 활용을 일상 업무로 받아들이고 있습니다. 그 중심에 있는 것은 사람을 대체하는 기계가 아니라, 사람과 협력하며 함께 일하는 ‘AI 파트너’입니다.
2025년은 AI가 실험이 아니라 경쟁력을 좌우하는 기준이 되는 해입니다. 여러분의 조직은 어디까지 와 계신가요?
아직도 ‘답답한 챗봇’을 개선하지 못하셨나요? 혹은 고객 상담에서 여전히 사람 한 명의 경험과 직감에만 의존하고 계시진 않나요?
Amex처럼 변화하고 싶다면, 지금이 출발점입니다. 작게 시작하되, 효과를 명확히 측정할 수 있는 사례부터 도입해 보시길 권해드립니다. 그것이 바로 AI를 통해 미래의 경쟁력을 확보하는 첫걸음입니다.
함께 읽으면 좋은 글:
