AI 에이전트 도입이라고 하면 대개 ‘얼마나 더 자율적으로 맡길까’를 떠올립니다. 그런데 모건스탠리(Morgan Stanley)는 정반대로 갔습니다. 은행에서 정확도가 가장 중요하고 마감이 빡빡한 손익(P&L) 대사(reconciliation) 업무에 에이전트를 넣으면서, 자율성을 ‘높인’ 게 아니라 ‘낮췄’습니다. 사람을 루프 안에 단단히 남기고, 그 사람의 결정을 매일 반복 가능한 규칙으로 바꿔 나갔죠. 결과는 이 업무를 절반으로 줄인 것이었습니다.
가장 위험한 업무에 AI 에이전트를 넣은 이유
매 거래일 모건스탠리의 트레이딩 데스크는 현금 주식(cash equities)이나 채권 투자 같은 거래를 처리합니다. 하루가 끝나면 컨트롤러(controller)들은 재무·리스크·운영·거래 체결(Finance, Risk, Operations, Trade Capture) 시스템에 걸친 손익을 맞춰야 합니다. 수십만 개의 속성이 서로 어긋나기 일쑤인데, 이 불일치 하나하나를 ‘브레이크(break)’라고 부릅니다. 컨트롤러는 브레이크마다 원인을 조사하고, 조정 여부를 판단하고, 데스크로 숫자가 넘어가기 전에 승인해야 합니다. 그것도 매일 아침이라는 마감에 쫓기면서요.
이 일은 최대 6시간까지 걸렸습니다. 지금은 내부 에이전트 시스템 FIXR가 2~3시간에 끝냅니다. 이 작업을 하는 컨트롤러 약 100명을 합치면 주당 약 1,500시간이 절약됩니다. 토드 존슨(Todd Johnson) 모건스탠리 매니징 디렉터는 한 행사에서 이 시스템을 이렇게 표현했습니다. “코파일럿이라기보다 동료(co-worker)에 훨씬 가깝다.”
‘덜 자율적으로’ 만든다는 역발상: 에이전트 자율성을 낮추다
밤사이 손익 계산이 끝나면 FIXR는 자동으로 브레이크를 분석하고, 학습된 규칙에 따라 해결안을 제안합니다. 이 안에서는 여러 에이전트가 역할을 나눠 맡습니다.
- 과거 지침을 해석해 해결안을 만드는 에이전트
- 컨트롤러의 행동에서 배우고 그들이 적용하는 규칙을 문서화하는 에이전트
- 반복되는 패턴을 지속 가능한 자동 로직으로 변환하는 에이전트
이 설계에서 모델의 판단에 기대는 부분은 의도적으로 줄였습니다. 존슨은 “아주 정해지고 반복 가능하게 만들 수 있다면, 그게 토큰 소비 면에서 더 싸고 통제 면에서 더 반복 가능하다. 그리고 그런 흐름이 필요 없는 일만 LLM에 맡긴다”고 설명했습니다. 특정 브레이크 유형에 대한 컨트롤러 피드백이 쌓이면, 모건스탠리는 그 패턴을 모델에 맡겨 두는 대신 고정 규칙으로 바꿉니다. 토큰 비용을 통제한다는 관점은 운영팀이 비용 폭탄 없이 SIEM을 고르는 법과도 통합니다.
사람을 루프에서 빼지 않는다: 휴먼인더루프와 책임
결정적으로, 사람은 루프를 떠나지 않고 그 안에 완전히 머뭅니다. 모든 권고를 검토하고, 승인하거나 바로잡은 뒤, 그 결정을 다시 시스템에 먹여 다음 실행을 개선합니다. 에이전트는 매일 컨트롤러에게서 무엇을 맞고 틀렸는지 배우고, 반복하면서 그 지식을 코드로 굳힙니다. 존슨의 말이 이 방식을 잘 요약합니다. “자동화를 시작하더라도 인간 책임(human accountability)이라는 요소는 그대로 보존한다. 시간이 지나면 점점 더 많은 항목이 해결되는 걸 보게 될 것이다.”
그는 자율성에는 상당한 신뢰가 필요하다고 강조했습니다. 모두가 에이전트의 모든 행동을 일일이 확인한다면 효율은 나오지 않습니다. 동시에 처음부터 모든 걸 맡길 수도 없습니다. “컨트롤러의 머릿속에 있는 그 모든 지식을 첫날에 에이전트로 옮기기는 어렵다는 걸 우리는 인정했다”는 것이죠. 이런 접근은 AI 자동화를 명분으로 한 감원 논의와도 결이 다릅니다. 사람을 빼는 게 아니라, 사람의 판단을 자산으로 남기는 쪽이니까요.
프로세스 먼저, 그다음 에이전트
존슨의 팀은 AI를 붙이기 전에 프로세스부터 세우는 걸 중요하게 봤습니다. ‘아주 철저한’ 프로세스 인텔리전스 진단으로 워크플로를 지도처럼 그려, 자동화가 가장 유리한 지점을 찾았습니다. 답이 에이전트인지, 전통적 자동화인지, 아니면 비효율적인 단계를 단순히 재설계하는 것인지를 먼저 가른 것이죠. 존슨은 “에이전트를 문제에 더하기 전에 그걸 먼저 고칠 수 있다면, 우리는 정말로 기회를 바꿔 놓는 것”이라고 말했습니다.
손익 승인 절차는 자동화하기 좋은 수작업으로 가득했고, 에이전트가 이 시간 소모적인 일을 넘겨받으면서 컨트롤러는 ‘더 가치 있는 분석’과 ‘더 깊은 리스크 검토’로 옮겨갑니다. 확장성도 시간 절감만큼 중요했습니다. 이 팀이 하필 손익 대사를 고른 이유는, 아메리카·유럽·아시아에 걸쳐 수백 명의 컨트롤러가 같은 일을 하고 있었기 때문입니다. 하나의 사례로 시작해 증명하고 확장하며, 조직 전반으로 굴려 나갈 때 진짜 전환이 일어난다는 구상입니다.
에이전트는 코드인가 디지털 직원인가: AI 거버넌스의 질문
에이전트 시대의 출발점에서 흥미로운, 어쩌면 근본적인 질문이 하나 떠오릅니다. 에이전트는 코드일까, 디지털 직원일까? 존슨은 “아마 둘 다 조금씩”이라며, 그래서 거버넌스와 감독에 미묘한 균형이 필요하다고 봅니다. 기술팀은 방화벽이나 암호화 같은 보호 장치를 여전히 책임져야 합니다. 여기에 ‘성과(performance) 요소’라는 새로운 역학이 더해집니다. 에이전트를 쓰는 사람이 그 결과에 책임을 집니다. 선임 컨트롤러가 후배의 도움을 받는다고 해서 책임을 놓지 않는 것과 같습니다.
“우리 AI 거버넌스의 강한 원칙 하나는, 자동화가 있더라도 언제나 인간 책임이 있어야 한다는 것”이라고 존슨은 말합니다. 다만 책임자가 ‘단 한 사람’인 경우는 드물고, 과정은 계속됩니다. 그는 에이전트 AI의 ‘우울한’ 점 하나로 끊임없는 재훈련을 꼽았습니다. 모델이 계속 바뀌기 때문입니다. “‘평가와 테스트를 다 끝냈으니 그냥 두자’고 말할 수 있는 날은 결코 오지 않는다. 진화하는 내내 계속 지켜봐야 한다.”
이런 어려움은 모건스탠리만의 일이 아닙니다. 최근 설문(응답 87명, 방향성 참고용)에서는 응답자의 약 4분의 3이 맞춤형 모델 파인튜닝에서 거의 또는 전혀 ROI를 보지 못했다고 답하며, 유지 비용이 너무 커 방치된 ‘AI 프로젝트 무덤(sandbox graveyard)’을 이야기했습니다. 거버넌스도 흔한 난관이었습니다. 38%가 ‘단일 책임자의 부재’를 프로덕션 AI의 가장 큰 장벽으로 꼽았고, 87곳 중 단 2곳만이 모델 실패를 감지할 능동적 모니터링·알림을 갖추고 있었습니다.
한국 기업의 ‘AI 에이전트 도입’, 무엇부터 점검할까
이 글은 글로벌 투자은행의 사례지만, 국내 기업에도 그대로 적용될 수 있습니다. 특히 내부통제와 전자금융감독규정처럼 규제가 촘촘한 금융·공공 영역이라면, 모건스탠리의 접근이 더 현실적입니다. 당장 점검할 만한 것을 추리면 이렇습니다.
- 프로세스부터 진단: 에이전트를 붙이기 전에 워크플로를 지도로 그려, 에이전트·전통 자동화·재설계 중 무엇이 맞는지 먼저 가립니다.
- 자율성은 낮게 시작: 결정론으로 처리 가능한 일은 규칙으로, 판단이 필요한 일만 모델에 맡겨 토큰 비용과 통제를 동시에 잡습니다.
- 휴먼인더루프 + 단일 책임자: 모든 권고에 사람의 검토·승인을 두고, ‘단일 책임자 부재’를 방치하지 않습니다.
- 반복 결정의 규칙화: 사람이 반복해서 내리는 판단을 고정 규칙으로 코드화해 조직 지식으로 남깁니다.
- 지속 모니터링: 모델은 계속 바뀌므로, 배포 후에도 실패를 감지할 모니터링과 재평가를 상시 운영합니다.
이 학습·거버넌스 루프를 조직 차원에서 설계하려면 조직의 AI 학습 격차를 좁히는 7단계 체크리스트가 좋은 출발점이 됩니다.
마무리: 덜 자율적인 게 더 빠른 길일 수 있다
모건스탠리의 사례의 설명은 분명합니다. 에이전트는 더 자율적일수록 좋다는 가정이죠. 정확도와 통제가 생명인 업무에서는, 자율성을 낮추고 사람의 판단을 매일 규칙으로 축적하는 쪽이 오히려 더 빠르고 안전한 길일 수 있습니다. 한 업무 당 6시간이 2~3시간으로 준 것도, 사람을 빼서가 아니라 사람을 루프 안에 단단히 남긴 덕분이었습니다. AI 에이전트 도입을 앞둔 조직이라면 ‘얼마나 맡길까’보다 ‘어디까지 규칙으로 굳히고 어디서 사람이 책임질까’를 먼저 물어야 합니다.
자주 묻는 질문
에이전트는 자율적일수록 좋은 것 아닌가요?
업무에 따라 다릅니다. 정확도와 통제가 중요한 일에서는 자율성을 낮추는 편이 더 낫습니다. 모건스탠리는 결정론으로 처리 가능한 일을 규칙으로 굳히고, 판단이 필요한 일만 모델에 맡겨 손익 대사를 절반으로 줄였습니다.
FIXR는 사람을 대체했나요?
아닙니다. 컨트롤러는 루프에 그대로 남아 모든 권고를 검토하고 승인하거나 수정합니다. 절감된 시간은 감원이 아니라 더 가치 있는 분석과 깊은 리스크 검토로 재배치됩니다. 인간 책임은 자동화 후에도 유지됩니다.
AI 에이전트 도입은 어디서부터 시작해야 하나요?
프로세스 진단이 먼저입니다. 워크플로를 지도로 그려 에이전트가 정말 필요한 지점을 찾고, 하나의 사례로 증명한 뒤 확장하세요. 처음부터 자율성을 높이기보다, 반복 결정을 규칙화하며 사람이 책임지는 구조로 시작하는 편이 안전합니다.
참고 글: Morgan Stanley cut its riskiest reconciliation job in half — by making its agents less autonomous (VentureBeat, 2026-06-30)
 | AX 100배의 법칙 – 나와 조직의 능력을 100배 높이는 AI 경영의 실제 도서 구매 |
함께 읽으면 좋은 글:
디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매
