AX 100배의 법칙 - 102 / 76 페이지 - AX(AI Transformation), Digital Transformation

AI 에이전트의 진화: 현대 비즈니스 환경을 혁신하다

오늘날의 비즈니스 환경은 급변하고 있으며, 인공지능(AI)의 도입은 그 중심에 서 있습니다. 세계 기술의 선두주자인 마이크로소프트는 최근 AI 에이전트를 개발하여 비즈니스의 기존 틀을 다시 쓰고 있습니다. 이번 글에서는 AI 에이전트가 어떻게 현대 비즈니스에 통합되고 있는지, 그리고 그것이 미치는 영향에 대해 깊이 있게 알아보겠습니다.

마이크로소프트의 AI 에이전트 출현

마이크로소프트는 최근 ‘가상 직원’이라 불리는 자율형 AI 에이전트를 소개하며 기술 분야의 주목을 받았습니다. 이들 에이전트는 고객 문의를 처리하고 영업 기회를 식별하는 등의 다양한 업무를 수행할 수 있습니다. 이는 AI 붐이 가져올 실질적인 가치를 투자자에게 보여주기 위한 노력으로 해석됩니다.

마이크로소프트의 ‘Copilot Studio’ 제품 주요 고객에는 맥킨지와 같은 일류 컨설팅 회사가 포함되어 있습니다. 맥킨지는 새로운 고객 문의를 처리하고 후속 미팅을 일정에 맞추는 에이전트를 구축하고 있습니다.

생산성의 향상

마이크로소프트의 CEO, 사티아 나델라는 AI 에이전트가 일상적인 업무의 ‘고단함’을 줄이고, 더 가치 있는 작업에 집중할 수 있는 시간을 제공함으로써 생산성을 높일 것이라고 전했습니다. 그는 이러한 도구들이 아웃소싱을 근본적으로 변화시키고 가치 증가와 낭비 감소에 기여한다고 강조했습니다.

AI 에이전트의 기능 및 사용 가능성

마이크로소프트는 고객이 자신만의 AI 에이전트를 구축할 수 있도록 하는 기능을 제공하고 있으며, 이와 함께 공급망 관리 및 고객 서비스 등 다양한 역할을 수행할 수 있는 10개의 제품화된 봇을 출시하고 있습니다.

Copilot Studio는 사용자들이 코딩 기술 없이도 에이전트를 구축할 수 있도록 하는 ‘노코드’ 솔루션으로 소개되었습니다. 이것은 마이크로소프트와 OpenAI가 개발한 AI 모델들을 활용하여 에이전트를 구동합니다.

거래를 위한 AI 개발

마이크로소프트는 또한 사용자 대신 거래를 수행할 수 있는 AI 에이전트를 개발하고 있습니다. 이 장치를 통해 사용자가 독립적으로 구매를 진행할 수 있으며, 이는 사용자의 업무 부담을 상당히 줄여줄 수 있습니다.

AI와 고용의 관계

AI 기술의 발전이 고용에 미칠 잠재적인 영향에 대한 우려가 적지 않습니다. 이에 대해 마이크로소프트의 부사장이며, 기술진을 이끄는 찰스 라망나는 AI 도구들이 일의 단조롭고 반복적인 측면을 제거하여 근로자들에게 더 많은 권한을 부여하는 도구라고 설명했습니다.

AI 기술의 진화

마이크로소프트의 AI 에이전트 출시는 비즈니스 환경에서 AI 도입의 중요한 전환점으로 평가받고 있습니다. 이는 개인용 컴퓨터가 처음 도입되었을 때와 비교되기도 하며, 향후 모든 조직의 다양한 부서와 프로세스에 AI가 다양하게 통합될 것으로 기대되고 있습니다.

AI 교수인 앤드류 로고이스키는 이런 에이전트들이 기술에 대한 강력한 투자에 대해 투자자들에게 수익을 나타내는 방법 중 하나가 될 것이라고 주장했습니다. AI 회사들이 막대한 투자 자금을 소모하고 있으며, 그에 대한 수익을 창출해야 하는 과제에 직면하고 있습니다.

에이전트는 오래전부터 논의되어 왔으나, 아직 인간 근로자만큼 능숙한 에이전트를 개발하는 데는 미치지 못했습니다. 이는 향후 다양한 가능성과 도전에 직면하게 될 AI 기술의 발전을 더욱 기대하게 만듭니다.

이 블로그 글이 에이전트의 현황과 가능성에 대해 이해하는 데 도움이 되었기를 바랍니다. AI가 가져올 비즈니스의 혁신을 기대하며, 관련된 추가 정보나 궁금한 점이 있다면 언제든지 문의해 주세요.

참고: Microsoft introduces ‘AI employees’ that can handle client queries

AI 툴 오픈AI Whisper가 의료 현장에서 사용되면서 나타난 문제들

의료 현장은 첨단 기술의 발달로 점점 더 많은 AI 시스템들을 도입하고 있습니다. 특히, 음성을 텍스트로 변환하는 기능을 가진 AI 툴은 의사들이 환자 정보를 좀 더 효율적으로 기록하는 데 중요한 역할을 합니다. 하지만 오픈AI Whisper 툴이 이런 장점 때문에 의료 현장에서 사용되면서 다양한 문제점들이 불거지고 있습니다. 이번 글에서는 Whisper 툴이 의료 및 기타 분야에서 발생시키고 있는 주요 문제점들을 다루어 보겠습니다.

오픈AI Whisper, 치명적인 오류의 시작

Whisper는 OpenAI의 트랜스크립션 도구로, 음성을 텍스트로 변환하는 데 사용됩니다. 그러나 최근 여러 대학과 연구소의 보고에 따르면 오픈AI Whisper의 트랜스크립션에는 ‘환각’으로 불리는 오류가 잦다고 합니다. 이러한 ‘환각’은 실제로 없던 발언이나 내용을 트랜스크립션에 추가하는 현상으로, 특히 의료 분야에서 큰 문제가 될 수 있습니다.

주요 발견 사례

여러 연구진과 개발자들이 오픈AI Whisper의 문제점을 이미 발견해 냈습니다. 예를 들어, University of Michigan의 연구진은 공청회 음성 10건 중 8건에서 잘못된 텍스트가 생성되었음을 보고했습니다. 또 다른 연구에서는 130,000개 이상의 오디오 녹음 분석 중 187개의 심각한 환각 오류가 확인되었습니다. 이러한 오류들은 의료진이 환자를 잘못 진단하거나, 불필요한 의료 조치를 취하게 만드는 치명적인 결과를 가져올 수 있습니다.

오픈AI Whisper의 의료 적용과 위험성

Whisper는 특히 의료 분야에서 주목받고 있는데, 이는 Nabla와 같은 회사가 수천 명의 의료 전문가와 의료 시스템에서 이 툴을 사용하기 때문입니다. Nabla는 오픈AI Whisper를 통해 의료 방문 횟수당 약 700만 건의 트랜스크립션을 처리했으며, 이 과정에서 ‘환각’ 문제가 계속 발생하고 있습니다.

Nabla의 문제 해결 노력

Nabla의 CTO에 따르면, Whisper의 ‘환각’ 오류를 해결하기 위해 치열하게 노력 중이라고 밝혔습니다. 그러나 현재로서는 트랜스크립션의 정확성을 검증할 방법이 없는 상태입니다. 문제는 이러한 트랜스크립션이 의료 습득 문서로 사용된다는 점에서 더욱 심각합니다. 개인정보 보호법 때문에 외부에서 이 트랜스크립션을 검수하기 어렵기 때문에, 더욱 큰 문제가 되고 있습니다.

Whisper 트랜스크립션의 사례들

Cornell University의 Allison Koenecke 교수와 University of Virginia의 Mona Sloane 교수가 연구한 바에 따르면, TalkBank라는 연구 저장소에서 Whisper의 트랜스크립션을 살펴본 결과 40% 가까운 오류가 발견되었습니다. 예를 들어, Whisper는 세 명의 사람을 검토하는 과정에서 잘못된 인종 정보를 생성하거나 폭력적인 내용을 추가하는 경우도 있었습니다.

이러한 환각 오류들은 단순한 실수로 치부될 수 없는 이유는, 의료 혹은 사회적 맥락에서 너무나도 중요한 정보를 잘못 혹은 과장해 전달할 위험이 있다는 점입니다. 기술이 삶을 더 편리하게 만드는 도구가 될 수 있는 만큼, 그 책임 역시 무거워지고 있는 셈입니다.

Whisper의 문제 해결 방안

Whisper의 문제는 기술 개발 과정에서 발생하는 피할 수 없는 부주의라는 점도 있습니다. 하지만 이러한 문제를 방지하기 위해서 기술 개발자와 기업들이 취할 수 있는 몇 가지 조치가 있습니다.

엄격한 테스트 및 검증: 기술을 배포하기 전에 다양한 환경에서의 테스트와 검증 과정이 필수적입니다.
피드백 시스템 구축: 사용자 피드백을 수집하여 지속적으로 업데이트할 수 있는 시스템을 구축해야 합니다.
투명성 강화: AI가 생성한 결과물에 대한 출처 및 데이터를 투명하게 공개하는 것이 중요합니다.
책임 있는 AI 개발: 윤리적 AI 개발 방침을 철저히 따르는 것도 중요합니다.

결론

AI 기술의 발전은 인류의 삶을 개선하는 데 큰 기회를 제공합니다. 다만 그 과정에서 발생할 수 있는 오류와 문제를 간과해서는 안 됩니다. Whisper처럼 강력한 툴도 그에 상응하는 책임을 가져야 하며, 의료와 같은 민감한 분야에서는 특히 그러한 책임이 강조되어야 합니다.

AI의 유용성과 위험성에 대해 명확한 인식을 바탕으로, 각 분야에서 더 나은 AI 사용 환경을 만들어 나가야 합니다. 이는 사용자뿐 아니라 개발자, 기업 모두의 공동의 노력으로 이루어질 수 있는 목표입니다.

참고: OpenAI’s Whisper invents parts of transcriptions — a lot

메타 노트북 라마, 구글의 팟캐스트 생성기를 ‘오픈’ 버전으로 출시하다

최근 AI 기술은 우리의 일상에 깊숙이 스며들며 다양한 영역에서 혁신을 이루고 있습니다. 특히 팟캐스트 생성과 같은 분야에서 이러한 기술의 응용이 주목받고 있습니다. 오늘은 메타(Meta)가 구글의 노트북LM(NoteBookLM)의 팟캐스트 생성 기능을 ‘오픈’ 버전으로 구현한 프로젝트, 즉 노트북 라마(NotebookLlama)에 대해 자세히 알아보겠습니다.

노트북 라마란 무엇인가?

노트북 라마(NotebookLlama)는 메타가 자체 개발한 라마(Llama) 모델을 사용해 구글 노트북LM의 팟캐스트 생성 기능을 오픈 소스로 구현한 프로젝트입니다. 이 프로젝트의 핵심은 텍스트 파일을 업로드해 팟캐스트 스타일의 대화를 생성하는 기능인데요, 기본적으로 이는 텍스트 파일에서 스크립트를 생성하고, 이를 기반으로 대화형 팟캐스트를 만듭니다.

노트북 라마의 기능

스크립트 생성: 노트북 라마는 PDF와 같은 파일에서 텍스트를 가져와 이를 바탕으로 스크립트를 생성합니다. 이 과정에서 대화의 자연스러움을 위해 다양한 드라마틱한 요소와 인터럽트가 추가됩니다.
텍스트-음성 변환: 생성된 스크립트는 오픈 소스의 텍스트-음성 변환 모델을 통해 음성으로 변환됩니다. 이를 통해 실제 대화와 유사한 느낌을 줄 수 있습니다.

노트북 라마의 한계

노트북 라마의 샘플을 들어보면, 목소리가 다소 로봇 같고 특정 지점에서 서로 겹치는 대화가 발생하는 등의 제한이 존재합니다. 이는 바로 텍스트-음성 변환 모델의 한계 때문인데요, 메타 측에서는 이를 개선할 방법으로 더 강력한 모델을 사용하는 것을 고려하고 있다고 밝혔습니다.

하나의 모델만으로 팟캐스트 아웃라인을 작성하는 현재 방식 대신, 두 명의 에이전트가 주제를 두고 토론하는 형식을 통해 더 자연스럽고 흥미로운 대화를 생성할 수 있다는 아이디어도 제안했습니다.

AI 팟캐스트 생성의 과제: 환각 문제

AI 기술은 여전히 ‘환각’ 문제를 안고 있습니다. 이는 AI 모델이 가끔 현실과는 무관한, 즉 잘못된 정보를 생성하는 문제인데요, 이 때문에 AI 기반 팟캐스트는 때때로 근거 없는 정보가 포함될 수 있습니다. 이러한 문제를 해결하기 위한 시도가 계속되고 있지만, 아직 완벽한 해법은 나오지 않은 상태입니다.

노트북 라마의 가능성과 발전 방향

노트북 라마는 연구자들과 개발자들이 구글의 팟캐스트 생성 기능을 더욱 발전시키고 개선할 수 있는 출발점이 될 수 있습니다. 오픈 소스 프로젝트이기 때문에, 다양한 피드백과 참여가 이를 더욱 발전시킬 수 있을 것입니다. 특히, 텍스트-음성 변환의 품질을 높이고, 자연스러운 대화 형식의 팟캐스트를 만드는 것이 가까운 미래의 목표가 될 것입니다.

오픈 소스의 중요성

메타가 노트북 라마를 오픈 소스로 공개한 것은 기술 발전의 투명성과 협업을 촉진하기 위한 중요한 결정입니다. 오픈 소스 모델은 다양한 개발자가 참여하고 기여할 수 있어, 기술의 발전 속도를 빠르게 할 수 있는 장점이 있습니다. 더 많은 개발자와 연구자가 참여함으로써, 다양한 방면으로 기술이 발전될 가능성이 높아집니다.

결론

메타의 노트북 라마 프로젝트는 AI 기반 팟캐스트 생성 기술의 새 지평을 여는 중요한 시도로 볼 수 있습니다. 비록 초기 단계에서 몇 가지 한계가 있지만, 지속적인 개선과 발전을 통해 향후 더 나은 품질의 AI 팟캐스트를 기대할 수 있습니다. 이는 사용자들에게 보다 풍부하고 혁신적인 콘텐츠 경험을 제공할 기회가 될 것입니다.

기술의 발전은 단순히 한 기업의 노력만으로 이뤄지는 것이 아니라, 글로벌 커뮤니티의 협력이 뒷받침될 때 비로소 빛을 발하게 됩니다. 여러분이 이러한 오픈 소스 프로젝트에 관심을 가지고 참여하게 된다면, 더 나은 기술 생태계를 만들어가는 데 기여할 수 있을 것입니다.

참고: Meta Releases an Open Version of Google’s Podcast Generator