2024년 AI의 주요 발전과 2025년 AI 시장 예측

2025년 새해가 밝았습니다. 오늘은 2024년 동안 인공지능 분야에서 가장 주목받은 이야기들과, 2025년 AI 시장에 우리가 기대할 수 있는 사항들에 대해 이야기하고자 합니다. 인공지능이 우리의 일상과 비즈니스를 어떻게 바꾸어 놓을지 기대가 되는데요, 어떤 이야기들이 있을지 살펴보겠습니다.

2024년 AI의 해: 주요 발전 사항

1. 오픈AI의 대확장

2024년은 오픈AI에게 있어 중요한 해였으며, 새로운 모델들과 기능들이 출시되면서 인공지능 시장에 큰 영향을 미쳤습니다.

  • o1 모델: 과학, 코딩, 논리 작업에서 우수한 정확성을 자랑하며, 복잡한 프롬프트 처리에서 더욱 향상된 성능을 보여줍니다.

  • o3 모델: 해가 바뀌면서 더욱 진보된 o3 모델이 발표되었으며, 2025년 초에 정식으로 공개될 예정입니다.

  • ChatGPT 검색 기능: 구글에 대응하기 위해 개발된 SearchGPT는 실시간 웹 정보 검색을 가능하게 하여 사용자가 최신 정보를 보다 효율적으로 찾도록 돕습니다.

  • 캔버스 기능: 사용자 요청에 따라 동적 콘텐츠 갱신을 지원하는 워크스테이션 형태로 ChatGPT의 인터페이스를 확장한 기능입니다.

  • 소라: AI 비디오 생성 모델 소라가 공개되어, 독창적인 인터페이스와 스토리보딩 기능으로 AI 비디오 시장에서 두각을 나타내고 있습니다.

2024년 AI

2. 오픈 소스 AI의 부상

오픈 소스 AI는 2024년에 큰 발전을 이루어냈습니다. 메타의 라마 모델 시리즈와 중국의 리더 기업들이 다양한 모델을 통해 새로운 기준을 확립하였습니다.

  • 라마 3 및 3.1: 메타는 뛰어난 성능을 자랑하는 라마 3 모델을 발표했고, 3.1로 더욱 크고 복잡한 작업을 가능하게 했습니다.

  • 중국 AI 모델: 알리바바와 딥시크 (DeepSeek) 등 중국 기업들도 고성능 개방형 AI 모델을 선보이며 주목받았습니다.

  • NVIDIA의 Nemotron-70B: NVIDIA는 강력한 오픈 소스 AI 모델을 출시하며 AI 분야에서의 입지를 확고히 했습니다.

3. 구글의 제미니 시리즈

구글의 제미니 AI 모델은 초기 비판을 극복하고 성능을 크게 개선하여 2024년 AI 시장에서 자신만의 위치를 구축했습니다.

  • 제미니 2.0 플래시: 실시간 스트리밍 비디오 분석을 지원하는 멀티모달 AI 모델로, 사용자 화면에서 수행 중인 작업을 감지하고 조언을 제공합니다.

4. 에이전트 기반 AI의 부상

2024년에는 기업들이 에이전트 기반 AI를 도입하면서, AI가 단순한 도구를 넘어 비즈니스 효율성과 혁신을 극대화하는 중요한 요소로 자리 잡았습니다. 마이크로소프트, 끌로드와 같은 곳에서 AI 에이전트를 적극적으로 밀고 있으며, 미국 중심의 빅테크들은 AI 에이전트를 2025년의 핵심으로 삼기 위한 여러 움직임을 보이고 있습니다. 이런 AI 중심의 기업들 이외에도 자신들의 제품에 적용하는 사례들도 나오고 있는데, 다음의 두 곳이 대표적입니다.

  • Salesforce의 Agentforce 2.0: 향상된 추론과 통합 기능을 제공하여 CRM 및 판매 도구를 크게 개선하고자 시도하고 있답니다.

  • SAP의 Joule: 오픈 소스 대형 언어 모델(LLM)을 이용해 협업형 AI 에이전트를 도입하여 기업 내 혁신과 효율성을 강화했습니다.

2025년 AI의 주요 예측: AI 생성 콘텐츠의 확대

2025년은 AI 생성 콘텐츠가 비즈니스와 소비자 분야에서 대세를 이룰 것으로 전망됩니다. 이는 콘텐츠 창작의 효율성을 높이고, 개인화된 서비스를 제공하는 데 크게 기여할 것입니다. 또한, 상업 및 소비자 환경에서 LLM과 생성형 AI 로봇의 대규모 도입이 예상되며, 자동화와 인간-로봇 상호작용을 혁신적으로 변화시킬 것입니다. 더불어 AI 에이전트의 복격적 개화기를 맞이할 것입니다. 시장이 원하든 원하지 않던 글로벌 빅테크들은 앞다투어 이런 기술을 소개할 것이고, 기업 입장에서는 AI 에이전트 활용의 의미 있는 유스 케이스가 소개되면서 도입이 본격화될 것으로 예상합니다. 이러한 변화를 선제적으로 대비해, 2025년 AI가 제공하는 기회를 최대한 활용할 수 있기를 기원합니다.

2025년 AI

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .

AI 에이전트 안전하게 개발하기 : 자율성과 안전장치, 그리고 함정들

이번 포스팅에서는 지난 번에 이어 AI 에이전트 개발에 대해 다른 관점을 살펴보겠습니다. 이미 AI의 다양한 응용이 우리 삶에 스며들고 있지만, 여러 가지 주의해야 할 점들이 있습니다. 특히, AI 에이전트가 자율적으로 작동할 때의 안전장치와 그와 관련된 숨은 함정들도 고려해야 하는데요, AI 에이전트 안전하게 개발히기 위해 기업과 개인들이 참고할 사항을 살펴보려합니다.

AI 에이전트의 자율성과 그 중요성

AI 에이전트란 인간의 개입 없이 스스로 학습하고 결정을 내리는 시스템을 의미합니다. 이러한 에이전트는 특히 대규모의 복잡한 데이터 처리와 의사결정에 유용하게 사용됩니다. 예를 들어, 엔터프라이즈 환경에서는 여러 부서 간의 의사소통을 원활히 하면서 생산성과 대응성을 높일 수 있습니다.

그러나 이러한 자율성은 때로는 약점으로 작용할 수 있습니다. 따라서, AI 에이전트 안전한 설계를 위해서는 반드시 적절한 방어 메커니즘을 고려해야 합니다.

AI 에이전트 안전

AI 에이전트 안전장치

명확한 인간 개입 조건 설정

AI 에이전트가 인간의 확인이 필요한 행동을 수행할 때는, 사전에 정의된 규칙에 따라 행동해야 합니다. 예를 들어, 구매와 관련된 에이전트라면, 모든 구매는 반드시 인간에 의해 확인되고 승인되어야 합니다. 이러한 규칙은 시스템 내에서 명확하게 설정되어야 하며, 필요한 경우 외부 코드로 강제될 수도 있습니다.

AI 에이전트 안전장치와의 통합

AI 에이전트 안전장치는 위험하거나 비윤리적이며 규정을 준수하지 않는 행동을 확인하는 역할을 합니다. 이 에이전트는 모든 행동이나 특정 행동 요소가 안전한지 확인하고, 승인된 경우에만 진행을 허용하는 등의 역할을 합니다.

불확실성 측정

에이전트가 신뢰할 수 있는 출력을 선호하도록 함으로써, 시스템의 안정성을 높일 수 있습니다. 그러나 이러한 불확실성 측정은 시스템의 처리 속도를 느리게 하고 비용을 증가시킬 수 있는 점을 고려해야 합니다.

중지 버튼 제공

때로는 모든 자율 에이전트 기반 프로세스를 중지해야 할 필요가 있습니다. 이는 시스템 내에서 잘못된 행동을 감지했거나 고정할 필요가 있을 때 사용됩니다. 중요한 워크플로우와 프로세스에서는 이 중지가 전체 프로세스를 멈추거나 완전히 수동으로 전환되지 않도록 하는 결정적인 백업 작동 모드를 제공해야 합니다.

에이전트-기반 작업 명령 생성

모든 에이전트를 앱 및 API에 완전히 통합할 필요는 없습니다. 기본적으로 에이전트 네트워크의 일부 에이전트는 수동으로 조치를 위임하는 보고서나 작업 명령을 발행할 수 있습니다. 이는 에이전트 네트워크를 기민하게 운영하는 좋은 방법입니다.

테스트

AI기반의 시스템을 테스트할 때, 전통적인 소프트웨어와는 다른 방식의 테스트가 필요합니다. 각 에이전트가 입력의 중심 역할을 할 수 있기 때문에, 시스템의 일부분부터 테스트를 시작하여 전체 시스템의 신뢰성을 점검해야 합니다. 시스템의 작동과 약점을 드러내기 위해 생성적 AI를 활용해 테스트 케이스를 설정할 수도 있습니다.

세밀한 튜닝의 중요성

많은 사람들은 AI를 많이 사용할수록 더 좋아진다고 오해하지만, AI는 사전 트레이닝된 모델입니다. 하지만 세밀한 튜닝을 통해 특정한 작동 방식을 조정할 수 있습니다. 각 에이전트의 로그를 분석하고, 개선을 위한 선호 사항을 레이블링하여 튜닝 목적으로 사용합니다.

자주 발생하는 함정

무한루프 문제

AI 에이전트 시스템은 간혹 무한히 서로 대화하는 상황에 빠질 수 있습니다. 이를 방지하기 위해 일정 시간 내에 작업이 완료되지 않으면 종료하는 타임아웃 메커니즘을 도입해야 합니다.

에이전트 과부하

하나의 에이전트에 과도한 작업을 기대하는 것은 현재의 LLM 기술로는 한계가 있습니다. 이를 해결하기 위해 에이전트를 여러 개로 쪼개어 역할을 분배하는 ‘세분화’ 전략을 사용하는 것이 좋습니다.

단일 실패 지점

단일 에이전트가 타 에이전트들을 호출하여 작업을 완료하는 시스템은 복잡성을 초래할 수 있습니다. 대신, 파이프라인 형태로 각 에이전트가 할당된 작업을 수행한 후 다음으로 넘기는 것을 고려해야 합니다.

문맥 오버로드

각 에이전트가 자체 문맥을 유지하고, 새로운 요청 발생 시 문맥을 재설정하는 것이 중요합니다. 이는 에이전트의 혼란을 줄이고 효율성을 높이는 방법입니다.

결론적으로, AI 에이전트는 잘 설계되고 적절한 AI 에이전트 안전장치를 갖추었을 때 매우 효과적으로 작동할 수 있습니다. 이를 통해 기업의 프로세스를 자동화하고 개선하는 데 큰 기여를 할 수 있을 것입니다.

참고

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .

AI 에이전트 사례, 5가지 활용 분야

인공지능(AI)은 다양한 산업에 걸쳐 변화를 일으키고 있으며, 특히 AI 에이전트의 발전은 이러한 변화를 가속화하고 있습니다. 에이전틱 AI는 단순한 자동화를 넘어 복잡한 의사 결정을 내리는 능력을 갖춘 차세대 AI 기술을 의미합니다. AI 에이전트 사례를 통해 이 기술이 어떤 방식으로 우리의 일상을 변화시킬지 알아보겠습니다.

양날의 검과도 같은 소프트웨어 개발 분야

AI 기술은 소프트웨어 개발의 패러다임을 변화시키고 있습니다. AI 에이전트는 코딩 어시스턴트 또는 코파일럿으로서 대량의 코드 작성과 오류 검토를 지원하여 소프트웨어 개발 프로세스를 혁신할 것입니다. 예를 들어, 많은 소프트웨어 개발 회사들이 에이전틱 AI를 통해 코드를 자동으로 작성하고 검토하는 도구로 소개하고 있습니다. 이는 개발자의 부담을 줄이고, 더 복잡한 프로젝트에 집중할 수 있도록 돕습니다.

AI 에이전트 사례

가트너의 보고서에 따르면, 3년 이내에 지금보다 더 똑똑한 AI 에이전트가 대부분의 코드를 작성하게 될 것으로 예상되며, 이는 현재의 소프트웨어 엔지니어에게 있어 재교육의 필요성을 시사합니다. 더불어 시니어 개발자들은 크게 영향을 받지 않지만 주니어 개발자들에게는 어떤 상황이 연출될지 아직까지 가늠하기는 어려운 것 같습니다. 이처럼 이러한 변화는 초기에 혼란을 유발할 수도 있고, 기존의 코딩 관행을 바꾸기 위한 저항도 있을 수 있습니다. 그러나 개발 영역이 가장 빠르게 AI 에이전트와 변화할 것이라는 점은 분명해 보입니다.

RPA의 진화: 단순한 자동화를 넘어

현재 많은 기업들은 로봇 프로세스 자동화(RPA)를 사용하여 여러 영역에서 단순하고 반복적인 작업을 자동화하고 있습니다. 그러나 AI 에이전트는 RPA와 결합하여 복잡한 문제를 처리할 수 있는 능력을 가지고 있습니다. 이는 비즈니스 전반의 운영 효율성을 크게 향상시킬 수 있습니다.

예를 들어, 보험사의 경우 복잡한 클레임 프로세스를 처리하기 위해 AI 에이전트를 도입함으로써 더 빠르고 정확하게 고객의 요구를 충족할 수 있습니다. 기존 RPA와는 달리 AI가 고객 클레임에 대한 맥락을 정확하게 이해할 수 있기 때문에 RPA로 구현하기 힘들었던 예외 로직을 이해하고 처리할 수 있기 때문에 더 많은 상황에서 자동화가 가능합니다.

엔터프라이즈 워크플로우의 혁신

세일즈포스, 서비스나우 등 많은 기업들이 엔터프라이즈 워크플로우에 AI 에이전트 도입을 예고하고 있습니다. 이를 통해 기업은 일상적인 작업을 자동화하고 프로세스를 간소화할 수 있습니다. 예를 들어, 회의 노트를 프로젝트 계획으로 자동 변환시키거나, 실시간 수요 공급 예측에 기반한 공급망 최적화에 바로 활용할 수 있습니다.

앞으로 기업의 CIO들은 기업 운영 방식에 대한 심층적인 지식을 AI에게 맡기는 방향을 고려해야 합니다. AI가 기업의 모든 운영 방식을 알고 있다면, 더 나은 경영 의사결정을 내리는데 적극적으로 관여가 가능하기 때문입니다.

비즈니스 인텔리전스의 새로운 시대

마지막으로, AI 에이전트는 비즈니스 인텔리전스(BI) 분야에서도 커다란 변화를 일으킬 것입니다. AI 기반 BI 솔루션은 직관적인 데이터 분석을 통해 더 많은 사용자, 특히 비전문가들이 데이터에서 통찰력을 얻을 수 있도록 도와줍니다.

AI 에이전트가 태블로, 파워BI와 같은 비즈니스 인텔리전스 도구와 결합하면 더 깊이 있는 인사이트를 더 빨리 얻을 수 있게 되는 것입니다. 예를 들어, 챗봇이나 음성으로 “우리 회사의 마장 매출이 많이 나오는 마케팅 채널 3개는 무엇인가?”라는 질문에 적절한 데이터, 차트와 함께 답변을 제공할 수 있습니다.

더욱 강력한 고객 지원 자동화

AI는 이미 고객 지원 분야에서 활발히 활용되고 있지만, AI 에이전트는 고객 서비스의 새로운 장을 열고 있습니다. 예를 들어, 은행의 고객 지원에서 “내 계좌 중 잔고가 가장 많은 계좌에서 돈을 인출하여 당좌 예금 계좌로 옮겨줘”라는 질문에 대해 기존의 챗봇은 이해하기 어렵지만, AI 에이전트는 이러한 복잡한 요청을 처리할 수 있습니다.

AI 에이전트 사례로 본 향후 전망

AI 에이전트의 이러한 활용 사례들은 기술이 단순한 작업을 넘어 복잡한 비즈니스 문제 해결에 어떻게 기여할 수 있는지를 보여줍니다. 앞으로 더 많은 기업들이 에이전틱 AI를 도입하여 경쟁력을 강화할 것입니다.

에이전틱 AI는 특히 기업환경에서 엄청난 변화를 불러 일으 킬 가능성을 가지고 있습니다. 그러나 이러한 새로운 기술을 성공적으로 적용하기 위해서는 기술적인 이해, 전략적 방향 설정 및 관리 역량이 필요합니다. 각 산업의 특성에 맞게 에이전틱 AI를 적절히 활용한다면, 이는 기업의 혁신을 가속화하고 새로운 가치를 창출하는 강력한 도구가 될 것입니다.

에이전틱 AI에 대해 계속 고민하고, 연구하고 있습니다. 실제 개발하여 적용하기도 하고 있고요. 앞으로 더욱더 다양한 생각들을 정리해 보겠습니다.

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .