Top7 AI 벤더, 2025년 여러분의 선택은?

오늘은 2025년에 주목받는 AI 벤더들에 대해 알아보겠습니다. 이미 AI를 직접 활용하는 분들께서는 익히 알고 있는 글로벌 벤더들이지만 기업들이 AI를 도입할 때, 어느 벤더를 선택해야 할지를 참고해 보시면 좋을 것 같습니다.

AI 시장의 현황

AI 기술은 특히 생성 AI(Generative AI)와 대형 언어 모델(LLM)의 발전을 중심으로 빠르게 성장하고 있습니다. GAI Insights의 최근 보고서에 따르면, 많은 기업들이 AI의 잠재력을 인식하며 초기 실험 단계에서부터 본격적인 시스템 구축으로 나아가고 있다고 합니다.

AI

주요 AI 벤더 7선

25개 이상의 벤더를 분석한 GAI Insights는 AI 시장의 선두주자 7개사를 선정했습니다. 이 일곱 기업은 다양한 산업에 적용할 수 있는 AI 솔루션을 제공하며 시장을 선도하고 있습니다.

  1. OpenAI: OpenAI는 시장 점유율 65%로 선두에 있습니다. 광범위한 플랫폼과 콘텐츠 협력을 통해 AI 분야를 재정의하며, 특히 몰입형 콘텐츠와 칩 벤더와의 협력에서 두각을 나타내고 있습니다.

  2. 아마존(Titan, Bedrock): 아마존은 벤더 중립적인 접근 방식으로 AI 배포를 위한 원스톱 솔루션을 제공합니다. AI 인프라 지원을 위한 Trainium과 Inferentia 같은 특화된 AI 칩도 개발했습니다.

  3. Anthropic(Sonnet, Haiku, Opus): OpenAI의 강력한 경쟁자로, 긴 문맥 윈도우를 제공하는 AI 모델을 보유하고 있습니다. 코딩 작업에 강점을 보이며, AI의 안전성을 강조하고 있습니다.

  1. Cohere(Command R): 기업 중심 모델과 다국어 지원 능력을 갖춘 Cohere는 개인 클라우드 및 온프레미스 배포를 지원합니다. 검색 및 검색 보강 생성(RAG)을 통해 내부 데이터를 활용하려는 기업에 매력적입니다.

  2. CustomGPT: 노코드 솔루션을 제공하며 높은 정확성과 낮은 환각율을 자랑합니다. 직원 및 고객의 도구 사용에 대한 분석과 통찰을 제공합니다.

  3. Meta(Llama): Meta는 다양한 규모의 전문 모델과 최첨단 모델을 보유하고 있으며, 복잡한 작업에 뛰어난 성능을 발휘하는 Llama 3 시리즈가 두드러집니다.

  4. Microsoft(Azure, Phi-3): OpenAI의 도구를 활용하는 한편 자체 플랫폼을 개발하는 데 투자하고 있습니다. 독자적인 칩인 Maia 100과 Cobalt 100을 개발해 칩 의존도도 줄이고자 노력하고 있습니다.

2025년 AI 트렌드

GAI Insights는 2025년에는 AI를 활용하는 기업 비율이 5%에서 33%로 증가할 것으로 예측하고 있습니다. AI의 급격한 성장은 CIO와 CTO의 예산 우선순위에서도 알 수 있습니다. 대부분의 기업(90%)이 자체 LLM을 사용하고 있음을 보여주는 추세는 데이터 프라이버시와 제어, 규정 준수의 필요성 때문입니다.

AI는 데이터를 더 깊이 이해할 수 있는 능력을 제공하며, 스몰 모델의 등장과 성능 향상을 기대하게 합니다. 특히 Gemma, Phi-3, Llama 3.2 같은 소형 모델은 비용 효율성이 높고 안전한 선택으로 인식되고 있습니다.

AI 도입 시 고려할 점

AI 벤더 선택 시, 벤더 락인을 피하고 기업의 IT 스택 변화를 수용하는 것이 중요합니다. 초기에는 낮은 위험의 챗봇 파일럿을 통해 AI 경험을 쌓고, 현장 운영을 위한 온디바이스 AI 경험을 늘리는 것이 도움이 될 것입니다. AI 통합을 감독할 임원을 지정하고 프로젝트를 조정하는 것도 필수적입니다. 효과적으로 AI를 활용하려면 벤더 선택이 중요합니다.

참고

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .

소프트웨어 개발의 새로운 시대: 구글의 AI 코딩 어시스턴트 ‘Jules’

소프트웨어 개발 분야는 빠르게 변화하고 있으며, 그 변화를 이끄는 주역 중 하나가 인공지능(AI) 기술입니다. AI는 이제 단순한 보조 도구의 역할을 넘어 모든 개발 과정을 혁신적으로 바꾸고 있습니다. 이번에 이 분야에 구글이 출사표를 던졌는데요 구글의 AI 코딩 어시스턴트 ‘Jules’입니다. Jules는 소프트웨어 버그 수정부터 코드 변경 자동화까지 수많은 개발 작업을 간소화하며 개발자에게 혁신적인 솔루션을 제공합니다. 이번 글에서는 Google의 새로운 AI 코딩 어시스턴트 ‘Jules’에 대해 살펴보겠습니다.

AI 코딩 Jules란 무엇인가?

Jules는 구글이 최근 발표한 인공지능 코딩 어시스턴트로, GitHub의 워크플로 시스템과 통합되어 개발자가 잠자는 동안에도 자율적으로 소프트웨어 버그를 수정하고 코드 변경을 준비할 수 있습니다. 이는 구글이 AI를 활용하여 코어 프로그래밍 업무를 자동화하려는 중요한 진전이라 할 수 있습니다.

Jules의 등장은 매우 시의적절합니다. 소프트웨어 개발 산업은 지속적인 인재 부족과 기술 부채 증가로 어려움을 겪고 있습니다. 이런 상황에서 자동화된 코딩 어시스턴트는 점점 더 중요한 역할을 하게 될 것입니다. Gartner에 따르면 2028년까지 새로운 애플리케이션 개발의 75%에서 AI 보조 코딩이 사용될 것으로 예상됩니다.

AI 코딩 Jules의 작동 방식

Jules는 전통적 코딩 어시스턴트와 다르게, 단순히 수정 사항을 제안하는 것을 넘어 GitHub의 생태계 내에서 자율적인 에이전트 역할을 합니다. 코드베이스를 분석하고 포괄적인 수리 계획을 수립하며 다양한 파일에 대한 수정 작업을 동시에 진행합니다. 가장 중요한 점은 기존 개발자 워크플로와 원활하게 통합된다는 것입니다.

Google Lab의 제품 관리 이사인 Jaclyn Konzelmann은 기자 회견에서 “개발자들이 과정 전반에서 통제할 수 있다”고 설명했습니다. Jules는 조치를 취하기 전에 제안된 계획을 제시하며, 사용자는 코드 작성 과정을 모니터링할 수 있습니다. 시스템은 변경을 병합하기 전에 명시적인 승인을 요구함으로써 개발 과정의 감독을 유지합니다.

Google의 AI 에이전트 계획 속에서의 Jules

Jules는 단순한 코딩 어시스턴트를 넘어, 자율적인 AI 에이전트에 대한 Google의 더 큰 비전의 일부입니다. Google의 최신 대규모 언어 모델인 Gemini 2.0에 의해 구동되며, 코드 이해 및 생성에서 상당한 개선을 제공합니다.

Konzelmann은 기자 회견에서 “우리는 컴퓨터 사용을 위한 AI 에이전트의 전체적인 기능을 이해하는 초기 단계에 있다”며 신중한 접근이 필요하다고 강조했습니다.

AI 코딩

AI 코딩이 개발자 직업에 대한 영향

Jules는 많은 개발자에게 그들의 직업의 미래에 대한 중요한 질문을 제기합니다. 그러나 초기 테스트 결과는 Jules가 인간 개발자를 대체하기보다는 생산성을 향상시키는 데 더 많은 가능성을 보이는 것으로 나타났습니다. Lawrence Berkeley National Laboratory의 연구자들은 Jules와 관련 Google AI 도구를 사용하여 분석 작업의 일부분을 몇 분 만에 완료하였으며, 이를 통해 더 복잡한 도전에 집중할 수 있었다고 합니다.

Jules의 재정적 영향 또한 상당할 수 있습니다. McKinsey에 따르면, 대규모 IT 프로젝트는 보통 예산을 45% 초과하며 예상보다 56% 더 적은 가치를 제공합니다. Jules는 루틴 버그 수정 및 유지 보수 작업을 자동화하여 이러한 비용을 크게 줄이는 동시에 개발 주기를 가속화할 수 있습니다.

AI-지원 개발의 미래

AI 코딩 Jules는 초기에는 신뢰할 수 있는 일부 테스터에게만 제공되며 2025년 초에 더 확대 배포 예정입니다. Google은 이미 Android Studio와 Chrome DevTools와 같은 개발 생태계 전반에 비슷한 기능을 통합할 계획을 발표했습니다.

Jules의 진정한 시험은 점점 더 복잡해지는 프로그래밍 문제를 처리하면서 코드 품질과 보안을 유지하는 능력에 있을 것입니다. 단순히 버그를 빠르게 해결하는 데 그치지 않고, 소프트웨어 개발에 접근하는 방식을 근본적으로 변화시킬 수도 있는 변화입니다.

CISQ에 따르면 코딩 품질이 저하되면 연간 2.84조 달러의 비용이 발생한다고 합니다. 따라서 Jules는 개발자 도구 이상을 나타낼 수도 있습니다. 이 AI와 인간 개발자가 진정한 파트너십을 이루어 소프트웨어 개발의 미래가 새로운 시대에 접어드는 것을 뜻할 수도 있습니다. AI 에이전트 중에서 개인적으로 가장 기대되는 부분이 개발에서의 변화입니다. 기존 마이크로소프트 깃허브 코파일럿이 보여주었던 개발자들의 생산성 향상을 넘어 구글 줄스가 보여줄 미래가 사뭇 기대됩니다.

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .

AI 에이전트 안전하게 개발하기 : 자율성과 안전장치, 그리고 함정들

이번 포스팅에서는 지난 번에 이어 AI 에이전트 개발에 대해 다른 관점을 살펴보겠습니다. 이미 AI의 다양한 응용이 우리 삶에 스며들고 있지만, 여러 가지 주의해야 할 점들이 있습니다. 특히, AI 에이전트가 자율적으로 작동할 때의 안전장치와 그와 관련된 숨은 함정들도 고려해야 하는데요, AI 에이전트 안전하게 개발히기 위해 기업과 개인들이 참고할 사항을 살펴보려합니다.

AI 에이전트의 자율성과 그 중요성

AI 에이전트란 인간의 개입 없이 스스로 학습하고 결정을 내리는 시스템을 의미합니다. 이러한 에이전트는 특히 대규모의 복잡한 데이터 처리와 의사결정에 유용하게 사용됩니다. 예를 들어, 엔터프라이즈 환경에서는 여러 부서 간의 의사소통을 원활히 하면서 생산성과 대응성을 높일 수 있습니다.

그러나 이러한 자율성은 때로는 약점으로 작용할 수 있습니다. 따라서, AI 에이전트 안전한 설계를 위해서는 반드시 적절한 방어 메커니즘을 고려해야 합니다.

AI 에이전트 안전

AI 에이전트 안전장치

명확한 인간 개입 조건 설정

AI 에이전트가 인간의 확인이 필요한 행동을 수행할 때는, 사전에 정의된 규칙에 따라 행동해야 합니다. 예를 들어, 구매와 관련된 에이전트라면, 모든 구매는 반드시 인간에 의해 확인되고 승인되어야 합니다. 이러한 규칙은 시스템 내에서 명확하게 설정되어야 하며, 필요한 경우 외부 코드로 강제될 수도 있습니다.

AI 에이전트 안전장치와의 통합

AI 에이전트 안전장치는 위험하거나 비윤리적이며 규정을 준수하지 않는 행동을 확인하는 역할을 합니다. 이 에이전트는 모든 행동이나 특정 행동 요소가 안전한지 확인하고, 승인된 경우에만 진행을 허용하는 등의 역할을 합니다.

불확실성 측정

에이전트가 신뢰할 수 있는 출력을 선호하도록 함으로써, 시스템의 안정성을 높일 수 있습니다. 그러나 이러한 불확실성 측정은 시스템의 처리 속도를 느리게 하고 비용을 증가시킬 수 있는 점을 고려해야 합니다.

중지 버튼 제공

때로는 모든 자율 에이전트 기반 프로세스를 중지해야 할 필요가 있습니다. 이는 시스템 내에서 잘못된 행동을 감지했거나 고정할 필요가 있을 때 사용됩니다. 중요한 워크플로우와 프로세스에서는 이 중지가 전체 프로세스를 멈추거나 완전히 수동으로 전환되지 않도록 하는 결정적인 백업 작동 모드를 제공해야 합니다.

에이전트-기반 작업 명령 생성

모든 에이전트를 앱 및 API에 완전히 통합할 필요는 없습니다. 기본적으로 에이전트 네트워크의 일부 에이전트는 수동으로 조치를 위임하는 보고서나 작업 명령을 발행할 수 있습니다. 이는 에이전트 네트워크를 기민하게 운영하는 좋은 방법입니다.

테스트

AI기반의 시스템을 테스트할 때, 전통적인 소프트웨어와는 다른 방식의 테스트가 필요합니다. 각 에이전트가 입력의 중심 역할을 할 수 있기 때문에, 시스템의 일부분부터 테스트를 시작하여 전체 시스템의 신뢰성을 점검해야 합니다. 시스템의 작동과 약점을 드러내기 위해 생성적 AI를 활용해 테스트 케이스를 설정할 수도 있습니다.

세밀한 튜닝의 중요성

많은 사람들은 AI를 많이 사용할수록 더 좋아진다고 오해하지만, AI는 사전 트레이닝된 모델입니다. 하지만 세밀한 튜닝을 통해 특정한 작동 방식을 조정할 수 있습니다. 각 에이전트의 로그를 분석하고, 개선을 위한 선호 사항을 레이블링하여 튜닝 목적으로 사용합니다.

자주 발생하는 함정

무한루프 문제

AI 에이전트 시스템은 간혹 무한히 서로 대화하는 상황에 빠질 수 있습니다. 이를 방지하기 위해 일정 시간 내에 작업이 완료되지 않으면 종료하는 타임아웃 메커니즘을 도입해야 합니다.

에이전트 과부하

하나의 에이전트에 과도한 작업을 기대하는 것은 현재의 LLM 기술로는 한계가 있습니다. 이를 해결하기 위해 에이전트를 여러 개로 쪼개어 역할을 분배하는 ‘세분화’ 전략을 사용하는 것이 좋습니다.

단일 실패 지점

단일 에이전트가 타 에이전트들을 호출하여 작업을 완료하는 시스템은 복잡성을 초래할 수 있습니다. 대신, 파이프라인 형태로 각 에이전트가 할당된 작업을 수행한 후 다음으로 넘기는 것을 고려해야 합니다.

문맥 오버로드

각 에이전트가 자체 문맥을 유지하고, 새로운 요청 발생 시 문맥을 재설정하는 것이 중요합니다. 이는 에이전트의 혼란을 줄이고 효율성을 높이는 방법입니다.

결론적으로, AI 에이전트는 잘 설계되고 적절한 AI 에이전트 안전장치를 갖추었을 때 매우 효과적으로 작동할 수 있습니다. 이를 통해 기업의 프로세스를 자동화하고 개선하는 데 큰 기여를 할 수 있을 것입니다.

참고

함께 읽으면 좋은 글:

디지털 트랜스포메이션: 조직의 습관을 바꾸는 일, 도서 구매

. .