유럽연합은 인공지능(AI) 기술 규제를 위한 결정적인 입법안인 ‘EU AI 법안’을 발표했습니다. 이 법안은 인공지능의 개발 및 사용에 있어 몇몇 중요한 지표들을 제시하며, 특히 강력한 일반목적 AI(GPAIs)에 초점을 맞추고 있습니다.
EU AI 법안의 등장 배경
인공지능 기술은 그 발전 속도와 함께 사회에 다양한 영향을 미치고 있습니다. 그 중에는 긍정적인 효과도 있지만, 부정적인 결과를 불러일으킬 가능성도 있습니다. 예를 들어, AI가 잘못된 데이터를 기반으로 결정을 내릴 경우, 이는 심각한 사회적 문제로 이어질 수 있습니다. 이러한 리스크를 관리하고자 유럽연합은 ‘위험 기반 프레임워크’를 도입하여 AI의 활용을 체계적으로 규제하고자 합니다.
일반목적 AI 모델의 규제
EU AI 법안의 핵심 요소 중 하나는 바로 GPAIs, 즉 강력한 일반목적 AI 모델에 대한 규제입니다. 이 법안은 OpenAI, Google, Meta와 같은 대형 AI 개발사들을 포함하여 특정 기준을 충족해야 하는 근본적인 규제를 제시하고 있습니다. 이는 AI 모델이 가져올 수 있는 시스템적 위험을 관리하고 최소화하는 데 중점을 둡니다.
GPAI 모델의 투명성 요건은 2025년 8월 1일부터 발효되며, 시스템적 위험을 동반한 강력한 모델은 2027년까지 위험 평가와 조치 요건을 준수해야 합니다. 이로써 AI 개발사는 개발 중인 기술이 잠재적 위험 요소를 가지고 있을 때, 이를 사전에 인지하고 준비할 수 있는 능력을 갖추도록 요구받게 됩니다.
데이터와 저작권 문제
AI 시스템 발전의 핵심 요소 중 하나인 데이터 수집은 저작권과 밀접한 관련이 있습니다. 이번 법안에서는 데이터 수집 과정에서의 투명성을 높이는 것을 목표로 하고 있습니다. 특히, AI 모델 개발에 사용된 웹 크롤러와 같은 도구의 정보 제공을 요구하며, 해당 정보는 저작권 보호 자료 접근 권한 관련 문서에 포함되어야 합니다.
또한, 법안은 여러 차례의 소송을 언급하며, AI 모델이 저작권 데이터를 불법적으로 사용하지 않도록 보장하는 메커니즘을 구축하고 있습니다. 이러한 장치는 저작권자의 불만을 신속히 처리할 수 있는 단일 연락 창구를 운영하는 것을 포함합니다.
시스템적 리스크와 보안
강력한 GPAI가 가져올 수 있는 시스템적 리스크는 여러 가지로 분류됩니다. 여기에는 사이버 보안, 화학·생물학·방사선 및 핵 위험, 사회적 조작 및 민주주의에 대한 위협 등이 포함됩니다. AI 모델이 이러한 리스크를 일으킬 가능성이 있는 경우, 이는 공공의 건강 및 안전에 직접적인 위협이 될 수 있습니다.
법안은 또한 위험 예측을 위한 ‘안전 및 보안 프레임워크’를 제안하며, 개발사가 예상되는 위험의 시기와 구현 시점에 대한 객관적인 추정치를 제공하도록 요구하고 있습니다. 이는 AI가 특정 리스크 임계치를 넘을 가능성에 대해 경고함으로써, 관련 규제 기관과 긴밀히 협력할 수 있도록 합니다.
오픈소스와 SMEs (소규모 기업) 지원
EU AI 법안은 함께 작업하는 크고 작은 AI 개발사 모두에게 적용됩니다. 특히, 자원이 적은 중소기업(SMEs)와 오픈소스 모델 개발자를 위해 제안된 규제와 세부조항들에 있어, 그들을 보호하고 노력을 장려하는 조치도 포함되어 있습니다. 이런 조치는 모든 협력 파트너가 지속 가능한 방식으로 혁신을 추구할 수 있도록 지원합니다.
실무자들에게 주는 의미와 준비사항
EU AI 법안은 AI 개발 자들에게 투명성, 데이터 수집 과정, 시스템적 리스크 관리 등의 준수를 의무화하여, AI의 사회적 책임을 강조하고 있습니다. 이는 AI 기술의 글로벌 표준 수립에 큰 기여를 할 것으로 기대됩니다. 따라서 AI를 개발하고 활용하는 모든 기업과 단체는 이 법안이 요구하는 기준에 따라 더욱 혁신적인 측면과 사회적 책임성을 균형 있게 갖춰야 할 것입니다.
마무리하며
이번 EU AI 법안은 단지 규제 차원의 법적 장치가 아니라 AI 기술이 사회에 미치는 영향을 체계적으로 다루고자 하는 시도입니다. 이러한 규제는 AI의 안전한 개발과 확산을 보장하는 동시에, 사회적 신뢰와 수용도를 높이기 위한 중요한 첫걸음입니다.
앞으로 유럽연합의 이 법안은 다른 지역의 입법에도 큰 영향을 미칠 것이며, AI 기술의 글로벌 정책 방향을 선도할 것입니다. AI 개발자와 기업은 이 변화에 적극적으로 대응하여 윤리적이고 책임 있는 기술 발전에 기여해야 할 것입니다.