유럽연합(EU)의 인공지능 활용 위험 기반 규제가 2024년 8월 1일 목요일부로 공식 발효되었습니다.
이는 본 법이 적용되는 다양한 유형의 AI 개발자 및 애플리케이션에 걸쳐 일련의 단계적 준수 기한을 시작하는 계기가 됩니다. 대부분의 규정은 2026년 중반까지 완전히 적용될 예정입니다. 다만, 공공장소에서의 법 집행 목적 원격 생체 인식 사용과 같이 특정 상황에서 금지되는 소수의 AI 사용에 대한 금지 의무가 적용되는 첫 번째 기한은 불과 6개월 뒤에 적용됩니다.
EU의 접근 방식에 따라, 대다수의 AI 애플리케이션은 위험도가 낮거나(low/no-risk) 아예 없는 것으로 간주되어 규제의 적용 대상에서 제외됩니다.
바이오 인식 및 안면 인식, AI 기반 의료 소프트웨어, 교육 및 고용 분야에서 사용되는 AI와 같이 잠재적으로 사용될 수 있는 일부 분야는 고위험(high risk)으로 분류됩니다. 이들 개발자는 사전 시장 적합성 평가(pre-market conformity assessment) 수행을 포함하여 위험 및 품질 관리 의무를 준수해야 하며, 규제 감사의 대상이 될 가능성도 있습니다. 또한, 공공 부문 기관 또는 그 공급업체가 사용하는 고위험 시스템 역시 EU 데이터베이스에 등록해야 합니다.
세 번째 '제한적 위험(limited risk)' 등급은 챗봇이나 딥페이크 생성이 가능한 도구와 같은 AI 기술에 적용됩니다. 이들 기술은 사용자가 오인하는 것을 방지하기 위해 일정 수준의 투명성 요건을 충족해야 합니다.
처벌 규정 또한 계층적으로 구분되어 있습니다. 금지된 AI 애플리케이션 위반 시에는 전 세계 연간 매출액의 최대 7%에 달하는 벌금이, 그 외 일반 의무 위반 시에는 최대 3%가, 규제 당국에 부정확한 정보를 제공할 경우 최대 1.5%의 벌금이 부과될 수 있습니다.
법의 또 다른 주요 영역은 소위 일반 목적형 인공지능(GPAI) 개발자에게 적용됩니다. EU는 여기서도 위험 기반 접근법을 취하고 있으며, 대부분의 GPAI 개발자는 상대적으로 낮은 수준의 투명성 요건에 직면합니다. 다만, 이들은 훈련 데이터 요약본을 제공하고 저작권을 준수하는 정책을 마련하는 등의 추가 의무를 이행해야 합니다.
가장 강력한 모델의 일부만이 위험 평가 및 완화 조치를 의무적으로 취하게 됩니다. 현재 시스템적 위험을 초래할 잠재력이 있는 GPAI는 총 컴퓨팅 파워가 $10^{25}$ FLOPs를 초과하여 훈련된 모델로 정의됩니다. AI 법의 일반적인 규칙 집행은 각 회원국 단위의 기구로 위임되지만, GPAI에 관한 규칙은 EU 차원에서 시행됩니다.
GPAI 개발자가 AI 법을 준수하기 위해 구체적으로 무엇을 해야 하는지에 대해서는 아직 논의가 진행 중이며, 이에 대한 실천 규범(Codes of Practice)이 아직 마련되지 않았습니다.
금주 초, 전략적 감독 및 AI 생태계 구축을 담당하는 AI 오피스가 본 규정 제정 과정에 대한 협의 및 참여를 요청하며, 2025년 4월에 실천 규범을 최종화할 것으로 예상한다고 밝혔습니다.
한편, ChatGPT의 기반이 되는 GPT 대규모 언어 모델을 개발한 OpenAI는 지난달 말에 발간된 AI 법 안내서에서 새로운 법규에 대해 언급하며, 자신들이 받은 정보를 토대로 전문가 의견을 개진해야 한다고 언급했습니다.
이러한 맥락에서, 전문가들은 서비스 제공자가 지침을 명확히 준수하도록 해야 한다고 조언했습니다.
요약하자면, 법률은 기업이 자신의 제품이나 서비스를 시장에 출시하기 전에 관련 규정을 지켜야 함을 명시하고 있습니다.
결론적으로, 해당 법률은 시장에 제품이나 서비스를 출시하는 기업에게 그들이 법적 의무와 관련 규정을 지켜야 할 의무가 있음을 분명히 하고 있습니다.
[출처:] https://techcrunch.com/2024/08/01/the-eus-ai-act-is-now-in-force