미국 상무부(U.S. Commerce Department)는 월요일, Meta의 Llama 3.1과 같은 "오픈 웨이트(open-weight)" 생성형 AI 모델을 지지하는 보고서를 발표하면서도, 정부가 이러한 모델의 잠재적 위험을 모니터링할 수 있는 "새로운 역량"을 개발할 것을 권고했다.
상무부 산하의 국가전신정보국(NTIA)이 작성한 이 보고서에 따르면, 오픈 웨이트 모델은 소규모 기업, 연구원, 비영리 단체 및 개별 개발자들에게 생성형 AI의 접근성을 확대하는 역할을 한다. 보고서는 이러한 이유로 정부가 오픈 모델 접근에 제한을 둘 필요가 없다고 제언한다. 다만, 시장에 제한이 해를 끼칠지 여부에 대한 조사가 선행되어야 한다는 단서가 붙었다.
이러한 입장은 오픈 모델이 더 많은 소규모 사업자들이 자신의 아이디어를 시장에 출시할 수 있도록 돕고, 나아가 건전한 경쟁을 촉진할 것이라고 믿는 FTC 위원장 리나 칸(Lina Khan)의 최근 발언과 맥을 같이한다.
알란 데이비슨(Alan Davidson) 상무부 통신 및 정보 담당 차관보 겸 NTIA 국장은 성명에서 "가장 크고 강력한 AI 시스템의 개방성은 이러한 혁명적인 도구들의 경쟁, 혁신 및 위험에 영향을 미칠 것"이라고 강조했다. 그는 이어 "NTIA 보고서는 개방형 AI 시스템의 중요성을 인정하며, 대규모 AI 모델의 모델 가중치(model weights)의 광범위한 가용성으로 발생하는 위험에 대해 더욱 적극적인 모니터링을 요구한다. 정부는 AI 개발을 지원하는 동시에 새로운 위험을 이해하고 다루기 위한 역량을 구축하는 데 핵심적인 역할을 수행해야 한다"고 덧붙였다.
이 보고서는 국내외 규제 기관들이 오픈 웨이트 모델을 출시하고자 하는 기업들에게 제한을 부과하거나 새로운 요건을 부과할 수 있는 규제들을 심도 있게 검토하고 있는 시점에 발표되었다.
캘리포니아는 컴퓨팅 파워의 10 FLOP 이상을 이용해 모델을 훈련하는 모든 기업이 사이버 보안을 강화하고, 자체 통제 하에 있는 모델 사본을 "종료(shut down)"할 수 있는 방법을 개발하도록 의무화하는 법안 SB 1047 통과에 근접했다. 해외에서는 EU가 저작권, 투명성, AI 애플리케이션 관련 새로운 규칙을 부과하는 AI Act에 따른 기업들의 준수 마감일을 최근 확정했다.
한편, Meta는 EU의 AI 정책이 향후 일부 오픈 모델을 출시하는 데 장애가 될 것이라고 밝혔다. 이와 별개로, 다수의 스타트업과 대형 기술 회사들은 캘리포니아 법이 지나치게 부담스럽다며 반대 입장을 표명했다.
NTIA가 제시하는 모델 거버넌스 철학이 완전히 자유방임적(laissez-faire)인 것은 아니다. 보고서에서 NTIA는 정부가 오픈 모델의 위험과 이점에 대한 증거를 수집하는 지속적인 프로그램을 개발하고, 해당 증거를 평가하며, 필요시 모델 가용성에 특정 제한을 가하는 등 조치를 취할 것을 촉구한다. 구체적으로 이 보고서는 정부가 다양한 AI 모델의 안전성을 연구하고, 위험 완화 연구를 지원하며, 정책 변경이 필요할 수 있음을 나타내는 "위험별(risk-specific)" 지표 기준점을 마련할 것을 제안한다.
지나 라이몬도(Gina Raimondo) 미국 상무부 장관은 이러한 제안과 단계들이 조 바이든 대통령의 AI 관련 행정명령과 일맥상통한다고 언급했다. 해당 명령은 정부 기관과 기업들에게 AI의 생성, 배포, 사용 전반에 걸쳐 새로운 표준을 설정하도록 요구한 바 있다.
라이몬도는 보도자료에서 "바이든-해리스 행정부는 AI의 잠재력을 극대화하는 동시에 위험을 최소화하기 위해 모든 수단을 동원하고 있다"고 말했다. 이어 "이번 보고서는 개방성을 수용하고, 미국 정부가 다가올 잠재적 난관에 대비하고 적응할 수 있는 방안을 권고함으로써, 책임감 있는 AI 혁신의 로드맵을 제시한다"라고 덧붙였다.
[출처:] https://techcrunch.com/2024/07/29/u-s-commerce-department-report-endorses-open-ai-models