2024년 미국에서 가장 논란이 많았던 AI 안전 법안인 캘리포니아주 SB 1047의 저자가 실리콘밸리를 뒤흔들 만한 새로운 AI 법안을 들고 돌아왔습니다.
캘리포니아주 상원 의원 스콧 위너(Scott Wiener)는 금요일, 현지 주요 AI 연구소 직원들이 회사의 AI 시스템이 사회에 "중대한 위험(critical risk)"을 초래할 수 있다고 판단될 경우 목소리를 낼 수 있도록 보호하는 새로운 법안을 발의했습니다. 새로운 법안인 SB 53은 또한 연구원과 스타트업이 공공의 이익에 기여하는 AI를 개발하는 데 필수적인 컴퓨팅 자원을 제공하기 위해 ‘CalCompute’라는 공공 클라우드 컴퓨팅 클러스터를 구축할 예정입니다.
위너가 이전에 발의했던 캘리포니아의 SB 1047은 대규모 AI 시스템이 가져올 수 있는 재난 가능성에 대한 전국적인 뜨거운 논쟁을 불러일으켰습니다. SB 1047은 인명 손실이나 5억 달러 이상의 피해를 야기하는 사이버 공격 등, 거대 AI 모델이 초래할 수 있는 대참사 가능성을 예방하는 것을 목표로 했습니다. 하지만 거빈 뉴섬(Gavin Newsom) 주지사는 결국 이 법안을 거부하며, SB 1047이 최선의 접근 방식이 아니라고 입장을 밝혔습니다.
그러나 SB 1047을 둘러싼 논쟁은 순식간에 격화되었습니다. 일부 실리콘밸리 지도자들은 SB 1047이 글로벌 AI 경쟁에서 미국의 경쟁 우위를 훼손할 것이라며, 이 법안이 AI 시스템이 공상과학 영화 같은 종말 시나리오를 초래할 수 있다는 비현실적인 공포에서 영감을 받았다고 주장했습니다. 한편, 위너 상원의원은 일부 벤처 캐피탈리스트들이 자신의 법안을 상대로 "선전 캠페인(propaganda campaign)"을 벌이고 있다고 주장했습니다. 특히 전문가들이 오해라고 지적한 Y Combinator가 SB 1047이 스타트업 창업자들을 감옥으로 보낼 것이라는 주장이 언급되기도 했습니다.
SB 53은 본질적으로 SB 1047의 가장 논란이 적은 부분들, 즉 내부고발자 보호 조항과 CalCompute 클러스터 설립 계획을 취합하여 새로운 AI 법안으로 재구성한 것입니다.
주목할 점은 위너가 SB 53에서 실존적인 AI 위험을 다루는 것을 피하지 않았다는 것입니다. 이 신규 법안은 고용주가 "중대한 위험"을 초래하는 AI 시스템을 개발하고 있다고 믿는 내부고발자를 구체적으로 보호합니다. 법안은 중대한 위험을 다음과 같이 정의합니다: "개발자가 기초 모델(foundation model)을 개발, 저장, 또는 배포하는 것이 정의된 바에 따라 100명 이상의 사람의 사망 또는 중상을 초래하거나, 금전적 또는 재산적 손실로 10억 달러 이상의 피해를 초래할 수 있는 예측 가능하거나 물질적인 위험."
SB 53은 프론티어 AI 모델 개발자들(OpenAI, Anthropic, xAI 등이 포함될 가능성이 높음)이 캘리포니아주 법무장관, 연방 당국 또는 다른 직원에게 우려 사항을 공개하는 직원에게 보복하는 행위를 제한합니다. 이 법안에 따라 개발사들은 내부고발자가 우려하는 특정 내부 프로세스에 대해 내부고발자에게 보고할 의무를 지게 됩니다.
CalCompute와 관련해서는, SB 53이 공공 클라우드 컴퓨팅 클러스터를 구축하기 위한 별도의 그룹을 설립할 것입니다. 이 그룹은 캘리포니아 대학교 대표들과 다른 공공 및 민간 연구원들로 구성됩니다. 그룹은 CalCompute 구축 방안, 클러스터의 적정 규모, 그리고 접근 권한을 가져야 할 사용자 및 기관에 대한 권고안을 제시하게 됩니다.
물론, SB 53은 입법 절차 초기에 있는 법안입니다. 이 법안은 뉴섬 주지사에게 도달하기 전에 캘리포니아의 입법 기관을 거쳐 검토 및 통과 과정을 거쳐야 합니다. 주 의원들은 이 점에 주목하고 있습니다.
요약하자면, 이 법안은 첨단 기술 발전 속도를 늦추지 않으면서도 사회적 안전장치를 마련하려는 시도로 풀이됩니다.
[출처:] https://techcrunch.com/2025/03/03/the-author-of-sb-1047-introduces-a-new-ai-bill-in-california