캘리포니아주 개빈 뉴섬 주지사는 AI 개발을 규제하려던 사안으로 큰 주목을 받았던 SB 1047 법안에 거부권(veto)을 행사했습니다.
이 법안은 주 의원 스콧 위너(Scott Wiener)가 발의했으며, AI 모델을 개발하는 기업이 ‘심각한 피해(critical harms)’를 방지하기 위한 안전 프로토콜을 구현할 책임을 지도록 만드는 내용이었습니다. 해당 규정은 최소 1억 달러의 비용이 발생하고, 훈련 과정에서 $10^{26} \text{ FLOPS}$(부동소수점 연산량, 컴퓨팅 역량 측정 기준)를 사용하는 모델에만 적용되도록 되어 있었습니다.
SB 1047은 OpenAI와 같은 기업, 메타의 수석 AI 과학자인 양 르쿤(Yann LeCun)과 같은 저명한 기술 전문가들, 심지어 로 카나(Ro Khanna) 같은 민주당 하원의원에 이르기까지 실리콘밸리 내 다수 이해관계자들로부터 반대에 부딪혔습니다. 그럼에도 불구하고, 이 법안은 AI 기업 Anthropic과 기타 반대 측의 제안을 바탕으로 여러 차례 개정되기도 했습니다.
캘리포니아 주 의회에서 SB 1047이 통과되었음에도 불구하고, 반대 측은 뉴섬 주지사가 거부권을 행사할 것이라는 기대를 계속해 왔으며, 실제로 뉴섬은 이 법안에 대해 이전에 이미 유보적인 입장을 밝힌 바 있습니다.
뉴섬은 금일 거부권에 대한 성명에서 "선의의 목적은 있지만, SB 1047은 AI 시스템이 고위험 환경에 배포되는지, 중대한 의사 결정을 수반하는지, 혹은 민감한 데이터를 사용하는지 여부를 전혀 고려하지 않는다"고 밝혔습니다. 그는 또한, "대신, 이 법안은 대규모 시스템이 해당 기능을 배포하는 한, 가장 기본적인 기능에까지 엄격한 기준을 적용하고 있다. 저는 이것이 이 기술이 초래하는 실제 위협으로부터 대중을 보호하는 최선의 접근 방식이라고 생각하지 않는다"고 덧붙였습니다.
하원의원 겸 오랜 기간 하원 의장을 지낸 낸시 펠로시(Nancy Pelosi) 역시 이 법안을 "선의의 목적은 있지만, 정보가 부족하다"고 비판했습니다. 거부권 발표 후, 그녀는 뉴섬에게 "대기업이 아닌, 소규모 기업가와 학계가 주도권을 확보할 수 있도록 우리가 공유하는 기회와 책임을 인정한 점"에 대해 찬사를 보냈습니다.
같은 발표에서 뉴섬의 사무실은 지난 30일 동안 AI 기술의 규제 및 배포와 관련하여 총 17개 법안(집계 기준 18개)에 서명했음을 언급하며, 그가 Fei-Fei Li, Tino Cuéllar 등 전문가들에게 "GenAI 배포를 위한 실효성 있는 안전장치(guardrails) 개발을 돕도록" 요청했다고 전했습니다. (흔히 'AI의 수호신'으로 불리는 Li는 이전에 SB 1047이 "신생 AI 생태계에 해를 끼칠 것"이라고 주장한 바 있습니다.)
한편, 위너는 성명을 통해 이번 거부권 행사를 "공공의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중대한 결정을 내리는 거대 기업들에 대한 감독을 믿는 모든 이들에게 걸림돌이 될 것"이라고 비판했습니다. 그는 아울러, 이 법안을 둘러싼 논쟁 자체가 "국제 무대에서 AI 안전 문제를 획기적으로 발전시키는 계기가 되었다"고 주장했습니다.
[출처:] https://techcrunch.com/2024/09/29/gov-newsom-vetoes-californias-controversial-ai-bill-sb-1047