캘리포니아주 가빈 뉴섬 주지사는 국가 최초로 대규모 AI 기업에 새로운 투명성 요건을 부과하는 법안 SB 53에 서명했습니다.
SB 53은 2주 전 주 의회를 통과했으며, OpenAI, Anthropic, Meta, Google DeepMind를 포함한 대형 AI 연구소들이 안전 프로토콜에 대해 투명하게 공개하도록 의무화합니다. 또한 해당 기업 직원들을 위한 내부 고발자 보호 장치도 마련합니다.
나아가 SB 53은 AI 기업과 일반 대중이 잠재적인 중대한 안전 사고를 캘리포니아주 비상사무국(Office of Emergency Services)에 보고할 수 있는 메커니즘을 구축합니다. 이 법안은 아울러 EU AI Act가 요구하지 않는, 사이버 공격과 같은 인간 감독 없이 발생한 범죄 및 모델의 오정보성 행동과 관련된 사건에 대해서도 기업들이 보고하도록 명시합니다.
이 법안은 AI 산업계로부터 엇갈린 반응을 얻었습니다. 기술 기업들은 주(州) 차원의 AI 정책이 혁신을 저해하는 "규제의 파편화(patchwork of regulation)"를 초래할 위험이 있다고 전반적으로 주장했으나, Anthropic은 이 법안을 지지했습니다. 반면 Meta와 OpenAI는 로비를 펼치며 반대했습니다. 특히 OpenAI는 뉴섬 주지사에게 SB 53 서명을 만류하는 공개 서한을 작성하여 발표하기도 했습니다.
이 법안이 발의된 배경에는 일부 실리콘밸리 기술 엘리트들이 AI 규제에 있어 완화된 접근 방식을 지지하는 후보자들을 지원하기 위해 수천만 달러를 슈퍼 PAC에 쏟아붓는 움직임이 있습니다. OpenAI 리더들을 포함한 여러 주체들은 최근 몇 주에 걸쳐 AI 친화적인 후보 및 법안을 지원하는 친(親)AI 슈퍼 PAC를 출범시키기도 했습니다.
그럼에도 불구하고 다른 주들은 강력한 신흥 기술의 통제되지 않은 발전이 초래할 수 있는 잠재적 피해를 막기 위해 캘리포니아를 참고할 수 있습니다. 뉴욕주에서는 유사한 법안이 주 의원들을 통과했으며, 현재 카시 호컬 주지사의 서명 또는 거부권 행사를 기다리고 있습니다.
뉴섬 주지사는 성명에서 "캘리포니아는 성장하는 AI 산업이 지속적으로 번성하는 동시에 지역사회를 보호할 규제를 수립할 수 있음을 입증했다"라며, "이 법안이 그 균형을 맞춥니다. AI는 혁신의 새로운 지평이며, 캘리포니아는 여기에만 머무르지 않을 것입니다. 이 신흥 기술이 빠르게 발전함에 따라 공적 신뢰를 구축하는, 국가 최초의 프론티어 AI 안전 법안을 제정함으로써 국가적 리더십을 굳건히 하고 있습니다"라고 말했습니다.
한편, 주지사는 이번 달에 상원과 하원을 양당의 지지로 통과된 또 다른 법안인 SB 243을 검토하고 있습니다. 이 법안은 AI 동반 챗봇을 규제하며, 운영자들에게 안전 프로토콜 구현을 의무화하고, 만약 챗봇이 해당 기준을 충족하지 못할 경우 법적 책임을 지도록 할 것입니다.
SB 53은 비너(Wiener) 상원의원이 지난해 AI 기업들의 강력한 반발에 부딪혀 뉴섬 주지사가 더 포괄적인 SB 1047에 대해 거부권을 행사한 이후 제안된 AI 안전 법안 시도 중 두 번째입니다. 비너 상원의원은 이 과정에서 주요 AI 기업들과 접촉하며 자신이 법안에 수정한 내용을 충분히 이해할 수 있도록 설명하는 작업을 벌였습니다.
[출처:] https://techcrunch.com/2025/09/29/california-governor-newsom-signs-landmark-ai-safety-bill-sb-53