캐시 호쿨(Kathy Hochul) 뉴욕주지사가 RAISE 법안(RAISE Act)에 서명하며 뉴욕은 주요 AI 안전 입법을 제정한 두 번째 미국 주로 자리매김했습니다.
주 의원들이 지난 6월에 RAISE 법안을 통과시켰으나, 기술 업계의 로비에 따라 호쿨 주지사는 법안을 완화하자는 변경안을 제시했습니다.
뉴욕타임스(The New York Times) 보도에 따르면, 호쿨 주지사는 결국 기존 법안에 서명하는 데 동의했고, 의원들은 주지사가 요청한 변경 사항을 내년에 반영하는 데 합의했습니다.
이 법안에 따르면 대규모 AI 개발사는 자신들의 안전 프로토콜 정보를 공개해야 하며, 안전 사고 발생 시 72시간 이내에 주 정부에 이를 보고해야 합니다. 아울러 금융 서비스국(Department of Financial Services) 내에 AI 개발을 감시할 새로운 사무실이 설립될 예정입니다.
만약 기업들이 안전 보고서를 제출하지 않거나 허위 진술을 할 경우, 최대 100만 달러(추후 위반 시 300만 달러)의 벌금이 부과될 수 있습니다.
한편, 캘리포니아의 거빈 뉴섬(Gavin Newsom) 주지사는 지난 9월 유사한 안전 관련 법안에 서명했으며, 호쿨 주지사는 이 점을 자신의 발표에서 언급했습니다. 호쿨 주지사는 "이 법은 캘리포니아에서 최근 채택된 프레임워크를 기반으로 하며, 연방 정부가 뒤처져 대중을 보호하는 상식적인 규제를 시행하지 못하는 상황에서, 미국 내 주요 기술 주들 사이에 통일된 벤치마크를 조성합니다"라고 밝혔습니다.
이 법안의 후원자 중 한 명인 뉴욕주 상원의원 앤드류 구나르데스(Andrew Gounardes)는 "빅 테크 기업들은 우리 법안을 무력화시키려 했다. 우리가 그들을 막아내고 미국에서 가장 강력한 AI 안전 법을 통과시켰다"고 글을 올렸습니다.
OpenAI와 Anthropic 모두 뉴욕의 법안에 대한 지지를 표명하면서도 연방 차원의 입법을 촉구했습니다. Anthropic의 대외 업무 책임자 사라 헥(Sarah Heck)은 NYT와의 인터뷰에서 "국내 두 개의 대형 주가 AI 투명성 법안을 제정했다는 사실은 안전의 중요성을 보여주며, 의회가 이를 바탕으로 더 발전시켜야 합니다"라고 말했습니다.
기술 업계 모두가 이처럼 지지적인 것은 아닙니다. 실제로 Andreessen Horowitz가 후원하고 OpenAI 회장 그렉 브록만(Greg Brockman)이 있는 슈퍼 PAC은 법안을 공동 후원한 알렉스 보어스(Alex Bores) 하원의원을 상대로 이의를 제기할 계획을 세우고 있습니다. (보어스는 기자들에게 "그들이 얼마나 솔직하게 행동하는지 높이 평가한다"고 전했습니다.)
이는 도널드 트럼프 대통령이 연방 기관들이 주(州)의 AI 법률에 이의를 제기하도록 지시하는 행정 명령에 서명한 이후 나온 사안입니다. 트럼프 대통령의 AI 책임자(czar)가 지원하는 이 명령은 주(州) 차원의 AI 규제 능력을 제한하려는 트럼프 행정부의 최신 시도이며, 법정에서 도전받을 가능성이 높습니다.
저희는 또한 트럼프의 행정 명령과 Sacks 및 a16z가 주(州) 차원 AI 규제에 반대하는 데 어떤 역할을 했는지에 대해 <에쿼티 팟캐스트>(the Equity podcast) 최신 에피소드에서 논의했습니다.