캘리포니아 주 상원(State Senate)은 최근 새로운 AI 안전 법안인 SB 53을 최종 승인했으며, 이 법안은 거버너 개빈 뉴섬(Gavin Newsom)에게 서명 또는 거부권 행사를 위해 송부되었습니다.
이 내용이 익숙하게 느껴진다면, 이는 뉴섬이 지난해 주 상원의원 스콧 위너(Scott Wiener)가 발의했던 또 다른 AI 안전 법안을 거부했기 때문일 것입니다. 그러나 SB 53은 위너가 이전에 제시했던 SB 1047보다 범위가 좁으며, 연간 5억 달러 이상의 수익을 올리는 대규모 AI 기업에 초점을 맞추고 있다는 특징이 있습니다.
저는 TechCrunch의 대표 팟캐스트인 Equity의 최신 에피소드에서 동료 맥스 제프(Max Zeff) 및 커스텐 코로섹(Kirsten Korosec)과 SB 53에 대해 논의할 기회가 있었습니다. 맥스는 이 새로운 법안이 대기업에 초점을 맞추고 있고 AI 기업 Anthropic의 지지를 받고 있기 때문에, 법안이 실제로 법제화될 가능성이 더 높다고 믿습니다.
AI 안전 및 주(州) 차원 입법에 관한 저희 대화 미리보기는 아래에서 확인하실 수 있습니다. (본 스크립트는 분량과 명료성을 높이고, 저희의 논의를 더욱 깊이 있게 보이도록 편집되었습니다.)
맥스:
캘리포니아 주 의회에서 통과되는 AI 안전 입법에 대해 왜 관심을 가져야 할까요? 우리는 AI 기업들이 세계에서 가장 강력한 기업이 되어가는 시대에 진입하고 있으며, 이번 법안은 그들의 권력에 대한 몇 안 되는 견제 장치 중 하나가 될 잠재력이 있습니다.
이 법안은 작년에 큰 반대에 부딪혔던 SB 1047보다 훨씬 협소합니다. 하지만 저는 SB 53이 여전히 AI 연구소에 의미 있는 규제 장치를 마련했다고 생각합니다. 모델에 대한 안전 보고서를 의무적으로 발표하게 합니다. 만약 사고가 발생하면, 정부에 보고하도록 사실상 강제합니다. 또한, 이러한 연구소 직원들에게는 NDA(비밀 유지 계약)에 서명했음에도 불구하고 회사로부터 반대에 직면하지 않고 우려 사항을 정부에 보고할 수 있는 통로를 제공한다는 점에서 중요한 의미가 있습니다.
제게는 이것이 지난 수십 년 동안 우리가 충분히 갖지 못했던, 기술 기업의 권력에 대한 잠재적으로 의미 있는 견제책으로 느껴집니다.
커스텐:
주(州) 차원의 중요성을 제기해주셨는데, 캘리포니아라는 지리적 특성을 함께 고려하는 것이 중요합니다. 주요 AI 기업들은 본사를 이곳에 두고 있지 않더라도, 이 주에 막대한 영향력(footprint)을 가지고 있기 때문입니다. 물론 다른 주들이 중요하지 않다는 뜻은 아닙니다. (콜로라도나 다른 곳의 분들께 이메일을 받고 싶지는 않습니다만.) 하지만 AI 활동의 허브라는 점에서 캘리포니아라는 점 자체가 매우 중요한 의미를 가집니다.
하지만 맥스, 제 질문은, 법안에 예외 조항(carve-out)이나 면제 규정이 너무 많지 않냐는 것입니다. 좁아지긴 했지만, 이전 법안보다 더 복잡하지는 않나요?
맥스:
어떤 면에서는 그렇다고 말하고 싶습니다. 이 법안의 주요 면제 범위는 소규모 스타트업에게는 적용하지 않으려고 한다는 점입니다. 그리고 이 법안을 발의한 스콧 위너 상원의원(샌프란시스코 대표)의 지난 입법 노력에 대한 핵심적인 논란 중 하나는, 많은 이들이 이 법안이 스타트업 생태계에 해를 끼칠 수 있다고 지적했다는 것입니다. 현재 캘리포니아 경제에서 스타트업 생태계가 워낙 활발하기 때문에 이 문제는 큰 이슈입니다.
이 법안은 구체적으로 AI 모델에서 5억 달러를 초과하여 수익을 창출하는 AI 개발자를 대상으로 합니다. 이는 OpenAI나 Google DeepMind 같은 거대 기업들을 명확히 겨냥하는 것이지, 일반적인 스타트업을 겨냥한 것이 아닙니다.
앤서니:
제가 이해하기로는, 소규모 스타트업이라 할지라도 일정 수준의 안전 정보 공유는 필요하지만, 과거보다 훨씬 적은 수준으로 제한된다는 의미입니다.
또한, AI 규제 전반의 광범위한 상황도 논할 가치가 있습니다. 작년과 올해 사이의 가장 큰 변화 중 하나는 새로운 대통령이 취임했다는 점입니다. 현 연방 행정부는 규제 자체에 대해 매우 회의적이며, 기업들이 자율적으로 활동할 수 있어야 한다는 입장입니다. 심지어 '미국 우선주의'와 연결되어 법적 명분까지 갖추려고 합니다.
[출처 정보]
- 본 스크립트는 전문 대담 내용을 기반으로 재구성되었습니다.
- Tech Talk: 현황 분석 및 정책 변화 예측.