캘리포니아 주지사 개빈 뉴섬은 화요일, 자신의 책상에 AI 관련 법안 38개가 있다고 밝히면서도, 그중에서도 가장 주목받는 법안이 하나 있다며 SB 1047을 지목했다. SB 1047은 AI 시스템이 대형 재앙을 초래하는 것을 막으려는 캘리포니아의 법안이며, 주지사는 이번 기회에 이 논란의 법안에 대한 자신의 견해를 처음으로 공유했다.
요약하자면, 뉴섬은 SB 1047에 여러 문제가 있다고 보고 있다. 그는 캘리포니아의 급성장하는 AI 산업을 훼손하지 않으면서 오늘날의 문제를 해결할 수 있는 AI 법안에 관심을 표명했다. 이는 대형 AI 공급업체가 자사 제품 사용으로 인해 중요 인프라 마비 같은 심각한 피해를 야기했을 경우 책임을 지도록 의무화한 SB 1047의 미래에 그리 긍정적이지 않다. 더욱이 이 법안에 서명할 경우, 뉴섬이 거부권(veto)을 행사하기를 원하는 AI 업계의 광범위한 세력을 불편하게 만들 수 있기 때문이다.
뉴섬은 화요일 드림포스 컨퍼런스(Dreamforce conference)에서 세일즈포스 CEO 마크 베니오프와 대담을 나누며 "우리는 지난 몇 년간 무모함이 아닌 위험 감수를 지원하는 합리적인 규제 방안을 마련하기 위해 노력해 왔다"라고 말했다. 이어 그는 "현재 이 분야는 매우 까다롭다. 특히 SB 1047 때문에, 이 법안이 가질 수 있는 과도한 파급력과 오픈소스 커뮤니티에서 느껴지는 위축 효과까지 고려해야 하기 때문이다"라고 덧붙였다.
뉴섬은 입증 가능한 위험(demonstrable risks)과 가정적 위험(hypothetical risks)을 구분하여 고려해야 한다고 지적하며, "저는 모든 것을 해결할 수는 없습니다. 우리가 과연 무엇을 해결해야 할까요?"라고 말했다.
주지사는 SB 1047의 주요 비판점도 짚었다. 이 법안은 대규모 사상자 발생 사건이나 5억 달러가 넘는 사이버 보안 사건에서 AI의 역할을 제한하려 시도하지만, 그 이하의 문제에 대해서는 기술 기업의 책임을 묻는 데는 미흡하다는 것이다. 비판론자들은 SB 1047이 오늘날 AI 시스템이 낳는 단기적 문제들을 규제하기보다는 혁신 자체를 위축시킬 수 있다고 주장해왔다.
뉴섬은 샌프란시스코 중심부에서 열린 기업 기술 컨퍼런스에 참석한 청중 앞에서 이러한 발언을 했다. 그는 최근 자신이 참석한 기술 컨퍼런스 대부분에서 화장실 줄거리까지 SB 1047의 문제점에 대한 소문이 돌았음을 언급하며, 자신이 청중의 성향을 파악하고 연설했을 가능성을 내비쳤다.
그럼에도 불구하고 주지사는 규제와 관련된 분명한 입장을 표명하고 있다. 실제로 화요일 초, 뉴섬은 AI가 생성한 선거 허위 정보나 할리우드 스튜디오가 배우의 AI 복제 이미지를 만드는 것과 같이, 이미 2024년에 발생했던 AI 관련 문제를 다루는 법안 5개에 서명했다. 이것이 뉴섬이 언급한 '입증 가능한 위험'의 예시일 수 있다.
주(州) 상원의원 스콧 위너는 테크크런치에 성명을 내고 "뉴섬 주지사는 연방 정부가 미온적일 때 캘리포니아의 리더십이 얼마나 중요한지 누구보다 잘 이해하고 있다"고 평가했다. 그는 이어 "소셜 미디어의 영향에 대한 인식을 높이려는 주지사와 제1 파트너의 노력은 연방 정부가 소셜 미디어 규제에 실패했기 때문에 나온 직접적인 결과입니다. 주지사가 이 법안을 마땅히 받을 만한 신중한 고려를 할 것이라 믿어 의심치 않습니다"라고 덧붙였다.
뉴섬은 화요일 연방 정부가 AI 분야에서 "규제에 실패했다"는 점을 안타까워했다. 그는 캘리포니아가 과거 소셜 미디어와 개인 정보 보호 등 기술 규제에서 선두를 달렸던 점을 언급하며, 사람들이 다시 주(州) 차원의 리더십을 기대하는 것은 당연하다고 말했다. 다만, 뉴섬은 AI 분야에서 캘리포니아의 초기 리더십을 낭비하지 않도록 조심하고 있다고 강조했다.
뉴섬은 "AI는 우리가 주도권을 갖는 분야이며, 우리는 그 주도권을 유지하고 싶다. 동시에, 우리 중 많은 사람들이 느끼는 가장 극단적인 우려까지도 다루어야 한다"고 강조했다.
한편, 센터 포 AI의 전문가들은 "그는 현재 딜레마에 빠져 있다. 이 기술의 막대한 잠재력을 활용해야 하지만, 그 위험성도 무시할 수 없다"고 분석했다.
결국, 사태는 미지수다. 주류의 의견은 이 기술의 잠재력을 활용해야 한다는 것이지만, 이와 동시에 그로 인한 위험성도 간과할 수 없기 때문이다.