AI 스타트업 Anthropic의 CEO 다리오 아모데이(Dario Amodei)는 화요일 성명에서 이번 주 파리에서 열린 AI 액션 서밋(AI Action Summit)을 "아쉬운 기회(missed opportunity)"라고 평가하며, AI 산업과 정부가 "더 빠르고 명확하게 움직여야 한다"고 촉구했습니다.
아모데이는 "파리 AI 액션 서밋에 참석하게 되어 기쁘며, 프랑스 정부가 전 세계의 AI 기업, 연구원, 정책 입안자들을 한자리에 모으기 위해 노력한 점에 감사드린다"고 말했지만, "기술이 발전하는 속도를 고려할 때 몇 가지 주제에 대해서는 더 큰 집중과 시급성이 요구된다"고 덧붙였습니다.
AI 기업과 규제 기관들이 모여 AI 거버넌스에 대한 합의점을 찾으려 했던 일련의 학회 중 가장 최근에 열린 이 서밋에 대한 아모데이의 비판은 이번 주 초 학계에서 제기된 의견들과 맥을 같이합니다.
한 매체는 미국과 영국이 서명을 거부한 회의의 약속들이 "진부한 구호(platitudes) 외에는 실질적으로 아무것도 담고 있지 않다"고 지적한 바 있습니다.
한편, 회의에서 연설에 나선 미국 부통령 JD 밴스는 완전히 다른 입장을 취하며, 유럽이 추진하는 AI 규제가 "막대하고(massive) 숨 막힌 규제"라고 비난했습니다. 밴스는 또한 콘텐츠 조정 문제도 거론하며, 회의 약속에 포함된 "지속 가능(sustainable)" 및 "포괄적(inclusive)"이라는 문구들을 "권위주의적 검열"이라며 거부 의사를 표명했습니다.
아모데이는 성명을 통해 AI가 빠르게 진화하고 있으며, 이를 규제하지 못할 경우 재앙적인 결과를 초래할 수 있다고 경고했습니다.
그는 "AI 시스템의 능력은 고도로 지능적인 인재들이 등장하는 완전히 새로운 국면에 비견될 수 있다"고 말했습니다. 아모데이는 "첨단 AI는 비국가 행위자에 의한 AI 시스템 오용을 포함하여 광범위한 글로벌 안보 위험을 제기한다. 우리는 민주주의 사회가 AI를 이끌어 나가고, 권위주의 국가들이 이를 활용하여 글로벌 군사적 패권을 구축하는 일을 막아야 한다"고 강조했습니다.
아모데이는 각 정부가 AI가 어떻게 사용되는지 측정하는 데 자원을 투입하고, "모두가 매우 강력한 AI의 경제적 이익을 공유하도록 보장하는" 데 초점을 맞춘 정책을 제정할 것을 촉구했습니다. 또한, AI 안전 및 보안, 그리고 AI 위험 평가 계획과 관련하여 정부의 투명성을 높여야 한다고 주장했습니다.
이러한 아모데이의 파리 AI 서밋에 대한 평가는, 이번 주말 성명에서 이 서밋이 "모두를 위한 AI의 책임감 있고 유익한 발전을 향한 또 다른 중요한 이정표"가 될 것이라고 자신감을 내비친 OpenAI의 견해와 대조적입니다.
Anthropic은 과거 전반적으로 AI 규제에 대해 더 개방적인 입장을 보여왔습니다. 실제로 아모데이는 이전에 유사한 발언을 여러 차례 했으며, 통제되지 않은 AI가 경제적, 사회적, 안보적으로 심대한 부정적 영향을 미칠 수 있다고 경고한 바 있습니다. Anthropic은 포괄적이며 논란이 많은 AI 규제 법안인 캘리포니아의 SB 1047을 암묵적으로 지지한 몇 안 되는 AI 기업 중 하나였습니다. 이 법안은 OpenAI가 반대한 바 있으며, 지난 가을 개빈 뉴섬 주지사에 의해 거부되었습니다.
다만, 이는 Anthropic의 목적이 순전히 자선적이라는 의미는 아닙니다. 아모데이는 최근 에세이를 쓴 OpenAI의 샘 알트만(Sam Altman)과 마찬가지로, 만약 강력한 AI가 가까운 미래에 등장하더라도 그 이익이 광범위하고 공평하게 분배되도록 보장하기 위한 구체적인 권고안은 제시하지 않았습니다.
파리 인공지능 액션 서밋에 대한 전체 기사를 참고해 주십시오.