수요일에 발표된 정책 보고서에서 전 Google CEO 에릭 슈미트, Scale AI CEO 알렉산드르 왕, Center for AI Safety 디렉터 댄 헨드릭스는 미국이 '초인적인' 지능, 즉 AGI(범용 인공지능) 시스템을 개발하기 위해 맨해튼 프로젝트 방식의 추진을 해서는 안 된다고 주장했다.
"..."라는 제목의 이 보고서는 미국이 초지능 AI 시스템을 독점적으로 통제하려는 공격적인 시도는 사이버 공격 등의 형태로 중국으로부터 격렬한 보복을 초래하여 국제 관계를 불안정하게 만들 위험이 있다고 경고한다.
공동 저자들은 "AGI를 위한 맨해튼 프로젝트는 경쟁자들이 이를 막기 위해 움직이기보다 지속적인 불균형이나 전멸 상태를 용인할 것이라고 가정한다"고 지적하며, "슈퍼무기와 글로벌 통제를 목표로 하는 움직임은 적대적 대응을 촉발하고 긴장을 고조시켜, 오히려 이 전략이 확보한다고 주장하는 안정성 자체를 훼손할 위험이 있다"고 덧붙였다.
미국 AI 업계의 핵심 인물 세 명이 공동 집필한 이 보고서는, 불과 몇 달 전 미국 의회 위원회가 1940년대 미국 원자폭탄 개발 프로그램에 모델을 삼아 AGI 개발에 자금을 지원하는 '맨해튼 프로젝트식' 노력을 제안한 직후에 발표되었다. 실제로 크리스 라이트 미국 에너지부 장관은 OpenAI 공동 창립자인 그렉 브록먼과 함께 슈퍼컴퓨터 현장에서 미국이 AI 분야의 "새로운 맨해튼 프로젝트가 시작되는 지점"에 있다고 언급한 바 있다.
『슈퍼지능 전략(The Superintelligence Strategy)』 보고서는 최근 몇 달 동안 여러 미국 정책 및 산업 리더들이 주장해 온, AGI를 추구하는 정부 지원 프로그램이 중국과의 경쟁을 위한 최선의 방법이라는 견해에 이의를 제기한다.
슈미트, 왕, 헨드릭스에 따르면, 미국은 상호 확증 파괴(Mutual Assured Destruction)와 유사한 AGI 대치 상황에 놓여 있다. 글로벌 강대국들이 적대국으로부터 선제공격을 유발할 수 있는 핵무기에 대한 독점을 추구하지 않는 것과 마찬가지로, 슈미트와 공동 저자들은 현 시점에서 성급한 군비 경쟁이 위험할 수 있다고 경고한다.
이들은 AI 기술을 둘러싼 경쟁이 과열되더라도, 기술 개발의 속도보다 국제적인 협력 체계가 우선되어야 한다고 주장한다. 또한, 국가 주도형 개발보다는 민간 주도의 투명하고 공정한 생태계 구축이 중요하다고 강조한다.
세부적으로, 이들은 정부는 시장의 변동성과 예측 불가능한 위험에 대비하여 규제와 가이드를 제시하는 역할을 맡아야 하며, 정부가 기술 개발의 주체가 되기보다는 윤리적 기준과 인프라 구축에 집중해야 한다고 제언한다.
결론적으로, 이 보고서는 기술 경쟁 자체를 부정하기보다, 인공지능이 인류에게 미칠 잠재적 위험을 관리하고, 기술이 특정 국가나 집단의 이익에만 사용되는 것을 막는 국제적인 '거버넌스' 구축에 초점을 맞추어야 한다고 역설한다.
[출처:] https://techcrunch.com/2025/03/05/eric-schmidt-argues-against-a-manhattan-project-for-agi