수백 명의 기술 전문가들이 국방부(DOD)에 애스로픽(Anthropic)을 '공급망 위험(supply-chain risk)'으로 지정한 것을 철회할 것을 촉구하는 공개 서한에 서명했습니다. 이 서한은 나아가 의회에 개입하여 "미국 기술 기업을 상대로 이러한 특별 권한을 사용하는 것이 적절한지 조사할 것"을 촉구하고 있습니다.
이 서한에는 OpenAI, Slack, IBM, Cursor, Salesforce Ventures 등 주요 기술 및 벤처 캐피탈 회사 관계자들이 서명에 이름을 올렸습니다. 이는 지난주 AI 연구소(애스로픽)가 군에 자사 AI 시스템에 대한 무제한 접근을 거부한 이후 발생한 국방부와 애스로픽 간의 분쟁에 따른 것입니다.
애스로픽이 펜타곤과의 협상에서 제시한 두 가지 핵심 '레드 라인'은 첫째, 자사 기술이 미국인을 대상으로 한 대규모 감시(mass surveillance)에 사용되는 것을 원치 않는 것이었고, 둘째, 인간 개입(human in the loop) 없이 표적을 지정하고 발사할 수 있는 자율 무기의 동력원으로 사용되는 것을 원치 않는 것이었습니다. 국방부는 이 두 가지 모두에 대한 계획은 없다고 밝혔으나, 애스로픽이 공급업체의 규칙에 의해 제한되어야 한다고는 생각하지 않는다고 반박했습니다.
애스로픽의 다니오 아모데이(Dario Amodei) CEO가 피트 헤그스(Pete Hegseth) 국방장관과의 합의에 실패한 후, 도널드 트럼프 대통령은 금요일 연방 기관들에 6개월의 전환 기간을 거쳐 애스로픽 기술 사용을 중단하라고 지시했습니다. 이후 헤그스 장관은 애스로픽을 공급망 위험으로 지정하는 조치를 취했습니다. 이 지정은 통상적으로 외국 적대국에게만 적용되는 조치로, 애스로픽을 펜타곤과 거래하는 모든 기관이나 회사로부터 거래를 차단할 수 있는 의미를 가집니다.
헤그스 장관은 금요일에 게시물을 통해 "즉시 발효되어, 미국 군대와 거래하는 모든 계약자, 공급업체, 파트너는 애스로픽과 어떠한 상업 활동도 할 수 없다"고 밝혔습니다.
하지만 X에 게시한 내용만으로는 애스로픽이 자동적으로 공급망 위험 지정 대상이 되지는 않습니다. 정부는 위험 평가를 완료하고 의회에 통지해야만 군사 파트너들이 애스로픽이나 그 제품과의 관계를 끊을 수 있습니다. 애스로픽은 블로그 게시물에서 이 지정이 "법적 근거가 미약하다"며, "공급망 위험 지정에 대해 법정에서 이의를 제기할 것"이라고 반박했습니다.
업계 많은 이들은 행정부가 애스로픽을 대하는 태도가 지나치게 가혹하며 명백한 보복 조치라고 보고 있습니다.
공개 서한에는 "두 당사자가 조건에 합의하지 못할 경우, 정상적인 과정은 관계를 정리하고 경쟁사와 협력하는 것이다"라고 적혀 있습니다. 이어 "이 상황은 위험한 선례를 남깁니다. 미국 기업이 계약 변경을 받아들이지 않았다는 이유로 처벌하는 것은 미국 모든 기술 기업에 명확한 메시지를 전달합니다. 즉, 정부가 요구하는 조건을 받아들이거나, 아니면 보복에 직면할 수 있다는 것입니다"라고 지적했습니다.
정부가 애스로픽을 가혹하게 대하는 문제 외에도, 업계에서는 정부의 잠재적인 권한 남용과 악의적인 목적을 위한 AI 사용에 대한 우려가 여전히 커지고 있습니다.
OpenAI 연구원인 보아즈 바라크(Boaz Barak)는 월요일 소셜 미디어 게시물을 통해 정부가 AI를 이용해 대규모 국내 감시를 하는 것을 막는 것 역시 자신의 "개인적 레드 라인"이며 "우리 모두가 지켜야 할 원칙이 되어야 한다"고 주장했습니다.
트럼프가 애스로픽을 공개적으로 공격한 직후, OpenAI는 자사 모델을 국방부의 기밀 환경에 배치할 수 있는 자체 계약을 체결했다고 발표했습니다. OpenAI의 샘 알트만(Sam Altman) CEO는 지난주 이 회사 역시 애스로픽과 같은 핵심 가이드라인을 가지고 있다고 밝혔습니다.
바라크는 "지난 한 주간의 사건들 중 긍정적인 결과를 꼽자면, AI 업계가 AI를 정부의 남용이나 자국민 감시 목적으로 사용하는 문제를 그 자체로 파국적 위험(catastrophic risk)으로 다루기 시작하는 것이 될 것"이라고 언급했습니다. "우리는 생물학 무기나 사이버 보안 같은 위험에 대해서는 평가, 완화, 그리고 프로세스를 체계적으로 구축해 왔습니다. 여기에서도 유사한 프로세스를 적용해야 합니다."