OpenAI CEO 샘 알트만은 지난 금요일 늦게 회사와 국방부가 자사 AI 모델을 국방부의 기밀 네트워크에서 사용할 수 있도록 합의에 도달했다고 발표했다.
이번 합의는 국방부(DoD)와 OpenAI의 경쟁사인 Anthropic 사이에 벌어진 격렬한 대립에 따른 것이다. 국방부는 트럼프 행정부 시절 '전쟁부(Department of War)'로 알려지기도 했던 국방부를 중심으로, Anthropic을 포함한 AI 기업들에게 모델을 "모든 합법적인 목적"으로 사용하도록 압박해왔다. 반면 Anthropic은 대규모 국내 감시와 완전 자율 무기 시스템 도입에 대해 엄격한 제한점을 주장했다.
Anthropic의 CEO 다리오 아모데이는 목요일 발표된 긴 성명에서, 회사가 "특정 군사 작전에 대해 결코 이의를 제기하거나 자사 기술 사용을 임의로 제한하려 한 적이 없다"고 해명하면서도, "특정 좁은 범위의 경우에는 AI가 민주적 가치를 방어하기보다 훼손할 수 있다고 믿는다"는 견해를 피력했다.
한편, OpenAI 직원 60명 이상과 Google 직원 300명은 이번 주에 동료들에게 Anthropic의 입장을 지지해 달라는 공개 서한에 서명했다.
Anthropic과 국방부가 합의에 이르지 못하자, 도널드 트럼프 전 대통령은 소셜 미디어를 통해 Anthropic을 "좌파 극단주의자들"이라고 비난하며, 연방 기관들에 해당 기업의 제품 사용을 6개월간 점진적으로 중단할 것을 지시하기도 했다.
별도의 게시물에서 피트 헤그셋 국방장관은 Anthropic이 "미국군의 작전 결정에 대한 거부권을 장악하려 하고 있다"고 주장했다. 헤그셋 장관은 또한 Anthropic을 '공급망 위험'으로 지정하며, "즉시부로 미국군과 거래하는 모든 계약업체, 공급업체, 파트너는 Anthropic과 상업적 활동을 할 수 없다"고 공표했다.
Anthropic 측은 금요일에 "현재까지 국방부나 백악관으로부터 협상 진행 상황에 대한 직접적인 통보를 받지 못했다"고 밝히는 한편, "어떠한 공급망 위험 지정도 법정에서 이의를 제기할 것"이라고 강하게 주장했다.
놀랍게도 알트만은 X(구 트위터) 게시물을 통해 OpenAI의 새로운 국방 계약에는 Anthropic에게 논란이 되었던 사안들을 다루는 안전장치가 포함되어 있다고 밝혔다.
알트만은 "우리의 가장 중요한 안전 원칙 두 가지는 국내 대규모 감시 금지와 자율 무기 시스템을 포함한 무력 사용에 대한 인간의 책임이다"라며, "국방부도 이러한 원칙에 동의하며 이를 법률과 정책에 반영했고, 우리는 이를 계약에 포함했다"고 설명했다.
또한 알트만은 OpenAI가 "모델이 적절하게 작동하도록 보장하는 기술적 보호 장치를 구축할 것이며, 이는 국방부 또한 원했던 부분"이라며, 국방부와 함께 엔지니어를 파견하여 "모델의 안전성을 확보하고 지원할 것"이라고 덧붙였다.
알트만은 "국방부에 이와 동일한 조건을 모든 AI 기업에 제시할 것을 요청하며, 이는 우리의 견해로는 모두가 수용해야 할 부분"이라고 강조하며, "법적·정부적 조치 대신 합리적인 합의로 상황이 완화되기를 바라는 강력한 열망을 표했다"고 덧붙였다.
포춘(Fortune)의 샤론 골드만 보도에 따르면, 알트만은 전체 직원 회의에서 정부가 오용을 방지하기 위해 자체적인 '안전 스택(safety stack)'을 구축할 수 있도록 허용할 것이며, "만약 모델이 특정 작업을 거부한다면, 정부가 OpenAI에 해당 작업을 강제할 수는 없을 것"이라고 직원들에게 말했다.
한편, 알트만의 게시물은 미국과 이스라엘 정부가 이란 폭격을 시작했다는 소식이 알려지기 직전에 나왔으며, 트럼프 전 대통령은 이란 정부의 전복을 촉구한 바 있다.