영국 정부는 AI를 통해 경제 및 산업 활성화를 위해 대대적인 방향 전환을 시도하고 있으며, 이러한 일환으로 불과 1년여 전에 설립했던 기관의 목적 또한 크게 변경하고 있습니다. 오늘 과학산업기술부(Department of Science, Industry and Technology)는 AI 안전 연구소(AI Safety Institute)의 명칭을 "AI 보안 연구소(AI Security Institute)"로 개칭할 것이라고 발표했습니다 (첫 글자와 URL은 동일). 이로써 해당 기관은 기존에 존재론적 위험(existential risk)이나 대규모 언어 모델(large language models)의 편향성 등 광범위한 분야를 탐구하던 초점에서 벗어나, 사이버 보안, 특히 "AI가 국가 안보 및 범죄에 가하는 위험에 대한 보호 강화"에 중점을 두게 됩니다.
정부는 이와 함께 Anthropic과의 새로운 파트너십도 발표했습니다. 구체적인 서비스는 언급되지 않았으나, MOU에 따르면 양측은 Anthropic의 AI 비서인 Claude를 공공 서비스에 활용하는 방안을 "탐색"할 예정이며, Anthropic은 과학 연구 및 경제 모델링 분야의 작업에 기여하는 것을 목표로 합니다. 또한, AI 보안 연구소는 보안 위험 식별 관점에서 AI 역량을 평가할 수 있는 도구를 제공할 방침입니다.
Anthropic의 공동 설립자이자 CEO인 Dario Amodei는 성명을 통해 "AI는 정부가 시민들에게 서비스를 제공하는 방식을 근본적으로 변화시킬 잠재력을 가지고 있다"고 말했습니다. 그는 "Anthropic의 AI 비서 Claude가 영국 정부 기관들이 공공 서비스의 질을 높이는 데 어떻게 기여할지 기대하며, 궁극적으로 영국 거주민들에게 필수 정보와 서비스가 보다 효율적이고 접근 가능하도록 만드는 새로운 방법을 발견하는 것이 목표입니다"라고 덧붙였습니다.
Anthropic은 오늘 발표되는 유일한 기업이며, 이는 뮌헨에서 열리는 일련의 AI 행사 주간과 시기를 맞추고 있습니다. 그러나 정부와 협력하는 유일한 기업은 아닙니다. 지난 1월에 공개되었던 일련의 새로운 도구들은 모두 OpenAI의 기술을 기반으로 했습니다. (당시 기술 국무장관인 Peter Kyle은 정부가 다양한 기초 AI 기업들과 협력할 계획이며, Anthropic과의 계약이 이를 입증하는 사례라고 밝힌 바 있습니다.)
AI 안전 연구소를 큰 기대를 모으며 출범한 지 불과 1년여 만에 AI 보안으로 초점을 바꾸는 이번 정부의 결정은 그다지 낯설지 않을 수 있습니다.
새로 출범한 노동당 정부가 1월에 발표한 AI 중심의 '변화 계획(Plan for Change)'에는 '안전(safety)', '해악(harm)', '존재론적(existential)', '위협(threat)'과 같은 단어들이 전혀 등장하지 않은 점이 주목할 만했습니다.
이는 단순한 간과가 아닙니다. 정부 계획은 기술, 특히 AI를 활용하여 보다 현대화된 경제에 대한 투자를 촉진하는 데 초점을 맞추고 있습니다. 정부는 빅 테크 기업들과 더욱 긴밀한 협력을 원하며, 자체적인 국내 빅 테크 기업 육성 또한 목표로 하고 있습니다.
이러한 정책 기조에 따라 정부가 꾸준히 강조해 온 핵심 메시지는 '발전(development)', 'AI', 그리고 '더 많은 발전'이었습니다. 공무원들은 '[]'라는 이름의 자체 AI 비서기를 갖게 되며, 업무 속도를 높이기 위해 데이터 공유 및 AI 활용이 독려되고 있습니다. 소비자들 역시 정부 문서용 디지털 지갑과 챗봇을 이용하게 될 것입니다.
그렇다면 AI 안전 문제는 해결된 것일까요? 정확히 말하자면 그렇지 않지만, 메시지는 이러한 문제가 진보의 희생양이 될 수는 없다는 것입니다.
정부는 명칭이 변경되더라도 그 근본적인 목표는 변하지 않을 것이라고 강조했습니다.
카일은 성명에서 "오늘 제가 발표하는 변화들은 책임감 있는 AI 개발 접근 방식에 있어 논리적인 다음 단계이며, 이는 우리의 변화 계획(Plan for Change)의 일환으로 AI를 활용하여 경제 성장을 도모하는 데 도움이 될 것"이라고 밝혔습니다. "AI 보안 연구소의 본질적인 임무는 변치 않겠지만, 새롭게 강화된 초점은 우리의 시민뿐만 아니라 동맹국의 시민들까지도 AI를 이용해 우리의 제도, 민주적 가치, 그리고 생활 방식을 위협하는 행위자로부터 보호하는 데 초점을 맞추고 있습니다."
한편, AI 안전에 대한 논의는 국제적으로 활발한 가운데, 이번 논의의 중심에 서 있는 미국이라는 국가의 특성을 간과할 수 없습니다. 미국은 세계적인 기술 패권 국가로서, 자국 산업과 경제를 보호하는 것을 최우선 가치로 여깁니다. 이는 정책적, 기술적 측면에서 강력한 국가 개입과 규제를 요구하는 경향으로 나타납니다.
.*