Anthropic의 공동 설립자 잭 클라크(Jack Clark)와 전 국방부 기술 전문가 브렌던 마커드(Brendan McCord)를 비롯한 설립 멤버들이 참여하는 비영리 단체는 자체적으로 "AI 시대의 미지의 영역을 항해하는 데 필요한 심층적인 철학적 사유를 갖춘 새로운 기술자 및 기업가 세대를 양성한다"는 취지의 벤처 프로그램 및 연구 이니셔티브를 발표했다.
블로그 게시물에서 Cosmos의 의장인 마커드는 이 연구소가 옥스퍼드 대학교에 ‘인간 중심 AI 연구소(Human-Centered AI Lab)’를 설립할 것이라고 밝혔다. 약칭은 ‘HAI Lab’이다. 이 연구소는 설립 멤버 중 한 명인 옥스퍼드 철학자 필립 코랄루스(Philipp Koralus)가 주도하며, "인간 번영의 철학적 원칙을 오픈 소스 소프트웨어 및 AI 시스템으로 번역하는" 것을 목표로 한다.
여기서 "인간 번영의 철학적 원칙을 번역한다"는 것이 정확히 무엇을 의미하는지는 불분명하다. 하지만 핵심 목표는 인간의 존엄성을 존중하는 동시에 유해한 파괴(예: 자동화로 인한 일자리 손실)를 야기하지 않는 AI 기술 창출을 촉진하는 것이다. 분명 매우 높고 모호한 기준이지만, HAI Lab이 지향하는 바로 그 바이다.
이 연구소는 또한 초기 4명의 연구원(fellows)을 대상으로 코스모스 펠로우십(Cosmos Fellowship)을 개설한다. 마커드에 따르면, 펠로우들은 HAI Lab이나 다른 파트너 기관에서 "학기 단위 혹은 1년 정도" 근무하며 코스모스 멘토들과 협력하여 "[AI 전문성과 심오한 철학적 통찰력]의 교차점"을 탐구하는 독립 프로젝트를 수행하게 된다.
이 연구소의 계획에는 투자 부문도 포함되어 있으며, 이는 벤처 조직인 코스모스 벤처스(Cosmos Ventures) 형태로 출범한다. 코스모스 벤처스는 전 DeepMind 제품 책임자인 제이슨 자오(Jason Zhao), 전 Stripe 기업 전략 책임자인 알렉스 코모로스키(Alex Komoroske), 대런 주(Darren Zhu), 조이 와인버그(Zoe Weinberg)가 이끌며, "기술 철학을 둘러싼 근본적인 질문들을 탐구하는 도발적인 새로운 프로토타입, 에세이, 창의적인 프로젝트"를 지원할 것이라고 마커드는 전했다.
마커드는 코스모스 벤처스를 연구소 펠로우인 타일러 카우엔(Tyler Cowen)의 모델을 따른 "낮은 운영 비용(low overhead)"을 특징으로 설명했다. 투자는 프로젝트당 1,000달러에서 10,000달러 사이이며, 신규 또는 기존 프로젝트 모두 3개월 이내에 "주요 결과물(major deliverable)"을 산출해야 한다.
마커드에 따르면, 이미 첫 기수에 대한 자금 지원이 이루어졌다.
코스모스 연구소가 AI에 대한 더욱 윤리적이고 인간적인 비전을 추구하려는 첫 시도는 아니다. 모든 인류에게 첨단 AI의 혜택을 전달하는 사명으로 설립된 OpenAI는 이미 안전 관련 전담 팀 전체를 해체한 바 있다. 클라크가 소속된 Anthropic 역시 한때 더 안전하고 윤리적인 공급업체로 자리매김했으나, 최근 몇 달 동안 AI 규제에 반대하며 무단으로 데이터를 공격적으로 수집해 온 전력이 있다.
어쩌면 코스모스 연구소는 마커드가 언급하는 '가속주의(accelerationism)'를 포용하면서 더 나은 성과를 거둘지도 모른다. 가속주의란 미래가 미리 정해진 것이 아니기에, 인간이 자신들이 가진 미래에 대한 책임을 지녀야 한다는 사상이다.
마커드는 "우리는 안주보다 탐구를 장려하고, 수동적 의존보다 능동적 참여를 장려하는 AI를 구축해야 하며, 특히 교육, 의학, 공공 영역 및 기타 핵심 영역에서 그러해야 한다"고 강조했다. "우리는 권력을 분산시키고 개개인과 지역사회가 더 풍요롭고 다양한 사회를 공동으로 창조하도록 돕는 하향식 해결책(bottom-up solutions)을 가능하게 하는 AI를 옹호한다."
이러한 입장들은 훌륭하다. 다만 이 기자는 돈, 영향력, 권력이 이러한 원칙들을 포기하는 유혹을 거부할 수 없게 만들지는 않을지 바랄 뿐이다.