OpenAI의 공동 창립자 중 한 명인 [이름 삭제]는 OpenAI를 공식적으로 떠난 지 불과 한 달 만에 새로운 회사인 SSI를 설립했습니다.
오랜 기간 OpenAI의 수석 과학자였던 Sutskever는 전 Y Combinator 파트너 Daniel Gross와 전 OpenAI 엔지니어 Daniel Levy와 함께 SSI를 창립했습니다.
OpenAI 재직 당시 Sutskever는 '초지능(superintelligent)' AI 시스템의 등장에 대응하여 AI 안전성을 개선하려는 회사 노력에 핵심적인 역할을 수행했습니다. 그는 OpenAI의 Superalignment 팀을 공동으로 이끌었던 Jan Leike와 함께 이 분야를 연구했습니다. 하지만 Sutskever와 Leike 모두 AI 안전성 접근 방식에 대해 OpenAI 경영진과 심각하게 의견 충돌을 겪은 후 지난 5월 회사에서 떠났습니다. Leike는 현재 경쟁사 AI 기업인 Anthropic의 팀을 이끌고 있습니다.
Sutskever는 오랫동안 AI 안전성의 더욱 까다로운 측면을 강조해 왔습니다. 2023년 게재된 블로그 게시물에서 Sutskever는 Leike와 함께 글을 쓰며, 인간보다 지능이 우수한 AI가 10년 이내에 도달할 수 있으며, 그때 그것이 반드시 인류에게 이로운(benevolent) 것은 아닐 것이라 예측했습니다. 따라서 AI를 통제하고 제한하는 방안에 대한 연구가 필수적이라고 주장했습니다.
초지능은 이제 현실화되었습니다.
안전한 초지능(Safe Superintelligence, SSI)을 구축하는 것이 우리 시대의 가장 중요한 기술적 문제입니다.
저희는 단 하나의 목표, 즉 안전한 초지능을 가진 세계 최초의 '직진형' SSI 연구소를 설립했습니다.
그 이름은 Safe Superintelligence…
— SSI Inc. (@ssi)
2024년 6월 19일
그는 오늘날에도 변함없는 사명감을 보여주고 있습니다. 수요일 오후에 공개된 Sutskever의 새 회사 설립을 알리는 트윗에서 그는 다음과 같이 밝혔습니다. "SSI는 우리의 사명이자 이름이며, 전체 제품 로드맵 그 자체입니다. 이것이 우리의 유일한 초점이기 때문입니다. 우리 팀, 투자자, 그리고 비즈니스 모델은 모두 SSI 달성에 맞춰져 있습니다. 저희는 안전성과 능력을 혁신적인 공학 및 과학적 돌파구를 통해 해결해야 할 기술적 문제로 통합적으로 접근합니다."
"우리는 안전성이 항상 선행하도록 유지하면서 가능한 한 빨리 능력을 향상시킬 계획입니다. 이러한 방식으로 평화롭게 규모를 확장할 수 있습니다. 우리의 단일 초점 덕분에 경영 오버헤드나 제품 주기 변화로 인한 방해 요소가 없으며, 비즈니스 모델 덕분에 안전성, 보안, 진전이라는 세 가지 핵심 가치가 단기적인 상업적 압력으로부터 보호받습니다."
그는 블룸버그와의 인터뷰를 통해 이 새 회사에 대해 보다 자세히 설명했지만, 자금 조달 상황이나 기업 가치 평가에 대해서는 언급을 피했습니다.
더욱 주목할 점은, 2015년 비영리 조직으로 시작하여 컴퓨팅 파워에 필요한 막대한 자금이 드러나면서 구조를 재편했던 OpenAI와 달리, SSI는 처음부터 영리 법인(for-profit entity)으로 설계되고 있다는 것입니다. AI 분야의 관심도와 팀의 전문성을 고려할 때, SSI 역시 조만간 대규모 자본 유치에 성공할 것으로 예상됩니다. Gross는 블룸버그에 "우리가 직면한 모든 과제 중, 자본 조달이 가장 어려운 문제는 아닐 것"이라고 말했습니다.
SSI는 팔로알토와 텔아비브에 사무실을 두고 있으며, 현재 해당 지역에서 기술 인력을 활발하게 모집하고 있습니다.
참고: OpenAI는 '초지능' AI를 통제하기 위한 새로운 팀을 구성하고 있습니다.