OpenAI CEO 샘 알트만은 개인 블로그 게시물을 통해, OpenAI가 전통적으로 정의해 온 방식대로 "인공 일반 지능(artificial general intelligence)을 구축하는 방법을 알고 있다"고 믿으며, 이제 목표를 "초지능(superintelligence)"으로 전환하고 있다고 밝혔습니다.
알트만은 해당 게시물에서 "현재의 제품들 역시 사랑하지만, 우리는 영광스러운 미래를 위해 여기에 와 있습니다. 초지능 도구는 우리가 자체적으로 달성할 수 있는 수준을 훨씬 뛰어넘어 과학적 발견과 혁신을 막대하게 가속화할 것이며, 결과적으로 풍요로움과 번영을 대폭 증대시킬 수 있습니다"라고 썼습니다.
그는 앞서 초지능의 등장이 "수천 일" 남지 않은 시점이며, 그 도착이 "사람들이 예상하는 것보다 훨씬 강렬할 것"이라고 언급한 바 있습니다.
AGI, 즉 인공 일반 지능은 다소 모호한 용어이지만, OpenAI는 이를 "가장 경제적으로 가치 있는 작업에서 인간을 능가하는 고도로 자율적인 시스템"으로 정의합니다. OpenAI의 주요 협력사 겸 투자자인 Microsoft 역시 AGI에 대한 정의를 제시했는데, 이는 "최소 1,000억 달러의 수익을 창출할 수 있는 AI 시스템"입니다. 양사 간 계약에 따르면, OpenAI가 이 목표를 달성할 경우 Microsoft는 해당 기술에 대한 접근 권한을 잃게 됩니다.
그렇다면 알트만이 언급하는 정의는 어느 것일까요? 그는 명확히 밝히지 않았지만, 전문가들은 전자의 정의가 가장 유력하다고 보고 있습니다. 알트만은 AI 에이전트(특정 작업을 자율적으로 수행할 수 있는 AI 시스템)가 말하자면 "마치 노동 시장에 진입하여" 올해 "기업의 생산성을 실질적으로 변화시킬 수 있을 것"이라고 썼습니다.
그는 "우리는 훌륭한 도구를 사람들의 손에 점진적으로 제공하는 것이 훌륭하고 광범위하게 분배되는 결과를 가져온다고 계속 믿는다"고 썼습니다.
물론 이는 가능할 수 있지만, 오늘날의 AI 기술이 상당한 한계를 지니고 있다는 것도 사실입니다. 예를 들어, 환각(hallucination) 현상이 발생하고, 인간이라면 쉽게 알아차릴 수 있는 오류를 범하며, 매우 높은 비용이 발생할 수 있습니다.
알트만은 이러한 모든 문제가—그리고 빠르게—해결될 수 있다고 자신하는 듯합니다. 그럼에도 불구하고, 지난 몇 년간 AI를 통해 우리가 배운 것은 "일정(timeline)이 바뀔 수 있다"는 점입니다.
알트만은 "향후 몇 년 안에 모두가 우리가 보는 것을 보게 될 것이며, 광범위한 이익과 역량을 극대화하면서도 매우 신중하게 행동해야 할 필요성이 매우 중요하다는 것을 확신한다"고 썼습니다. 이어 "우리의 작업 가능성을 고려할 때, OpenAI는 평범한 회사일 수 없습니다. 이 작업에 일조할 수 있다는 것은 얼마나 행운이자 겸허한 일인지 모릅니다"라고 덧붙였습니다.
OpenAI가 초지능으로 초점을 전환하고 있음을 보여주는 만큼, 회사가 초지능 시스템이 안전하게 작동하도록 충분한 자원을 투입하기를 바랄 뿐입니다.
실제로 OpenAI는 초지능으로의 성공적인 전환이 "결코 보장되지 않는다"는 점과 모든 해답을 갖고 있지 않다는 점을 여러 차례 강조해 왔습니다. 회사는 2023년 7일자 블로그 게시물에서 "[잠재적으로 초지능 AI를 제어하거나 조향할 해결책을 가지고 있지 않으며, 그것이 통제 불능 상태가 되는 것을 막을 수도 없습니다.]"라고 언급했습니다. "인간은 우리보다 훨씬 똑똑한 AI 시스템을 신뢰성 있게 감독할 수 없기 때문에, 현재의 정렬 기술(alignment techniques)은 초지능 규모로 확장될 수 없습니다."
그러나 해당 게시물 이후, OpenAI는 초지능 시스템 안전을 포함해 AI 안전에 집중했던 팀들을 해체했으며, 여러 영향력 있는 안전 연구원들이 회사를 떠나는 모습을 보였습니다. 이들 직원 중 다수는 OpenAI의 점점 커지는 상업적 야망을 퇴사의 주된 이유로 들었습니다. 현재 회사는 외부 투자자들의 관심을 끌기 위해 기업 구조조정을 거치고 있습니다.
최근 인터뷰에서 자신이 안전성에 충분히 초점을 맞추지 못하다는 비판이 제기되자, 알트만은 "저희의 실적을 지적할 것입니다"라고 응수했습니다.
[출처:] https://techcrunch.com/2025/01/05/openai-is-beginning-to-turn-its-attention-to-superintelligence