AI 회사 창업가들은 특히 과학 분야의 패러다임을 바꿀 수 있는 기술적 잠재력에 대해 대담한 주장을 해온 것으로 알려져 있습니다. 하지만 허깅 페이스(Hugging Face)의 공동 창업자이자 최고 과학 책임자(chief science officer)인 토마스 울프(Thomas Wolf)는 좀 더 신중한 입장을 취하고 있습니다.
울프는 목요일 X에 게재된 에세이에서 AI 연구 분야에 근본적인 돌파구가 없다면 AI가 "서버 위의 예스맨(yes-men on servers)"에 그칠 것이라고 우려를 표명했습니다. 그는 현재의 AI 개발 패러다임으로는 노벨상을 수상할 만한, 틀을 깨는 창의적 문제 해결 능력을 지닌 AI를 구현하기 어려울 것이라고 상세히 설명했습니다.
울프는 "사람들이 흔히 저지르는 주된 실수는 뉴턴이나 아인슈타인 같은 인물들을 단순히 규모만 커진 우등생으로 오해하는 것입니다. 천재성이란 상위 10% 학생의 성적을 선형적으로 외삽(extrapolate)한다고 해서 탄생하는 것이 아닙니다"라고 썼습니다. 그는 "데이터 센터에 아인슈타인을 만들려면, 단순히 모든 정답을 아는 시스템을 넘어, 다른 누구도 생각하거나 감히 묻지 못한 질문을 던질 수 있는 시스템이 필요합니다"라고 역설했습니다.
울프의 이러한 주장은 올해 초 에세이를 통해 "초지능(superintelligent)" AI가 "과학적 발견을 대폭 가속화"할 수 있다고 주장한 OpenAI의 샘 알트만(Sam Altman)의 견해와 대비됩니다. 마찬가지로 Anthropic의 다리오 아모데이(Dario Amodei) 사장 역시 AI가 대부분의 암 유형에 대한 치료법을 공식화하는 데 도움을 줄 수 있다고 예측했습니다.
울프가 오늘날 AI에 대해 제기하는 문제점, 그리고 기술이 궁극적으로 도달할 것이라 생각하는 지점은, AI가 이전에 무관했던 사실들(facts)을 연결하여 새로운 지식을 생성해내지 못한다는 점입니다.
이러한 한계를 지적하며, 그는 새로운 방식의 평가가 필요하다고 주장했습니다. 즉, 도구가 보여준 지식을 테스트하는 것이 아니라, 도구가 생성한 지식의 ‘질’과 ‘원리’를 평가해야 한다는 것입니다.
그는 과거의 평가 방식으로는 부족하며, 인류가 풀어내지 못한 새로운 질문을 던지거나, 가설을 세우고 논리적 사고 과정을 설명할 수 있는 AI를 개발하는 것이 필요하다고 역설했습니다.
결론적으로, 울프는 "AI는 더 이상 단순한 정보 처리 시스템이어서는 안 된다. AI는 과학적 원리, 즉 '왜'라는 질문에 답할 수 있어야 한다"고 강조했습니다.