아이팟의 개발자이자 네스트 랩스(Nest Labs)의 설립자, 투자자인 토니 패델(Tony Fadell)이 지난 화요일 샌프란시스코에서 열린 테크크런치 디스럽트 2024(TechCrunch Disrupt 2024)의 한 인터뷰에서 OpenAI CEO 샘 알트만(Sam Altman)을 공개적으로 겨냥하는 발언을 했습니다. 대규모 언어 모델(LLM) 열풍 이전의 AI 개발의 깊은 역사를 이해하고 있다는 점과 LLM 환각(hallucinations) 문제의 심각성을 강조하며 패델은 "저는 AI 분야에서 15년 동안 일해 왔습니다. 저는 그저 아무 말이나 지껄이는 사람이 아닙니다. 저는 샘 알트만이 아닙니다, 알겠죠?"라고 말했습니다.
이 발언에 청중들 사이에서는 작은 박수 소리 속에서도 놀라움이 담긴 탄성("오")이 새어 나왔습니다.
패델은 인터뷰 내내 여러 주제를 다루며 강연을 이어갔습니다. 제품을 훌륭하게 만드는 '사람'의 역량부터 현 LLM의 문제점까지 다양한 영역을 아우른 것입니다.
그는 LLM이 "특정 목적에는 매우 유용하다"고 인정하면서도, 여전히 해결해야 할 심각한 우려 사항들이 산적해 있음을 설명했습니다.
그는 "LLM은 우리가 공상 과학을 현실로 구현하려 하기에, 마치 '범용적'이 되려고 노력합니다."라며 "[LLM은] 잘난 체하는 것 같습니다. 저는 잘난 체하는 것을 정말 싫어합니다."라고 비판했습니다.
대신, 패델은 특정 분야에 대해 훈련되었으며 오류와 환각에 대해서도 투명하게 공개하는 AI 에이전트를 사용할 것을 제안했습니다. 그런 방식을 택한다면, 사용자들은 해당 업무를 위해 AI를 '고용'하기 전에 AI에 대한 모든 정보를 확인할 수 있을 것이기 때문입니다.
그는 "저는 그들을... 교육시켜 달라고 고용합니다. 혹은 저와 함께 일할 부조종사(co-pilot)로 고용합니다. 또는 저를 대체해 달라고 고용합니다."라고 설명하며, 정부가 개입하여 이러한 투명성을 의무화해야 한다고 덧붙였습니다.
그는 그렇지 않을 경우, AI를 사용하는 기업들이 "과장된 기술" 때문에 자신들의 명성까지 걸게 될 것이라고 지적했습니다.
패델은 "지금 우리는 모두 이 기술을 수용하고 있지만, 이것이 어떤 문제를 야기하는지조차 모릅니다."라고 강조했습니다. 또한 최근 보고서에 따르면 ChatGPT를 이용해 환자 보고서를 작성한 의사들의 90%에서 환각이 발견되었다는 사실을 언급하며 "그것들은 사람들을 죽일 수도 있습니다."라고 우려를 표했습니다. 이어 "우리는 이 기술을 사용하고 있지만, 그 작동 원리조차 모르는 상황입니다."라고 말을 맺었습니다.
(패델은 연구원들이 AI 전사(transcription)를 연구하던 미시간 대학교 연구진이 의료 환경에서 위험할 수 있는 과도한 수의 환각을 발견한 최근 보고서를 언급한 것으로 풀이됩니다.)
알트만에 대한 언급은 그가 청중들에게 자신이 수년 동안 AI 기술을 다뤄온 경험을 공유하면서 나왔습니다. 실제로 네스트(Nest)는 2011년경 자체 온도 조절기(thermostat)에 AI를 도입한 바 있습니다.
패델은 "예전에는 AI나 머신러닝에 대해 언급하는 것 자체가 불가능했습니다. 사람들이 겁을 먹을까 봐서 말이죠. '우리 집에는 AI를 원치 않는다'와 같았습니다. 그런데 이제는 모든 사람이 어디에나 AI를 원하고 있습니다."라고 지적하며 강연을 마무리했습니다.
2024년 10월 30일 – 2024년 10월 30일
[스토리라인]
테크크런치 디스럽트 2024: 토니 패델, 메리 바라, 콜린 캐퍼닉, 그리고 새로운 스타트업 배틀필드 우승자
테크크런치 디스럽트 2024가 시작되면서, 수백 명의 연사, 수백 개의 스타트업 및 전시 업체, 그리고 수천 명의 참석자들이 이곳에 모였습니다...