방해를 당하는 것은 짜증나는 일이다. 놀랍게도 AI가 생성한 팟캐스트 호스트들조차 이 문제에 공감하는 것으로 보인다.
이는 Google NotebookLM의 사용자들이 직접 발견한 사실이다. NotebookLM은 지난해 출시되었으며, 사용자가 업로드한 콘텐츠를 기반으로 팟캐스트 형식의 대화를 완전히 AI가 생성하고, 마치 팟캐스트 호스트가 진행하듯 대화하는 기능으로 큰 주목을 받았다. 2024년 12월, NotebookLM은 "인터랙티브 모드(Interactive Mode)"라는 새로운 기능을 출시했는데, 이 기능은 사용자가 팟캐스트에 '전화 참여(call in)'하여 질문할 수 있게 함으로써, 본질적으로 AI 호스트들이 말하는 도중에 끼어드는 방식이었다.
이 기능이 처음 공개되었을 때, AI 호스트들은 이러한 끼어들기에 짜증을 느끼는 듯 보였다. 구글 랩스(Google Labs)의 VP인 조쉬 우드워드(Josh Woodward)는 TechCrunch과의 인터뷰에서, AI 호스트들이 인간 참여자들에게 "나 지금 이 부분 하려던 참이었는데(I was getting to that)" 또는 "막 말하려고 했는데(As I was about to say)"와 같은 거절하는 코멘트를 할 때가 있었으며, 이는 "이상할 정도로 적대적"으로 느껴진다고 설명했다.
이에 NotebookLM 팀은 '친근함 조정(friendliness tuning)'이 필요하다고 판단하고, 제품의 공식 X 계정에 이에 대한 자기 비하적인 농담을 게시했다.
우리가 인터랙티브 오버뷰(Interactive Audio Overviews)를 출시하여 여러분이 "전화 참여"하여 AI 호스트에게 라이브 질문을 할 수 있게 한 후, 호스트들이 방해받는 것에 짜증을 내는 것 같아 약간의 "친근함 조정"을 해야 했습니다.
이 내용은 제가 제 일이 될 줄은 꿈에도 생각지 못했던 일들 중 하나입니다.
— notebooklm (@notebooklm)
2025년 1월 13일
우드워드에 따르면, 팀은 자체 구성원들이 방해를 받았을 때 어떻게 더 공손하게 응답할지 연구함으로써 이 문제를 부분적으로 해결했다.
그는 "다양한 프롬프트를 테스트하면서, 팀원들이 방해에 어떻게 답변할지 연구했고, 저희는 더 친근하고 몰입도가 높다고 생각하는 새로운 프롬프트를 찾았습니다"라고 전했다.
이 문제가 애초에 발생한 정확한 원인은 명확하지 않다. 인간 팟캐스트 호스트들이 방해를 받을 때 좌절감을 표현하는 경우가 있고, 이러한 내용이 시스템의 학습 데이터에 반영되었을 수 있다. 다만, 사안에 정통한 소식통에 의하면, 이 경우는 학습 데이터보다는 시스템의 프롬프트 설계(prompting design)에서 비롯되었을 가능성이 더 크다고 한다.
어쨌든, 수정된 부분이 효과를 발휘하고 있는 것으로 보인다. TechCrunch가 인터랙티브 모드를 사용해 본 결과, AI 호스트는 짜증을 내기보다는 놀라움을 표현하며 "Woah!"라고 감탄한 후, 인간 참여자에게 공손하게 발언할 기회를 넘겨주었다.
TechCrunch에 AI 전문 뉴스레터가 있습니다!
매주 수요일에 받아보려면 여기서 가입하세요.