노스캘리포니아 법원에 목요일 제출된 서류에 따르면, Anthropic을 대리하는 변호사는 음악 출판사들과의 진행 중인 소송 과정에서 회사 소유의 Claude AI 챗봇이 만든 잘못된 인용을 사용한 사실을 인정했습니다.
Anthropic은 해당 서류에서 Claude가 "부정확한 제목과 부정확한 저자"로 환각(hallucinate)적인 인용을 생성했다고 밝히며, 이 내용은 블룸버그가 최초로 보도했습니다. Anthropic 측 변호사들은 자신들이 진행했던 "수동 인용 확인 절차"가 이를 잡아내지 못했을 뿐만 아니라, Claude의 환각으로 인해 발생한 다른 여러 오류들 역시 감지하지 못했다고 설명했습니다.
Anthropic은 이 오류에 대해 사과하며, 이를 "권위의 위조가 아닌 순수한 인용 실수"로 규정했습니다.
한편, 이 사안보다 앞서 유니버설 뮤직 그룹(Universal Music Group) 및 다른 음악 출판사들을 대리한 변호사들은 Anthropic의 전문가 증인 중 한 명인 회사 직원 올리비아 첸(Olivia Chen)이 증언 과정에서 가짜 논문을 인용하기 위해 Claude를 사용했다고 비난했습니다. 이에 연방 판사 수잔 반 쿨런(Susan van Keulen)은 Anthropic 측에 해당 혐의에 대한 답변을 명령했습니다.
이 음악 출판사들의 소송은 저작권 소유자들과 기술 기업들 사이에서 생성형 AI 도구 제작 과정에서 자신들의 저작물이 오용되었다고 주장하며 발생한 여러 분쟁 사례 중 하나입니다.
이는 법정에서 AI 사용이 논란이 되고 있음을 보여주는 최근 사례입니다. 이전에 한 캘리포니아 판사는 두 법무법인이 법정에 "가짜 AI 생성 연구 자료"를 제출한 것을 강하게 비판한 바 있습니다. 또한 작년 1월에는 호주 변호사 한 명이 법원 문서 작성에 ChatGPT를 사용했다가 챗봇이 잘못된 인용을 생성한 것이 적발된 사례도 있었습니다.
하지만 이러한 오류들에도 불구하고, 스타트업들이 법률 업무를 자동화하기 위해 대규모 자금 조달을 하는 것은 저해받지 못하고 있습니다. 법률가들을 지원하는 생성형 AI 모델인 Harvey는 50억 달러의 기업가치로 2억 5천만 달러 이상의 자금 조달을 논의 중인 것으로 알려졌습니다.