전문 서비스 및 컨설팅 회사인 딜로이트(Deloitte)가 자사가 부정확한 AI 생성 콘텐츠를 포함한 정부 계약 보고서를 환불해야 한다는 사실이 공개된 바로 그날, 안트로픽(Anthropic)과 대규모 AI 기업 계약을 체결했다고 발표했습니다.
요약하자면, 이번 딜로이트의 안트로픽과의 계약은 기술을 활용하는 한편 그 기술적 한계와 책임에 대한 시험대와 같습니다. 그리고 딜로이트만이 이러한 난제에 직면해 있는 것은 아닙니다.
이번 발표 시점은 흥미롭기까지 합니다. 딜로이트가 AI 사용 확대를 자랑한 바로 그날, 호주 고용노동부(Department of Employment and Workplace Relations)는 컨설팅 회사가 해당 부서에 수행한 보고서에 AI 환각(hallucinations)이 포함되었기 때문에 환불을 해야 한다고 보도한 바 있습니다.
파이낸셜 타임스(Financial Times)에 따르면, 해당 부서는 올해 초 딜로이트에 A$439,000 규모의 "독립 보증 검토(independent assurance review)"를 의뢰했으며, 이 보고서는 이전에 공개된 바 있습니다. 오스트레일리안 파이낸셜 리뷰(Australian Financial Review)는 지난 8월 해당 검토서에 존재하지 않는 학술 보고서 인용이 여러 건 포함된 등 여러 오류가 있다고 보도했습니다. 이후 수정된 검토본이 지난주 해당 부서 웹사이트에 업로드되었습니다. 파이낸셜 타임스는 딜로이트가 정부 계약의 최종 분할금까지 상환할 것이라고 보도했습니다.
테크크런치(TechCrunch)는 딜로이트에 논평을 요청했으며, 회사의 답변이 나오는 대로 기사를 업데이트할 예정입니다.
한편, 딜로이트는 월요일에 안트로픽의 챗봇 클로드(Claude)를 거의 50만 명에 달하는 전 세계 직원들에게 배포할 계획을 발표했습니다. 안트로픽 블로그 포스트에 따르면, 작년에 파트너십을 맺은 딜로이트와 안트로픽은 금융 서비스, 헬스케어, 공공 서비스 등 규제 산업을 위한 컴플라이언스 제품과 기능을 공동 개발할 계획입니다. 또한 딜로이트는 CNBC의 보도에 따르면, 회계사, 소프트웨어 개발자 등 각기 다른 부서를 대표하는 여러 AI 에이전트 "페르소나"를 구축할 계획입니다.
딜로이트의 글로벌 기술 및 생태계 및 제휴 리더인 란지트 바와(Ranjit Bawa)는 블로그 포스트를 통해 "딜로이트가 안트로픽의 AI 플랫폼에 막대한 투자를 하는 이유는 책임 있는 AI에 대한 우리의 접근 방식이 매우 일치하기 때문이며, 함께 다음 10년 동안 기업 운영 방식을 근본적으로 변화시킬 수 있기 때문입니다. 클로드는 많은 고객과 우리 자체 AI 전환 과정에서 계속해서 선도적인 선택지로 남아 있습니다"라고 밝혔습니다.
이 계약(안트로픽이 '연합(alliance)'이라고 지칭)의 구체적인 재정 조건은 공개되지 않았습니다.
이번 계약은 안트로픽에게 역대 최대 규모의 기업 배포 사례일 뿐만 아니라, AI가 직장에서 사용하는 도구부터 가정에서 던지는 사소한 질의에 이르기까지, 현대 생활의 모든 측면에 얼마나 깊숙이 스며들고 있는지를 보여줍니다.
사실 딜로이트만이 최근 몇 달 동안 부정확한 AI 결과물 사용으로 논란에 휘말린 기업이나 개인은 아닙니다.
마이애미의 시카고 선타임즈 신문은 지난 5월, 독자들이 일부 책 제목이 작가 본인이 실존했더라도 AI가 생성한 환각 정보임을 발견한 후, 연례 여름 독서 목록에 AI가 생성한 목록을 게재했다는 사실을 인정해야 했습니다. 비즈니스 인사이더(Business Insider)가 입수한 내부 문건에는 아마존의 AI 생산성 도구인 Q Business가 초기 운영 단계에서 정확성 문제에 어려움을 겪었다는 내용이 담겨 있었습니다.
안트로픽 자체도 자사 챗봇 클로드의 AI 환각 정보를 사용한 사례로 비판을 받은 바 있습니다. 이 AI 연구소의 변호사는 올해 초 음악 출판사와의 법적 분쟁 과정에서 회사가 AI 생성 인용을 사용한 사실에 대해 사과하기도 했습니다.