잉글랜드 및 웨일스 고등법원은 변호사들이 자신의 업무에서 인공지능(AI)을 오용하는 것을 막기 위해 더욱 강력한 조치를 취해야 한다고 지적했다.
판결문
빅토리아 샤프(Victoria Sharp) 판사는 최근 두 건의 사건 판결을 종합하며, ChatGPT와 같은 생성형 AI 도구는 "신뢰할 수 있는 법률 조사를 수행할 능력이 없다"고 밝혔다.
샤프 판사는 "이러한 도구들은 프롬프트에 대해 겉보기에는 일관되고 그럴듯한 응답을 생성할 수 있지만, 그 응답이 완전히 틀릴 수도 있다"면서, "응답 내용이 단순한 사실이 아닌 확신에 찬 주장을 할 수 있다"고 강조했다.
이는 변호사들이 자신의 연구 과정에서 AI를 사용할 수 없다는 뜻은 아니지만, 그녀는 변호사들이 전문적인 업무에 이러한 조사를 활용하기 전에 반드시 "공신력 있는 출처를 참고하여 정확성을 검토할 전문적인 의무가 있다"고 덧붙였다.
샤프 판사는 변호사들(미국 측 변호사 포함, 주요 AI 플랫폼을 대리한 변호사들 포함)이 AI가 생성한 허위 정보로 보이는 내용을 인용하는 사례가 증가함에 따라, "관련 지침이 준수되고 변호사들이 법원에 대한 의무를 다하도록 보장하기 위해 더 많은 노력이 필요하다"고 제안했다. 그녀는 자신의 판결문이 변호사 협회(Bar Council) 및 법률가 협회(Law Society)를 포함한 관련 전문 기관들에 전달될 것이라고 밝혔다.
문제의 첫 번째 사건에서, 두 은행을 상대로 손해배상을 청구하는 남성을 대리한 변호사는 45개의 인용 자료가 포함된 문서를 제출했다. 샤프 판사는 이 중 18개 사례는 존재하지 않았고, 다른 많은 사례들 역시 "인용된 내용을 담지 않았거나, 제시된 명제를 뒷받침하지 못했으며, 신청 주제와 무관했다"고 지적했다.
다른 사건에서는 런던 자택에서 퇴거한 남성을 대리한 변호사가 존재하지 않는 것으로 추정되는 5개 사례를 인용한 법원 문서를 작성한 사례가 있었다. (이 변호사는 AI 사용을 부인했으나, 인용 자료가 "Google이나 Safari 등에서 발견된 AI 생성 요약본"에서 유래했을 수 있다고 언급했다.) 샤프 판사는 법원이 위엄 실추 절차(contempt proceedings)를 개시하지 않기로 결정했지만, 이는 "전례(precedent)가 될 수는 없다"고 명확히 했다.
그녀는 "이러한 측면에서 전문적인 의무를 이행하지 않는 변호사들은 심각한 제재를 받을 위험이 있다"고 경고했다.
두 변호사 모두 전문 규제 기관에 자체적으로 또는 기관의 권고에 따라 회부되었다. 샤프 판사는 변호사들이 법원에 대한 의무를 태만히 할 경우, 법원의 권한은 "공개 경고(public admonition)"부터 비용 부과, 위엄 실추 절차를 거치거나 심지어 "경찰에 회부(referral to the police)"하는 것까지 광범위하다고 언급했다.