그래머리(Grammarly)가 지난주 AI를 이용해 편집 피드백을 시뮬레이션하는 논란의 기능을 선보였습니다. 이 기능은 사용자가 소설가 스티븐 킹, 고(故) 과학자 칼 세이건, 혹은 기술 기자 카라 스위셔 같은 전문가들로부터 비평을 받는 것처럼 느끼게 합니다. 그러나 그래머리는 이 기능인 "전문가 검토(Expert Review)"에 포함된 수백 명의 전문가들로부터 이들의 이름을 사용할 권한을 얻지 못했습니다.
이로 인해 피해를 본 작가 중 한 명인 기자 줄리아 앵윈(Julia Angwin)은 그래머리의 모회사인 슈퍼휴먼(Superhuman)을 상대로 집단 소송을 제기했습니다. 앵윈은 회사가 자신과 이 기능을 통해 사칭된 다른 작가들의 사생활권과 퍼블리시티 권리를 침해했다고 주장했습니다. 집단 소송을 통해 다른 작가들도 앵윈의 소송에 참여할 수 있게 됩니다.
앵윈은 성명에서 “저는 작가이자 편집자로서 수십 년간 경력을 쌓았지만, 기술 회사가 제 어렵게 쌓은 전문 지식의 모조품을 판매하고 있다는 사실을 알고 큰 충격을 받았습니다”라고 말했습니다.
이 상황은 아이러니함을 넘어섭니다. 앵윈 자신은 평생을 기술 기업의 사생활 침해 영향을 조사하는 데 바쳐왔기 때문입니다. 또한, 저명한 AI 윤리학자 [성명 누락]와 같이 이 기술에 비판적인 다른 전문가들 또한 그래머리의 "전문가 검토"에 포함되어 있었습니다.
연간 144달러를 지불하는 구독자에게만 제공되는 "전문가 검토" 기능은 예견된 대로 깊이 있는 피드백을 제공하지 못했습니다.
기술 뉴스레터 플랫폼러(Platformer)의 설립자이자 편집자인 케이시 뉴턴(Casey Newton)은 그래머리가 사칭한 인물 중 한 명으로서, 자신의 기사 하나를 이 도구에 넣고 기술 기자 카라 스위셔를 모방한 AI로부터 피드백을 받았습니다. 그래머리가 구현한 스위셔의 답변은 워낙 일반적이었기 때문에, 애초에 회사가 이러한 작가들의 초상권을 활용하는 복잡한 절차를 거쳤는지 의문이 제기될 정도였습니다.
그래머리가 카라 스위셔를 모방하여 제시한 내용은 다음과 같았습니다. “일일 AI 사용자들과 AI 회의론자들이 위험을 어떻게 다루는지 간략하게 비교하여, 독자들이 따라갈 수 있는 흐름을 만들어주시겠어요?”
뉴턴은 이 AI 모방물이 전한 메시지를 실제 인물인 카라 스위셔에게 전달했습니다.
스위셔는 뉴턴에게 문자 메시지를 보내며(그래머리를 지칭하며) “너희 같은 탐욕스러운 정보 및 신분 도둑들은 내가 ‘풀 맥코너히(full McConaughey)’ 모드로 나갈 준비를 하는 게 좋을 거야. 그리고 너희들은 형편없어.”라고 답했습니다.
슈퍼휴먼 CEO 시시르 메호트라(Shishir Mehrotra)의 링크드인(LinkedIn) 게시물에 따르면, 그래머리는 이후 "전문가 검토" 기능을 비활성화했습니다. 메호트라는 사과문과 함께 기능 자체의 아이디어는 계속 옹호했습니다.
그는 “교수님이 에세이를 다듬어 주거나, 영업 리더가 고객 프레젠테이션을 재구성하거나, 사려 깊은 비평가가 주장의 약점을 지적하거나, 선도적인 전문가가 제안서를 향상시키는 상황을 상상해 보세요. 전문가들에게 이는 그래머리가 하고 있는 것처럼, 사용자들과 광범위한 유대감을 형성할 기회입니다”라고 적었습니다.