ChatGPT 사용자들은 치료나 기타 감정적 지원을 위해 AI 앱을 의존하기 전에 충분히 고민해 볼 필요가 있습니다. OpenAI CEO 샘 알트만(Sam Altman)에 따르면, AI 업계는 AI가 의사를 대체하는 상황에 이르러서도 사용자의 사생활 보호 방안을 아직 명확히 정리하지 못했습니다.
알트만은 테오 폰(Theo Von)의 팟캐스트 'This Past Weekend w/ Theo Von'의 최근 에피소드에서 이러한 발언을 했습니다.
AI가 오늘날의 법률 시스템과 어떻게 상호작용하는지에 대한 질문에 답하며, 알트만은 AI 관련 법적 또는 정책적 체계가 아직 갖춰지지 않은 문제점 중 하나가 사용자의 대화 내용에 대한 법적 기밀성 부재라고 지적했습니다.
그는 "사람들은 자신의 삶에서 가장 사적인 이야기를 ChatGPT와 나눕니다"라며, "사람들은 그것을 — 특히 젊은 층이 — 심리 상담사나 라이프 코치처럼 사용합니다. 관계 문제로 고민하며 '어떻게 해야 할까요?'라고 묻습니다. 그런데 지금 당장, 그런 문제에 대해 상담사, 변호사, 의사에게 이야기하면 법적 특권이 있습니다. 의사-환자 비밀 유지 원칙이 있고, 법적 기밀이 보장되죠. 하지만 ChatGPT와 나눌 때는 아직 그러한 안전장치를 마련하지 못했습니다"라고 말했습니다.
알트만은 소송의 경우 사용자의 사생활 보호에 문제가 생길 수 있다고 덧붙였습니다. 그 이유는 OpenAI가 현재 해당 대화 기록을 법적으로 제출해야 할 의무가 있기 때문입니다.
그는 "저는 이것이 매우 심각한 문제라고 생각합니다. 저희는 AI와의 대화에 대해서도 심리 상담사와의 대화와 동일한 수준의 사생활 보호 개념이 있어야 한다고 봅니다. 그리고 이 문제에 대해 생각해 본 사람은 거의 없었습니다. 심지어 1년 전만 해도 마찬가지였습니다"라고 강조했습니다.
회사는 사생활 보호의 부족이 AI의 광범위한 사용자 채택에 걸림돌이 될 수 있다는 점을 인지하고 있습니다. 더 나아가 AI가 훈련 과정에서 막대한 양의 온라인 데이터가 필요하다는 문제 외에도, 일부 법적 상황에서는 사용자의 채팅 기록까지 제출하도록 요구받고 있습니다. 실제로 OpenAI는 뉴욕타임스(The New York Times)를 상대로 한 소송에서 법원 명령에 대응하고 있으며, 이 명령은 ChatGPT Enterprise 고객을 제외한 전 세계 수억 명의 ChatGPT 사용자 채팅 기록을 의무적으로 보관할 것을 요구하고 있습니다.
OpenAI는 공식 웹사이트 성명을 통해 해당 명령이 "과도한 요구(overreach)"라며 항소하고 있다고 밝혔습니다. 만약 법원이 데이터 프라이버시와 관련된 OpenAI의 자체적 판단을 무효화할 수 있게 된다면, 회사는 법적 증거개시(legal discovery)나 법 집행 목적으로부터 추가적인 요구에 직면할 수 있습니다. 오늘날 기술 기업들은 형사 기소를 돕기 위해 사용자 데이터에 대한 소환장(subpoena)을 정기적으로 받습니다. 하지만 최근 몇 년 동안은 여성의 선택권을 제한하는 등 기존에 확립된 자유권에 대한 접근이 제한되기 시작하면서 디지털 데이터에 대한 우려가 커졌습니다.
예를 들어, 미국 대법원이 로 대 웨이드(Roe v. Wade) 판결을 뒤집었을 때, 고객들은 보다 사적인 생리 주기 추적 앱이나 기록을 암호화한 애플 헬스(Apple Health)로 이동하기 시작했습니다.
알트만은 팟캐스트 진행자에게도 개인적인 사생활 보호 우려 때문에 AI 챗봇 사용에 신중하다는 이야기를 듣고 질문을 던졌습니다.
알트만은 "법적 명확성을 필요로 하듯이, ChatGPT를 많이 사용하기 전에는 정말로 사생활 보호에 대한 명확한 기준이 필요하다고 생각합니다"라고 결론지었습니다.