일상에서 주의하실 점을 먼저 알려드립니다. 개인 의료 데이터를 AI 챗봇에 업로드하기 전에는 신중하게 생각해야 합니다.
사람들은 자신의 건강 문제를 문의하고 전반적인 건강 상태를 이해하기 위해 OpenAI의 ChatGPT나 Google의 Gemini 같은 생성형 AI 챗봇을 자주 이용하고 있습니다. 일부 사람들은 AI를 사용하여 자신의 생식기 상태가 질병으로부터 깨끗한지 등을 판단하는 등 의심스러운 앱에 의존하기도 했습니다. 가장 최근에는 10월을 기점으로 소셜 미디어 사이트 X의 사용자들이 자신의 엑스레이, MRI, PET 스캔 등을 해당 플랫폼의 AI 챗봇 Grok에 업로드하여 결과를 해석하는 데 도움을 받도록 권장받고 있습니다.
의료 데이터는 연방 차원의 보호를 받는 특별한 범주에 속하며, 대부분의 경우 사용자가 스스로 보호를 우회하기로 결정할 수 있는 정보입니다. 하지만 능력이 있다고 해서 반드시 해야 한다는 의미는 아닙니다. 보안 및 개인 정보 보호 전문가들은 오랫동안 업로드된 민감한 데이터가 AI 모델을 훈련하는 데 사용될 수 있으며, 결과적으로 사적이고 민감한 정보가 노출될 위험이 있다고 경고해 왔습니다.
생성형 AI 모델은 업로드된 데이터가 모델 출력의 정보력과 정확도를 높이는 데 도움을 준다는 전제하에 종종 해당 데이터를 기반으로 훈련됩니다. 그러나 업로드된 데이터가 구체적으로 어떻게, 어떤 목적으로 사용되는지, 혹은 누구와 공유되는지는 항상 명확하지 않으며, 기업의 정책은 바뀔 수 있습니다. 사용자들은 기업들의 말을 전적으로 신뢰하기 어렵습니다.
사람들은 AI 훈련 데이터 세트에서 자신들의 사적인 의료 기록을 발견할 수 있으며, 이는 의료 제공자, 잠재적인 미래 고용주, 정부 기관 등 누구에게나 노출될 수 있다는 뜻입니다. 게다가 대부분의 일반 소비자용 앱은 미국 의료 개인 정보 보호법인 HIPAA의 보호를 받지 않아 업로드된 데이터에 대해 보호를 제공하지 않습니다.
Grok에 의료 이미지를 업로드하도록 사용자들을 독려했던 X의 소유주 일론 머스크는 Grok의 결과가 "아직 초기 단계"이지만, AI 모델은 "극도로 좋아질 것"이라고 인정했습니다. 사용자들이 의료 이미지를 제출하도록 유도하는 목적은, AI 모델이 시간이 지남에 따라 개선되어 일관된 정확도로 의료 스캔을 해석할 수 있는 능력을 갖추도록 하는 것입니다. 하지만 이 Grok 데이터에 누가 접근할 수 있는지는 불분명합니다. 다른 곳에서 언급되었듯이, Grok의 개인 정보 보호 정책에 따르면 X는 일부 사용자의 개인 정보를 명시되지 않은 수의 "관련된" 회사들과 공유한다고 명시하고 있습니다.
인터넷상에 올라간 정보는 결코 인터넷을 떠나지 않는다는 점을 기억하는 것이 좋습니다.
[출처:] https://techcrunch.com/2024/11/19/psa-you-shouldnt-upload-your-medical-images-to-ai-chatbots