AI 도구가 사기범들에게 어떻게 도움이 되고 있는가.
AI가 특정 상황에서 인간을 신뢰성 있게 모방할 수 있게 되면서, 실제 사기꾼들이 이를 활용하는 사례가 발생하는 것은 놀라운 일이 아닙니다. The Express 기사에 따르면, '앤(Anne)'이라고 자신을 소개한 53세 프랑스 여성은 프랑스 방송사 TF1에서 브래드 피트의 AI 생성 이미지를 이용한 사기꾼으로부터 2년에 걸쳐 총 83만 유로(851,355달러)를 사기당했습니다. 앤은 '브래드'가 암 치료에 이 돈이 필요하다고 믿고 돈을 건네주게 됩니다. 이 사기꾼은 단순한 AI 사진이나 비디오를 넘어서는 복합적인 수법을 사용했는데, 여기에는 피해자와의 광범위한 텍스트 기반 관계 구축이 포함되었습니다. 이 과정에서 사기꾼은 정기적인 (역시 AI가 생성한 것으로 추정되는) 시를 보내는 한편, 결국 AI로 생성한 사진이 첨부된 가짜 신장암 스토리까지 꾸몄습니다. 사실 생성된 사진 중 어느 것도 포토샵으로 만들어지지 않은 것처럼 보이지는 않지만, 일반적인 포토샵 작업이 단순한 텍스트 프롬프트만 사용하는 것보다 더 많은 노력을 필요로 합니다. 앤은 이러한 사기 수법에서 흔히 발생하는 결정적인 경고 신호 하나를 간과했습니다. 바로 실시간 전화 통신의 완전한 부재였습니다. 하지만 설령 이 점을 고려했더라도, 음성 통화를 위조하는 것이 빠른 금전적 이득을 위해 AI를 악용하려는 사람들에게는 가능한 범주에 속하는 일입니다. 사이버 범죄자들이 AI를 활용하여 고도화한 다른 범죄 수법으로는, 봇을 이용해 음악을 스트리밍하며 음악 플랫폼을 상대로 송금 사기를 치거나, 피싱 이메일 및 악성 광고 등에 사용할 선동적이거나 불법적인 콘텐츠를 포함한 대량의 스팸을 생성하는 행위 등이 있습니다. AI가 전반적인 스팸 및 사이버 범죄 환경 자체를 근본적으로 바꾸지는 않았지만, 공격이 실행되는 속도와 효율성을 극대화했습니다. 불행하게도 앤은, 돈을 넘겨준 지 약 2년이 지난 후에야 TV에서 자신이 아끼던 유명인 남자친구가 새 여자친구와 함께 건강하고 살아있는 모습(진실)을 보고 자신이 정교한 온라인 사기의 피해자임을 깨닫게 됩니다. 앤이 사건을 당국에 신고했음에도 불구하고, 잃은 돈을 한 푼도 되찾을 수 없었습니다. 이 피해 금액의 상당 부분은 그녀의 백만장자였던 전남편과의 이혼 합의금 출처였으며, 이 사실이 사기꾼으로 하여금 이토록 극단적인 수단까지 사용하도록 부추긴 것으로 보입니다.