이달, ChatGPT는 4o 모델의 기능으로 이미지 내 텍스트 생성 능력이 크게 향상된 새 이미지 생성기를 공개했습니다.
사용자들은 이미 이 기능을 활용하여 가짜 식당 영수증을 생성하고 있으며, 이는 사기범들이 사용하는 기존에 방대했던 AI 딥페이크 도구 상자에 또 하나의 도구가 추가될 가능성을 제기하고 있습니다.
활동적인 소셜 미디어 게시자이자 VC인 디디 다스(Deedy Das)는 X에 4o를 사용해 만들었다고 언급하며 (실제) 샌프란시스코의 스테이크하우스 가짜 영수증 사진을 게시했습니다.
당신은 4o를 이용해 가짜 영수증을 생성할 수 있다.
"실제 이미지"를 증거로 요구하는 현실 세계의 검증 흐름이 너무 많다. 그 시대는 끝났다.
pic.twitter.com/9FORS1PWsb
— Deedy (@deedydas)
2025년 3월 29일
다른 사용자들도 유사한 결과를 재현했으며, 심지어 음식이나 음료 얼룩을 추가해 더욱 사실적으로 보이게 만든 사례도 있습니다.
원본 이미지의 글자들이 너무 완벽해서 종이에 따라 구부러지지 않고, 마치 공중에 떠 있는 것처럼 보인다. 좀 더 현실적으로 보이도록 시도해 본 사진을 첨부한다. 여러분의 의견을 알려주세요.
pic.twitter.com/EixRSHubeY
— Michael Gofman (@michaelgofman)
2025년 3월 29일
TechCrunch가 발견한 가장 사실적인 예시는 프랑스에서 올라온 것이었습니다. 한 링크드인 사용자가 지역 식당 체인의 구겨진 AI 생성 영수증을 게시했기 때문입니다.
TechCrunch가 4o를 테스트하여 샌프란시스코의 Applebee’s 가짜 영수증도 생성할 수 있었습니다:
chagpt / charles rollet
하지만 저희가 시도한 것에는 위조의 흔적이 몇 가지 있었습니다. 첫째, 총액(total) 부분에 마침표 대신 쉼표가 사용되었습니다. 둘째, 계산이 맞지 않았습니다. LLM은 여전히 기본적인 수학적 연산에 어려움을 겪는 경우가 있어, 이 점은 특별히 놀랍지 않습니다.
그러나 사기범이라면 사진 편집 소프트웨어 또는 어쩌면 더 정교한 프롬프트만으로 이 숫자 몇 개를 빠르게 수정하는 것은 어려울 것입니다.
가짜 영수증을 생성하는 것이 매우 용이해졌다는 것은 사기 범죄에 엄청난 기회를 제공한다는 것을 분명히 시사합니다. 이러한 기술이 악의적인 행위자들에 의해 완전히 가짜 비용에 대해 "환급"받는 데 악용되는 상황을 상상하기란 어렵지 않습니다.
OpenAI 대변인인 타야 크리스티안슨(Taya Christianson)은 TechCrunch와의 인터뷰에서 모든 이미지에 해당 내용이 ChatGPT로 생성되었음을 나타내는 메타데이터가 포함되어 있다고 밝혔습니다. 크리스티안슨은 OpenAI가 사용자들이 사용 정책을 위반할 경우 "조치를 취하며," 실제 사용 사례와 피드백을 통해 "항상 학습하고 있다"고 덧붙였습니다.
TechCrunch는 ChatGPT가 애초에 사용자들이 가짜 영수증을 생성하도록 허용하는 이유와, 이것이 OpenAI의 사용 정책(사기를 금지함)에 부합하는지 질문했습니다.
크리스티안슨은 OpenAI의 "목표는 사용자들에게 가능한 한 많은 창의적인 자유를 제공하는 것"이라 답하며, 가짜 AI 영수증이 "재정 문해력 교육"과 같은 비사기적 상황에서 사용될 수 있을 뿐만 아니라, 독창적인 예술 작품이나 제품 광고를 만드는 데 활용될 수도 있다고 설명했습니다.
[출처:] https://techcrunch.com/2025/03/31/chatgpts-new-image-generator-is-really-good-at-faking-receipts