Bumble은 사용자들이 데이팅 앱이 AI로 생성된 프로필로 인해 훼손되지 않도록 도움을 요청하며, 지난 화요일에는 회원이 AI가 생성한 사진이나 비디오를 이용했을 가능성이 있다고 의심되는 프로필을 신고할 수 있는 새로운 옵션을 도입했습니다.
이제 사용자가 프로필을 신고할 때, '가짜 프로필(Fake profile)'을 선택하고 'AI로 생성된 사진 또는 비디오 사용(Using AI-generated photos or videos)' 옵션을 선택할 수 있습니다. 다른 신고 옵션으로는 부적절한 콘텐츠, 미성년자 사용자, 사기 행위, 타인의 사진 무단 사용 등이 있습니다.
Bumble의 새로운 신고 옵션은 안타깝게도 데이팅 앱에서 AI가 생성한 사진들이 만연해지고, 이는 사기나 사람들을 속이는 데 자주 이용되는 시점에 맞춰 도입되었습니다. 버튼 하나만으로도 상대방에게 자신이 요트를 소유하고 탄탄한 근육을 가졌다고 오인하게 만들 수 있습니다. Bumble은 이 새로운 신고 옵션이 사람들이 AI를 이용해 진실성을 결여한 행위를 억제하는 데 도움이 되기를 기대합니다.
Bumble의 제품 담당 부사장 리사 스타인(Risa Stein)은 TechCrunch에 보내는 성명에서 "의미 있는 관계를 구축하는 공간을 조성하는 데 필수적인 부분은 오해를 불러일으키거나 위험한 요소를 제거하는 것입니다"라고 밝혔습니다. 이어 "저희는 Bumble이 안전하고 신뢰할 수 있는 데이팅 환경이 되도록 기술을 지속적으로 개선할 의지가 있습니다. 이 새로운 신고 옵션 도입을 통해, 악의적인 행위자들이나 가짜 프로필 사용자들이 AI를 속임수로 이용하는 방식을 더 정확히 파악하고, 저희 커뮤니티가 안심하고 관계를 맺을 수 있도록 할 것입니다."라고 덧붙였습니다.
이번 신고 옵션은 Bumble이 AI와 인간의 모더레이션을 활용하여 가짜 프로필, 스패머, 사기꾼을 탐지하고 제거하는 " "라는 AI 도구를 출시한 이후 마련되었습니다. Bumble에 따르면, 이 기능을 2월에 출시한 이후 스팸, 사기 및 가짜 프로필에 대한 회원들의 신고 건수가 45% 감소했습니다. 또한 Bumble은 나체 사진을 자동으로 흐릿하게 처리하는 AI 기반 " " 도구도 보유하고 있습니다.
Bumble이 AI 생성 프로필과 맞서 싸우는 동안, 창립자인 휘트니 울프 허드(Whitney Wolfe Herd)는 이 기술과 관련하여 몇 가지 흥미로운 아이디어를 제시했습니다. 허드는 인터뷰에서 온라인 데이팅의 미래는 AI '데이팅 컨시어지' 또는 비서가 완벽한 짝을 찾기 위해 수백 번의 데이트를 대신 진행하는 방식일 수 있다고 말했습니다. 이러한 아이디어에 얼마나 많은 사람들이 동의할지는 미지수이지만, 각자 의견이 존재할 뿐입니다.
자, 봇들이 봇과 데이트하게 하세요.
[출처:] https://techcrunch.com/2024/07/09/bumble-reporting-option-ai-generated-profiles