테크크런치 디스럽트 2024(TechCrunch Disrupt 2024)에서 열린 AI 관련 세션은 허위 정보 퇴치에 관한 패널 토론으로 강렬하면서도 건설적인 분위기 속에 시작되었습니다. 패널들은 서로 존중하고 공감하는 분위기 속에서 소셜 미디어와 생성형 AI에 대해 날카로운 지적을 쏟아냈습니다.
하지만 이 중 가장 강력하게 비판한 인물은 디지털 혐오 대응 센터(Center for Countering Digital Hate)의 CEO 이므란 아흐메드였습니다.
그는 "정치에는 항상 허위 정보가 존재해 왔으며, 많은 정치인들이 거짓말을 예술이자 정치 도구로 이용해 왔습니다. 하지만 지금 우리가 마주한 상황은 양적으로 완전히 다른 차원이며, 이는 기존 정치적 허위 정보의 군비 경쟁을 핵무기 경쟁과 비교할 정도입니다"라고 말했습니다.
이어서 그는 "변화한 것은 경제학입니다. 생성형 AI에 힘입어 허위 정보 생산의 한계 비용은 제로로 떨어졌고, 허위 정보 유포의 한계 비용 또한 제로입니다. 이론적으로 여러분이 갖게 된 것은, 생성형 AI가 콘텐츠를 생산하고, 배포하며, 성능을 평가(A/B 테스트)하여 개선하는 완전한 루프 시스템입니다. 이것은 영속적인 가짜 정보 생산 기계와 같습니다. 이는 매우 우려스러운 일입니다!"라고 덧붙였습니다.
UC 버클리 CITRIS 정책 연구소 소장인 브랜디 논네케는 자발적 제한이나 투명성 보고서 형태의 자율 규제가 완전히 불충분하다고 지적했습니다.
그녀는 "이런 투명성 보고서가 실질적인 도움이 되지 않는다고 생각합니다. 왜냐하면 이 보고서에서는 '우리가 얼마나 열심히 일하고 있는지 보여드립니다. 수만 건의 유해 콘텐츠를 제거했습니다'라고만 할 뿐이니까요. 그런데 실제로 제거하지 못한 것은 무엇인가요? 여전히 떠다니는 놓친 콘텐츠는 무엇인가요? 이는 마치 실질적인 실사를 수행하고 있다는 잘못된 인식을 줍니다. 하지만 제 생각엔, 그 이면에는 이 모든 콘텐츠를 어떻게 처리해야 할지 고심하는 거대한 혼란만 있을 뿐입니다"라고 지적했습니다.
페이스북 감독 위원회(Facebook Oversight Board) 공동 의장인 파멜라 산 마틴은 원칙적으로는 동의했지만, 지나친 경계가 부작용을 낳을 수 있음을 경고했습니다. 그녀는 "어떤 소셜 미디어 플랫폼도 자신이 할 수 있는 모든 것을 하고 있다고 단정 짓는 것은 완전히 사실이 아닐 것입니다. 특히 메타(Meta)에 대해서는 그렇지 않다고 말씀드리고 싶습니다"라고 했습니다.
이어 그녀는 "당신의 말씀에 공감하지만, 우리는 올해 80개국이나 선거가 있는 해가 AI와 선거가 융합된 해가 될 것이라고 예상했습니다. 전 세계의 모든 선거가 AI 딥페이크로 범람하고 그것이 서사를 장악할 것이라 생각했습니다"라며 말을 이었습니다. "물론 증가세는 목격했지만, 선거가 AI 생성 콘텐츠로 완전히 범람하는 모습은 목격하지 못했습니다. 제가 왜 이런 말을 하냐면, 동의하지 않아서가 아닙니다. 매우 우려되기는 하지만, 공포에 기반한 조치를 취하기 시작하면 AI가 가진 좋은 잠재력까지 놓칠 수 있다는 점을 명심해야 한다고 생각하기 때문입니다."
2024년 10월 30일 – 2024년 10월 30일
스토리라인:
테크크런치 디스럽트 2024: 토니 패델, 메리 바라, 콜린 케퍼닉, 그리고 새로운 스타트업 배틀필드 우승자
테크크런치 디스럽트 2024가 수백 명의 연사, 수백 개의 스타트업 및 전시 업체, 그리고 수천 명의 참석자들과 함께 시작되었습니다.
[출처:] https://techcrunch.com/2024/10/30/clashing-approaches-to-combat-ais-perpetual-bullst-machine