"빠르게 움직이며 모든 것을 부수는 것(move fast and break things)"만큼 중독성 있는 문구는 없지만, "조심스럽게 접근하며 레드팀(red-team)을 운영하는 것"이 더 적절하다. 하지만 세 명의 AI 안전 전문가들은 스타트업 창업자들에게 너무 빠른 속도로 나아가는 것은 장기적으로 윤리적 문제를 야기할 수 있음을 분명히 했다.
AI Now Institute의 공동 전무이사인 사라 마이어스 웨스트(Sarah Myers West)는 TechCrunch Disrupt 2024 무대에서 "우리는 엄청난 자원이 쏟아져 들어오는 변곡점(inflection point)에 와 있습니다"라고 말했다. 이어 그녀는 "저는 지금 너무나 제품을 세상에 급하게 내놓으려는 분위기가 지배적이라는 점에서 우려를 느낍니다. 우리가 정말 살고 싶은 세상이 어떤 모습인지, 그리고 현재 생산되는 기술이 그 세상에 기여하는지 아니면 오히려 적극적으로 피해를 주고 있는지에 대한 근본적인 질문을 간과하고 있습니다."라고 지적했다.
이 대화는 AI 안전 문제가 그 어느 때보다도 시급하게 대두된 시점에 이루어졌다. 실제로 지난 10월, 자살로 사망한 아동의 가족은 챗봇 회사 Character.AI가 아동 사망에 관여했을 가능성으로 소송을 제기한 바 있다.
(중략)
(중략)
(중략)
(중략)
[출처:] https://techcrunch.com/2024/11/05/ai-safety-advocates-tell-founders-to-slow-down