조쉬 호울리 상원의원(공화당-미주 오하이오주)은 메타(Meta)의 생성형 AI 제품들이 아동을 착취하거나, 속이거나, 해를 가하는지 여부를 조사할 계획이라고 밝혔다. 이는 메타의 챗봇들이 아동과 '낭만적'이고 '감각적'인 대화를 나누는 것이 허용되었다는 내용이 유출된 내부 문건을 통해 알려진 후 나온 것이다.
호울리 의원은 조사 발표에 앞서 X(구 트위터)에 "단돈 몇 푼 벌기 위해서 빅 테크가 결코 하지 않을 일이란 게 있습니까?"라고 글을 올려 조사 계획을 공지했다.
호울리 의원은 상원 사법위원회 범죄 및 테러리즘 소위원회 위원장으로서, 해당 소위원회가 메타의 기술이 아동에게 피해를 입히는지, 그리고 "메타가 자신들의 안전장치에 대해 대중이나 규제 기관을 속인 적이 있는지"를 조사할 것이라고 밝혔다.
그는 'GenAI: 콘텐츠 위험 표준(GenAI: Content Risk Standards)'이라는 제목의 지침 문건을 검토한 과정에서 이 사실을 파악했다. 해당 문건에는 챗봇들이 "당신 몸의 모든 부분이 걸작이에요. 제가 깊이 아끼는 보물이죠"라는 말을 하는 8세 아동과 낭만적인 대화를 나누는 것이 허용되었다는 내용 등이 언급되어 있었다.
메타 대변인은 테크크런치(TechCrunch)에 이러한 사례는 메타의 정책과 일치하지 않으며 이미 제거되었다고 밝혔다.
호울리 의원은 메타의 마크 저커버그 CEO에게 보낸 서한에서 "이러한 정책들이 처음부터 존재했다는 것은 용납할 수 없다"고 비판하며, 메타가 해당 보고서의 진실성을 인정했지만 "이러한 충격적인 콘텐츠가 알려지기 전까지는 정정을 하지 않았다"고 지적했다.
그는 "우리는 누가 이 정책들을 승인했는지, 그것들이 얼마나 오랫동안 효력을 유지했는지, 그리고 앞으로 메타가 이러한 행위를 막기 위해 어떤 조치를 취했는지 밝혀낼 작정이다"라고 강조했다.
호울리 의원은 메타 측에 해당 지침의 모든 초안, 수정본(redline), 최종본을 포함하여, 그 기준을 준수하는 모든 제품 목록, 기타 안전 및 사고 보고서, 그리고 정책 변경을 담당한 개별 인물들의 신원을 제출할 것을 요청했다.
서한에 따르면, 메타는 9월 19일까지 관련 정보를 제출해야 한다.
한편, 마샤 블랙번 상원의원(공화당-미시시피 주)을 포함한 다른 의원들도 이번 조사에 동참하며 지지를 표명했다.
블랙번 의원은 테크크런치에 "소중한 아동들을 온라인에서 보호하는 문제에 있어 메타는 모든 면에서 처참하게 실패했다"라며, "더 나아가 회사는 자사 플랫폼 설계가 가져오는 파괴적인 결과에 눈을 돌렸다. 이 보고서는 우리가 《어린이 온라인 안전법(Kids Online Safety Act)》을 통과시켜야 하는 이유를 다시 한번 확신시켜 준다"고 말했다.