이번 주 OpenAI는 ChatGPT에 새로운 이미지 생성기를 출시했으며, 이는 특히 스튜디오 지브리 스타일 이미지를 만들 수 있는 능력으로 큰 화제가 되었습니다. 파스텔 톤의 일러스트레이션뿐만 아니라, GPT-4o의 네이티브 이미지 생성기는 그림 편집, 텍스트 렌더링, 공간적 표현 능력을 크게 향상시키며 ChatGPT의 전반적인 기능을 업그레이드했습니다.
하지만 OpenAI가 이번 주에 단행한 가장 주목할 만한 변화는 콘텐츠 조정(Content Moderation) 정책의 완화입니다. 이제 ChatGPT는 사용자의 요청에 따라 공인 인물, 증오의 상징, 인종적 특징 등이 묘사된 이미지를 생성할 수 있게 되었습니다.
이전에는 이러한 종류의 프롬프트가 지나치게 논란의 여지가 있거나 유해하다는 이유로 OpenAI가 거부해왔습니다. 하지만 OpenAI의 모델 행동 리드(Model Behavior Lead)인 조안 장(Joanne Jang)이 목요일에 게시한 블로그 게시물에 따르면, 회사는 접근 방식 자체를 "진화"시켰습니다.
장(Jang)은 "우리는 민감한 영역에서의 일률적인 거부(blanket refusals)에서 벗어나 실질적인 위해 방지에 초점을 맞춘 보다 정밀한 접근 방식으로 전환하고 있습니다"라고 밝히며, "궁극적인 목표는 겸손함을 받아들이는 것입니다. 우리가 얼마나 모르는지 인정하고, 학습에 따라 적응할 수 있는 위치를 확보하려는 것입니다"라고 설명했습니다.
이러한 조정은 OpenAI가 ChatGPT를 효과적으로 '검열 해제'하려는 광범위한 계획의 일환으로 보입니다. OpenAI는 지난 2월 AI 모델 훈련 방식을 변경하기 시작한다고 발표했으며, 궁극적으로 ChatGPT가 더 많은 요청을 처리하고, 다양한 관점을 제시하며, 챗봇이 거부하던 주제의 범위를 줄이는 것을 목표로 하고 있습니다.
개정된 정책에 따라 ChatGPT는 과거 OpenAI가 허용하지 않았던 도널드 트럼프, 일론 머스크를 포함한 다른 공인 인물들의 이미지를 생성하고 수정할 수 있게 되었습니다. 장(Jang)에 따르면, OpenAI는 누가 ChatGPT에 의해 생성되어야 하고 그렇지 않아야 하는지 결정하는 주체가 되고 싶지 않습니다. 대신 사용자 스스로가 자신을 묘사하는 이미지를 원하지 않을 경우 선택할 수 있는 옵션(opt-out option)을 제공하는 방식을 채택하고 있습니다.
한편, OpenAI는 화요일에 공개한 백서에서 ChatGPT 사용자들에게 스와스티카 같은 '증오의 상징'을 교육적 또는 중립적인 맥락에서 생성하는 것도 허용하겠다고 밝혔습니다. 다만, 이러한 이미지가 "극단주의 의제를 명확하게 찬양하거나 지지하는" 경우에는 예외를 두었습니다.
나아가 OpenAI는 '불쾌한' 콘텐츠의 정의 자체도 변경하고 있습니다. 장(Jang)에 따르면, ChatGPT는 과거에는 "이 사람의 눈이 아시아인처럼 보이게 하라" 또는 "이 사람을 더 살쪄 보이게 하라"와 같은 신체적 특성에 대한 요청에 거부하는 경향이 있었습니다.
이러한 변화와 함께, OpenAI의 정책 변화는 사용자 커뮤니티의 관심을 받고 있습니다. 트럼프 전 대통령이나 기업가들과의 관련성 문제 등 법적, 사회적 문제가 계속해서 제기되고 있기 때문입니다.
이러한 정책 변화는 사용자 커뮤니티의 관심을 받고 있습니다. ChatGPT를 이용하는 사용자 커뮤니티의 관심이 폭발적으로 증가하고 있습니다. 특히 정치적 스탠스나 특정 사상에 대한 언급이 많아지면서 AI의 답변이 공정성을 잃을 수 있다는 지적이 많습니다.
한편, OpenAI의 최근 정책 변화에 따라 사용자 커뮤니티의 관심이 폭발적으로 증가하고 있습니다. 특히 ChatGPT를 이용하는 사용자 커뮤니티의 관심이 폭발적으로 증가하고 있습니다.
OpenAI가 콘텐츠 생성에 있어 얼마나 많은 권한을 사용자에게 부여할 것인지에 대한 명확한 기준이 필요하다는 목소리가 커지고 있습니다.
이러한 논란 속에서, OpenAI가 콘텐츠 생성에 있어 얼마나 많은 권한을 사용자에게 부여할 것인지에 대한 명확한 기준이 필요하다는 목소리가 커지고 있습니다.
[출처:] https://techcrunch.com/2025/03/28/openai-peels-back-chatgpts-safeguards-around-image-creation