지난달 애플은 iOS 18.1 개발자 베타 버전을 출시하며 사용자들에게 자사 기능들을 실제로 경험할 수 있는 기회를 제공했습니다. 애플의 AI 모델을 활용해 텍스트를 재구성하거나 다시 작성할 수 있는 '쓰기 도구(Writing Tools)'는 이번 업데이트에서 새로 추가된 항상 사용 가능한 서비스 중 하나입니다. 다만, 이 도구는 특정 주제를 다룰 경우 AI가 생성한 제안의 품질이 최고 수준이 아닐 수 있다는 경고 메시지를 표시합니다.
사용자가 텍스트를 수정해야 할 때 시스템 전반 어디서든 '애플 인텔리전스(Apple Intelligence)'를 호출할 수 있습니다. 하지만 "s—"나 "bastard" 같은 욕설이 포함된 단락이나 문장을 재작성하려고 시도할 경우, "쓰기 도구는 이러한 유형의 콘텐츠를 처리하도록 설계되지 않았습니다(Writing Tools was not designed to handle this type of content)"라는 경고와 함께 재작성 품질에 변동이 있을 수 있다는 내용의 헤더 텍스트 경고가 나타납니다.
이러한 경고가 발생하는 원인이 욕설에 국한되는 것은 아닙니다. 약물, 살인, 또는 살해와 관련된 언급도 이와 같은 경고를 촉발시킵니다.
(사진 출처: Apple/TechCrunch)
애플 인텔리전스가 경고를 표시하는 경우에도, 학습하지 않은 단어나 구문을 사용하면 여전히 제안을 제공합니다. 테스트 과정 중 한 번, 저는 경고를 회피하기 위해 "sh—y"를 "crappy"로 대체했고, AI 도구는 이전과 완전히 동일한 제안을 반환했습니다.
저희는 쓰기 도구가 어떤 주제에 대해서는 제안을 제공하지 못하는지에 대한 구체적인 정보를 애플 측에 요청했습니다. 회사로부터 답변이 오는 대로 기사를 업데이트하겠습니다.
애플은 AI가 문장을 재작성할 때 특정 단어, 주제, 어조를 제한함으로써 논란을 피하려는 의도가 있는 것으로 보입니다. 실제로 애플 인텔리전스 기반의 쓰기 도구는 애초부터 완전히 새로운 콘텐츠를 생성하도록 설계된 것은 아닙니다. 하지만 애플은 AI가 이러한 민감한 용어들을 다룰 때 사용자들에게 경고를 보내고자 합니다.
애플이 키보드의 자동 수정 제안 기능에서 욕설 차단을 구현하는 데에는 오랜 시간이 걸렸습니다. 실제로 작년 iOS 17에 와서야 애플은 사용자가 자주 사용하는 욕설까지 학습하는 자동 수정 기능을 마침내 도입했습니다. 어쩌면 애플은 이번 애플 인텔리전스를 통해 문제가 될 수 있는 콘텐츠를 생성한 것에 대해 규제 당국의 비난을 사전에 막기 위해 매우 신중을 기하고 있는 것일 수도 있습니다.