구글은 자사의 새로운 AI 모델 제품군이 '감정 감지'라는 흥미로운 기능을 탑재했다고 밝혔습니다.
지난 목요일에 공개된 PaliGemma 2 모델군은 이미지를 분석할 수 있어, 인공지능이 사진 속 인물들에 대한 캡션을 생성하고 질문에 답하는 것이 가능합니다.
구글은 TechCrunch에 공유한 블로그 게시물에서 "PaliGemma 2는 단순한 사물 식별을 넘어 행동, 감정, 그리고 장면 전체의 내러티브를 설명하는 상세하고 맥락에 맞는 이미지 캡션을 생성합니다"라고 설명했습니다.
구글에 따르면, PaliGemma 2는 자사의 Gemma 오픈 모델 세트, 그중에서도 Gemma 2 시리즈를 기반으로 합니다.
감정 인식 기능은 기본적으로 탑재되어 있지 않아, PaliGemma 2는 해당 목적을 위해 추가적인 미세 조정(fine-tuning)이 필요합니다.
이러한 기술적 배경에도 불구하고, 이 기술의 오용 가능성에 대해 지적하는 전문가들은 우려를 표했습니다. 한 전문가는 "감정 인식이 마치 객관적인 사실인 것처럼 다뤄지면서, 사람들이 스스로를 규제하게 만드는 사회적 통제 수단으로 변질될 위험이 있다"고 경고했습니다.
AI 윤리 전문가들은 기술이 인간의 감정적 다양성을 무시하는 방식으로 사용될 경우, 심리적 피해를 유발할 수 있다고 지적했습니다.
한편, 이 기술의 실효성에 대해서도 의문을 제기하는 목소리가 높습니다. 한 연구원은 "현재 기술로는 복합적인 인간의 감정 상태를 정확하게 읽어내는 것이 불가능하며, 이는 심각한 오해를 낳을 수 있다"고 지적했습니다.
이러한 윤리적 논란 속에서, AI 산업계는 보다 투명하고 책임감 있는 AI 개발과 활용에 대한 사회적 합의가 필요하다고 강조하고 있습니다.