구글은 자신들이 '더 안전하고', '더 작으며', '더 투명하다'고 주장하는 세 가지 새로운 '오픈' 생성형 AI 모델을 출시했습니다. 이는 매우 대담한 주장입니다.
이 모델들은 지난 5월에 공개된 구글의 Gemma 2 생성형 모델 제품군에 추가된 것입니다. 새로 공개된 Gemma 2 2B, ShieldGemma, Gemma Scope는 각각 다른 응용 분야 및 사용 사례를 위해 설계되었지만, 공통적으로 안전성을 강화하는 데 초점을 맞추고 있습니다.
구글의 Gemma 시리즈 모델은 구글 자체 제품군에 사용되거나 개발자에게 공개되는 Gemini 모델과 구별됩니다. 구글은 Gemini의 소스 코드를 공개하지 않기 때문입니다. 대신, Gemma는 구글이 개발자 커뮤니티의 신뢰(goodwill)를 구축하기 위한 노력으로, 메타(Meta)가 Llama를 통해 시도하는 것과 유사합니다.
Gemma 2 2B는 노트북이나 엣지 디바이스를 포함한 다양한 하드웨어 환경에서 실행 가능한 텍스트 분석 및 생성용 경량 모델입니다. 이 모델은 특정 연구 및 상업적 목적에 한해 라이선스가 부여되며, 구글의 Vertex AI 모델 라이브러리, 데이터 과학 플랫폼 Kaggle, 구글 AI Studio 툴킷 등에서 다운로드할 수 있습니다.
ShieldGemma는 혐오 발언, 괴롭힘, 성적으로 노골적인 콘텐츠와 같은 유해성을 탐지하려는 일련의 "안전성 분류기(safety classifiers)" 모음입니다. Gemma 2를 기반으로 구축된 ShieldGemma는 생성형 모델로 입력되는 프롬프트와 모델이 생성하는 콘텐츠 모두를 필터링하는 데 활용될 수 있습니다.
마지막으로, Gemma Scope는 개발자가 Gemma 2 모델 내 특정 지점에 '확대(zoom in)'하여 작동 방식을 더욱 해석 가능하게 만드는 도구입니다. 구글이 블로그 게시물에서 설명한 바에 따르면, "[Gemma Scope는] Gemma 2가 처리하는 조밀하고 복잡한 정보를 분해하여, 분석하고 이해하기 쉬운 형태로 확장해 주는 특수 신경망으로 구성되어 있습니다. 연구원들은 이러한 확장된 뷰를 연구함으로써 Gemma 2가 패턴을 식별하고, 정보를 처리하며, 궁극적으로 예측을 수행하는 방식에 대한 귀중한 통찰력을 얻을 수 있습니다."
이번 Gemma 2 모델의 발표는 미국 상무부(U.S. Commerce Department)가 예비 보고서를 통해 오픈 AI 모델을 지지한 직후 이루어졌습니다. 해당 보고서는 오픈 모델이 중소기업, 연구원, 비영리 단체, 개인 개발자 등에게 생성형 AI의 접근성을 확대하는 동시에, 잠재적 위험에 대응하기 위해 이러한 모델을 모니터링할 수 있는 기능의 필요성도 강조했습니다.
[출처:] https://techcrunch.com/2024/07/31/google-releases-new-open-ai-models-with-a-focus-on-safety