OpenAI가 자체 ‘추론(reasoning)’ AI 모델인 o1을 API에 제공하지만, 초기에는 특정 개발자 그룹에게만 한해 배포합니다.
회사에 따르면, o1은 화요일부터 OpenAI의 ‘티어 5(tier 5)’ 사용 카테고리에 속하는 개발자들에게 순차적으로 서비스를 개시할 예정입니다. 티어 5에 자격을 갖추려면 개발자는 OpenAI에 최소 $1,000를 지출해야 하며, 계정은 첫 성공적인 결제일로부터 30일 이상 경과해야 합니다.
o1은 기존 API에서 이용 가능했던 o1-preview 모델을 대체합니다.
o1과 같은 추론 모델은 대부분의 AI와 달리 사실 검증(self-fact-check)을 효과적으로 자체 수행할 수 있어, 일반적인 모델들이 겪기 쉬운 몇 가지 오류를 회피하는 데 도움을 줍니다. 다만, 단점으로는 해결책에 도달하는 시간이 더 오래 걸린다는 점을 꼽을 수 있습니다.
또한, 구동하는 데 많은 컴퓨팅 자원이 필요하여 비용이 상대적으로 높은 편입니다. OpenAI는 o1이 분석하는 75만 단어당 $15를, 모델이 생성하는 75만 단어당 $60를 부과합니다. 이는 OpenAI의 최신 ‘비추론(non-reasoning)’ 모델인 GPT-4o 비용보다 6배 높은 수준입니다.
OpenAI API의 o1은 function calling(모델을 외부 데이터에 연결할 수 있게 하는 기능), developer messages(개발자가 모델의 어조와 스타일에 지시할 수 있는 기능), 그리고 이미지 분석 등 새로운 기능을 통해 o1-preview보다 훨씬 높은 수준의 사용자 정의가 가능합니다. 구조화된 출력(structured outputs) 외에도, o1은 "reasoning_effort"라는 API 매개변수를 제공하여 쿼리에 응답하기 전 모델이 '사고'하는 시간 자체를 제어할 수 있게 합니다.
OpenAI는 API에 탑재된 o1의 버전과 곧 출시될 자사 AI 챗봇 플랫폼 ChatGPT가 o1의 ‘새로운 사후 학습(post-trained)’ 버전이라고 밝혔습니다. 지난 2주 전 ChatGPT에 공개된 o1 모델과 비교하여, 이번 "o1-2024-12-17" 버전은 "피드백 기반의 모델 행동 영역"을 개선했다고 OpenAI는 모호하게 언급했습니다.
이 회사는 블로그 게시물을 통해 "추가 사용 등급에 대한 접근성을 확대하고 속도 제한을 상향 조정하는 작업을 진행하는 동시에, 접근성을 점진적으로 확대하고 있다"고 전했습니다.
웹사이트 공지문에서는 가장 최신 o1 버전이 특히 프로그래밍 및 비즈니스와 관련된 질문에 대해 "더 포괄적이고 정확한 응답"을 제공할 것이며, 요청을 잘못 거부할 가능성이 낮아졌다고 언급했습니다.
한편, 화요일에 공개된 다른 개발자 관련 소식으로, OpenAI는 저지연 AI 음성 응답을 이용해 앱을 개발할 수 있는 API인 Realtime API의 일환으로 GPT-4o와 GPT-4o mini 모델의 새 버전을 발표했습니다. 데이터 효율성과 신뢰성이 개선된 이 신규 모델들("gpt-4o-realtime-preview-2024-12-17", "gpt-4o-mini-realtime-preview-2024-12-17")은 사용 비용도 더욱 저렴해졌다고 OpenAI가 밝혔습니다.
Realtime API가 (말장난이 아닙니다) 여전히 베타 버전이지만, 콘텐츠 모더레이션과 같은 백그라운드 작업이 상호 작용을 방해하지 않고 실행될 수 있도록 하는 동시 비대역 응답(concurrent out-of-band responses) 등 여러 새로운 기능이 추가되었습니다. 또한, 이 API는 이제 브라우저 기반 클라이언트, 스마트폰, 사물 인터넷 장치에 실시간 음성 애플리케이션을 구축하기 위한 공개 표준인 WebRTC도 지원합니다.
우연이라고 할 수 없는 일로, OpenAI는 12월 초 WebRTC의 개발자인 Justin Uberti를 영입했습니다.
OpenAI는 블로그를 통해 "당사의 WebRTC 통합은 가변적인 네트워크 품질에서도 실제 환경에서 원활하고 반응성이 뛰어난 상호 작용을 활성화하도록 설계되었다. 오디오 인코딩, 스트리밍, 노이즈 억제, 혼잡 제어 기능을 처리한다"고 설명했습니다.
화요일 업데이트 마지막으로는, OpenAI가 자체 파인튜닝 API에 선호도 파인튜닝(preference fine-tuning) 기능을 추가했습니다. 선호도 파인튜닝은 모델의 응답 두 쌍을 비교하여, 모델이 어떤 질문에 대해 선호되는 답변과 '선호되지 않는' 답변을 구분하도록 '훈련'시키는 방식입니다. 또한, 회사는 Go와 Java용 공식 소프트웨어 개발 키트(SDK)의 "얼리 액세스" 베타 버전을 출시했습니다.
2024년 12월 5일 – 2024년 12월 18일
스토리라인에서:
실시간 업데이트: OpenAI ChatGPT 발표 및 공개 12일간
OpenAI의 연말 이벤트가 시작되었습니다. 회사는 "OpenAI 12 Days"라는 일련의 일일 이벤트를 개최합니다...