저명한 전직 OpenAI 정책 연구원 한 명이 수요일 소셜 미디어를 통해, OpenAI가 잠재적으로 위험할 수 있는 AI 시스템의 배포 접근 방식에 대한 ‘역사를 재작성’하고 있다고 비판했다.
앞서 OpenAI는 AI 안전성 및 정렬에 관한 현재의 철학을 담은 문서를 공개했다. 이 문서는 AI 시스템이 바람직하고 설명 가능한 방식으로 작동하도록 설계하는 과정을 설명한다. 이 문서에서 OpenAI는 광범위하게 인간이 수행할 수 있는 모든 작업을 처리할 수 있는 AI 시스템(AGI)의 개발을 ‘반복적인 배포와 학습’을 필요로 하는 ‘연속적인 경로’로 간주하고 있다고 밝혔다.
OpenAI는 “불연속적인 세상에서는 안전 교훈이 시스템이 지닌 명백한 능력에 비해 과도하게 신중하게 접근했던 것에서 비롯된다. [이는] 우리가 [AI 모델] GPT-2에 적용했던 방식이다. 우리는 이제 첫 AGI를 단지 사용성이 점진적으로 증가하는 일련의 시스템 중 하나의 지점으로 본다 [...] 연속적인 세상에서는 다음 시스템을 안전하고 유익하게 만드는 방법은 현재 시스템으로부터 배우는 것이다”라고 적었다.
그러나 브런데지(Brundage)는 GPT-2가 실제로는 출시 당시 충분한 신중함을 요구했으며, 이것이 OpenAI가 오늘날 추구하는 반복적 배포 전략과 “100% 일치했다”고 주장한다.
브런데지는 X(구 트위터) 게시물에서 “제가 참여했던 OpenAI의 GPT-2 출시는 OpenAI의 현행 반복적 배포 철학을 100% 일치했을 뿐만 아니라 예견한 것이었다. 모델은 단계적으로 출시되었으며, 각 단계마다 교훈이 공유되었다. 당시 많은 보안 전문가들이 우리에게 이 신중함에 대해 감사했다”고 게재했다.
2018년 연구 과학자로 OpenAI에 합류한 브런데지는 수년간 회사의 정책 연구 책임자를 맡아왔다. 그는 OpenAI의 ‘AGI 준비 태세’ 팀에서 OpenAI의 AI 챗봇 플랫폼 ChatGPT와 같은 언어 생성 시스템의 책임감 있는 배포에 특히 초점을 맞춘 바 있다.
OpenAI가 2019년에 발표한 GPT-2는 ChatGPT를 구동하는 AI 시스템의 초기 모델이었다. GPT-2는 주제에 대한 질의 응답, 기사 요약, 그리고 때로는 인간의 수준과 구별하기 어려울 정도의 텍스트 생성을 할 수 있었다.
GPT-2와 그 결과물은 오늘날 기본적인 수준으로 보일 수 있지만, 당시에는 최첨단 기술이었다. OpenAI는 악용 가능성의 위험을 이유로 처음에 GPT-2의 소스 코드 공개를 거부하고, 대신 선정된 뉴스 매체에 데모를 제한적으로 제공하는 방식을 택했다.
이 결정은 AI 업계에서 엇갈린 평가를 낳았다. 많은 전문가들은 GPT-2가 제기하는 위협은 과장되었으며, OpenAI가 묘사한 방식대로 모델이 오용될 수 있다는 증거는 없다고 반박했다. AI 전문 간행물인 The Gradient는 심지어 OpenAI에게 모델을 공개해 줄 것을 요청하는 공개 서한을 게재하며, 기술적 중요성을 이유로 공개가 보류되는 것이 부적절하다는 논리를 펼치기도 했다.
OpenAI는 결국 모델 공개 6개월 후에 GPT-2의 부분 버전을 공개했고, 몇 달 뒤에 전체 시스템을 공개했다. 브런데지는 이것이 적절한 조치였다고 평가했다.
브런데지는 또한 “내가 당시 회사에 있었다면…”이라며, “...이것은 마치 누군가에게 ‘왜 이렇게 했을까?’라고 말하는 것과 같다. 마치 신호를 받은 사람에게 ‘왜 이런 일이 벌어지게 했느냐’고 묻는 것과 같다”고 비판하며, “이 모든 것은 명확한 신호와 근거가 있어야 했기 때문이다”라고 지적했다.
한편, OpenAI는 경쟁사 대비 기술적 우위를 점하기 위해 신중한 접근 방식을 취하고 있다는 것이 비판을 받기도 했다.
한편, OpenAI는 경쟁사 대비 기술적 우위를 점하기 위해 신중한 접근 방식을 취하고 있다는 비판에 직면했다.
한편, OpenAI는 경쟁사 대비 기술적 우위를 점하기 위해 신중한 접근 방식을 취하고 있다는 비판을 받기도 했다.
최근에는 유사 서비스의 등장으로 인해 OpenAI의 독점적 위치가 흔들리면서 시장의 압박이 거세지고 있다.