OpenAI는 인간의 도덕적 판단을 예측하는 알고리즘에 대한 학술 연구에 자금을 지원하고 있다.
OpenAI의 비영리 법인인 OpenAI Inc.는 미국 국세청(IRS)에 제출한 서류를 통해, "Research AI Morality"라는 제목의 프로젝트를 위해 듀크 대학교 연구진에게 보조금을 지급했다고 공개했다. 이에 대해 OpenAI 대변인은 보도 자료를 인용하며, 해당 보조금이 듀크대 교수진이 "도덕적 AI를 개발"하는 더 광범위한 3년간 100만 달러 규모의 프로젝트 중 일부라고 밝혔다.
OpenAI가 지원하는 이 "도덕성" 연구에 대한 공개 정보는 보조금이 2025년에 종료된다는 사실 외에는 거의 없다. 이 연구의 책임 연구원인 듀크 대학교의 실천 윤리 교수 월터 신놋트-암스트롱(Walter Sinnott-Armstrong)은 TechCrunch와의 이메일 인터뷰에서 자신이 이 작업에 대해 "언급할 수 없다"고 밝혔다.
신놋트-암스트롱과 프로젝트 공동 연구원인 자나 보르크(Jana Borg)는 AI가 인간의 판단을 개선하도록 돕는 "도덕적 GPS" 역할을 할 잠재력에 관한 여러 연구와 저서를 발표해 왔다. 이들은 더 큰 팀의 일환으로, 신장 기증 수혜자를 결정하는 데 도움을 주는 "도덕적 정렬(morally-aligned)" 알고리즘을 개발했으며, 사람들이 어떤 상황에서 AI가 도덕적 결정을 내리기를 선호하는지 연구했다.
보도 자료에 따르면, OpenAI가 지원한 이 연구의 목표는 "의학, 법률, 비즈니스 분야에서 도덕적으로 관련된 특징들 간의 갈등"이 발생하는 시나리오에서 인간의 도덕적 판단을 "예측"하도록 알고리즘을 훈련하는 것이다.
하지만 도덕성처럼 미묘하고 복잡한 개념을 오늘날 기술로 포괄할 수 있을지는 여전히 불분명하다.
2021년, 비영리 기관인 앨런 AI 연구소(Allen Institute for AI)는 윤리적으로 건전한 추천을 제공하기 위해 Ask Delphi라는 도구를 개발했다. 이 도구는 기본적인 도덕적 딜레마에 대해서는 비교적 잘 판단했다. 예를 들어, 시험 부정행위가 잘못되었다는 사실을 "알고" 있었다. 그러나 질문을 사소하게 재구성하거나 다시 작성하는 것만으로도 델피는 영아의 질식사(smothering infants)에 이르기까지 거의 모든 행위에 찬성을 보였다.
이러한 결과는 현대 AI 시스템의 작동 방식과 관련이 깊다.
머신러닝 모델은 기본적으로 통계적 기계다. 웹상의 방대한 양의 예제를 학습하는 과정에서 패턴을 습득하여 예측을 수행한다. 예를 들어, "누구에게(to whom)"라는 구문이 종종 "관련할 수 있다(it may concern)" 앞에 온다는 패턴을 학습하는 식이다.
AI는 윤리적 개념 자체에 대한 이해나, 도덕적 결정에 작용하는 추론 및 감정을 전혀 이해하지 못한다. 이 때문에 AI는 서구화되고 교육받은 산업 국가들의 가치를 반복하는 경향이 있다. 웹, 즉 AI의 훈련 데이터 대부분이 그러한 관점을 지지하는 기사들로 지배되어 있기 때문이다.
놀랍게도, AI가 내놓는 답변에 많은 개인의 가치관이 반영되지 않는다. 특히 그 개인이 온라인에 게시물을 올려 AI의 훈련 데이터에 기여하지 않는다면 더욱 그렇다. 또한, AI는 서구적인 편향을 넘어 다양한 편향을 내재화한다. 델피는 동성애보다 이성애가 더 "도덕적으로 수용 가능"하다고 언급하기도 했다.
OpenAI와 이들이 지원하는 연구자들이 직면한 난제는 도덕성이 본질적으로 주관적이라는 사실 때문에 더욱 해결하기 어렵다. 철학자들은 수천 년 동안 다양한 윤리 이론의 장단점을 논해 왔으며, 보편적으로 적용 가능한 단일한 틀은 아직 존재하지 않는다.
Claude는 (절대적 도덕 원칙에 집중하는 경향이 있는 반면) ChatGPT는 전반적으로 공리주의적 성향(최대 다수에게 최대의 선을 우선시하는)을 띤다. 어느 쪽이 더 우월한가? 이는 묻는 사람에 따라 다르다.
인간의 도덕적 판단을 예측하는 알고리즘은 이 모든 변수들을 종합적으로 고려해야 할 것이다. 이는—만약 그러한 알고리즘의 개발 자체가 가능하다는 전제 하에—극도로 높은 기술적 장벽을 넘어야 함을 의미한다.
TechCrunch가 준비한 AI 전문 뉴스레터를 구독하고, 매주 수요일마다 이메일로 받아보세요.
[출처:] https://techcrunch.com/2024/11/22/openai-is-funding-research-into-ai-morality