튜링상 수상자인 요슈아 벤지오(Yoshua Bengio)는 안전한 AI 시스템을 구축하기 위한 비영리 AI 안전 연구소 'LawZero'를 출범한다고 월요일 파이낸셜 타임스(Financial Times)에 밝혔다. LawZero는 스카이프(Skype) 창립 엔지니어인 잔 탈린(Jaan Tallinn), 전 구글 최고 경영자 에릭 슈미트(Eric Schmidt), 오픈 필랜트로피(Open Philanthropy), 그리고 미래 생명 연구소(Future of Life Institute) 등으로부터 3,000만 달러의 자선 기부금을 모금했다. LawZero라는 이름은 모든 것보다 인류의 보호를 최우선으로 두는 과학 소설 개념인 '로봇 공학의 제로 법칙(Zeroth Law of Robotics)'에서 영감을 얻은 것이다.
현대 AI 붐의 '대부(godfathers)' 중 한 명으로 여겨지는 벤지오는 AI 안전 운동의 가장 목소리가 큰 옹호자 중 한 명이 되었다. 그는 AI 시스템이 재앙적인 시나리오를 초래하는 것을 막고자 목표로 했던 캘리포니아의 논란이 많은 AI 안전 법안 SB 1047을 공개적으로 지지했다. 벤지오는 파이낸셜 타임스와의 인터뷰에서, OpenAI와 구글이 점점 더 지능적인 AI 시스템을 향해 질주하는 상황에서 안전을 우선시할 것이라는 확신이 거의 없다고 말했다.
튜링 어워드를 수상한 요슈아 벵기오(Yoshua Bengio)는 월요일 파이낸셜 타임스(Financial Times)를 통해 더욱 안전한 AI 시스템을 구축하기 위한 비영리 AI 안전 연구소 'LawZero'를 설립한다고 밝혔습니다.
LawZero는 스카이프(Skype)의 창립 엔지니어인 잔 탈린(Jaan Tallinn), 구글(Google) 전 최고 책임자 에릭 슈미트(Eric Schmidt), 오픈 필랜쓰피란트로피(Open Philanthropy), 미래 생명 연구소(Future of Life Institute) 등으로부터 총 3천만 달러($30 million)의 자선 기부금을 모금했습니다. 'LawZero'라는 이름은 공상 과학 개념인 '로봇공학의 제로 법칙(Zeroth Law of Robotics)'에서 따왔으며, 이 법칙은 인류의 보호를 무엇보다 우선시해야 한다는 원칙을 의미합니다.
현대 AI 발전의 "거장" 중 한 명으로 불리는 벵기오는 AI 안전 운동의 가장 열정적인 옹호자 중 한 명이 되었습니다. 그는 AI 시스템이 치명적인 상황을 초래하는 것을 방지하는 것을 목표로 하는 캘리포니아의 논쟁적인 AI 안전 법안인 SB 1047을 공개적으로 지지하기도 했습니다.
벵기오는 파이낸셜 타임스와의 인터뷰에서, OpenAI와 구글이 더욱 지능적인 AI 시스템 경쟁을 벌이는 과정에서 안전을 최우선으로 다룰 것이라고는 믿지 않는다고 언급했습니다.
[출처:] https://techcrunch.com/2025/06/03/yoshua-bengio-launches-lawzero-a-nonprofit-ai-safety-lab