AI 안전성 평가를 전담하는 미국 정부 기관 중 극소수에 불과한 곳이 의회의 공식 승인을 받지 못할 경우 폐지 위기에 놓여 있습니다.
인공지능 시스템의 위험을 연구하는 연방 정부 기관인 미국 AI 안전 연구소(AISI)는 조 바이든 대통령의 ‘AI 행정 명령(AI Executive Order)’의 일환으로 2023년 11월에 설립되었습니다. AISI는 여러 범주의 기술 배포에 대한 지침을 개발하는 상무부 산하 기관인 NIST 내에서 운영됩니다.
하지만 AISI는 예산, 책임자, 그리고 영국 AI 안전 연구소(U.K. AI Safety Institute)라는 해외 유사 기관과의 연구 파트너십을 갖추고 있음에도 불구하고, 바이든 대통령의 행정 명령이 단순히 폐기될 경우 존속이 위태롭습니다. AI 로비 단체인 아메리칸스 포 리스폰서블 이노베이션(Americans for Responsible Innovation)의 선임 커뮤니케이션 책임자인 크리스 매켄지는 테크크런치(TechCrunch)에 "만약 다른 대통령이 취임하여 AI 행정 명령을 폐기한다면, 그들은 AISI를 해체할 것입니다"라고 지적했습니다. 그는 또한 "도널드 트럼프는 AI 행정 명령을 폐기하겠다고 약속했습니다. 따라서 의회가 AI 안전 연구소를 공식적으로 승인하는 법안을 통과시킨다면, 누가 백악관에 있든 그 존재가 보장될 것입니다."라고 덧붙였습니다.
AISI의 미래를 보장하는 차원을 넘어, 이 기관을 공식 승인하는 것은 의회로부터 더 안정적이고 장기적인 기금을 확보하는 기반을 마련해 줄 수 있습니다. AISI는 현재 약 1,000만 달러의 예산을 가지고 있는데, 이는 주요 AI 연구소들이 실리콘밸지에 집중되어 있다는 점을 감안할 때 비교적 적은 금액입니다.
매켄지는 "의회 예산 심의 주체들은 의회로부터 공식적으로 승인받은 기관에 예산을 배정하는 것을 높은 우선순위로 두는 경향이 있습니다"라며, "이는 해당 기관들이 단일 행정부의 일회성 우선순위가 아니라, 광범위한 지지 기반을 바탕으로 장기적인 운영을 목표로 한다는 이해가 깔려 있기 때문입니다"라고 설명했습니다.
최근 이 같은 배경 속에서 60개 이상의 기업, 비영리 단체, 대학 등으로 구성된 연합이 의회에 올해 안에 AISI를 법제화할 법안을 통과시켜 줄 것을 촉구하는 서한을 발표했습니다. 이 서한에 서명한 주요 단체로는 OpenAI와 Anthropic이 있으며, 이들 회사 모두 AI 연구, 테스트, 평가에 협력하기 위해 AISI와 별도 협정서에 서명한 바 있습니다.
상원과 하원에서는 각각 AISI의 활동을 승인하기 위한 초당적 법안을 발의했습니다. 그러나 이러한 제안들은 상원판 AISI 법안이 다양성 프로그램 관련 조항을 축소해야 한다고 주장하는 테드 크루즈 상원 의원(공화당, 텍사스)을 포함한 보수주의 의원들로부터 일부 반대에 직면했습니다.
물론 AISI는 집행력 관점에서 볼 때 비교적 약한 조직이며, 그 표준은 자발적입니다. 그럼에도 불구하고, 싱크탱크와 산업 연합체, 그리고 마이크로소프트, 구글, 아마존, IBM과 같은 대형 기술 기업들 모두는 AISI를 미래 정책의 근간이 될 수 있는 AI 벤치마크를 확보할 수 있는 가장 유망한 통로로 보고 있습니다.
한편, 일부 이해관계자들 사이에서는 AISI가 와해되는 것이 AI 리더십을 외국 국가에 넘겨주는 위험을 초래할 수 있다는 우려가 제기됩니다. 실제로 2024년 5월 서울에서 열린 AI 정상회의에서는 국제 지도자들이 영국 및 미국 외에 일본, 프랑스, 독일, 이탈리아, 싱가포르, 대한민국, 호주, 캐나다, 유럽 연합의 기관들을 포함하는 AI 안전 연구소 네트워크 구축에 합의한 바 있습니다.
IT 산업 무역 협회인 정보 기술 산업 위원회(Information Technology Industry Council)의 회장이자 CEO인 제이슨 옥스먼(Jason Oxman)은 성명에서 "다른 정부들이 빠르게 전진하는 가운데, 의원들은 AI 안전 연구소(AISI)를 영구적으로 승인하고, 미국 AI 혁신 및 채택을 발전시키는 데 있어 그 핵심적인 역할을 명확히 함으로써 미국이 글로벌 AI 경쟁에서 뒤처지지 않도록 보장할 수 있다"고 강조했습니다. 그는 "의회에 업계, 시민 사회, 학계가 오늘 표명한 행동 촉구에 귀 기울여 연말 이전에 필요한 양당 협력 입법을 통과시켜 줄 것을 강력히 촉구합니다"라고 덧붙였습니다.
[출처:] https://techcrunch.com/2024/10/22/the-u-s-ai-safety-institute-stands-on-shaky-ground