애플은 금요일 발표된 보도자료에 따르면, 백악관이 제시한 '안전하고 보안성이 뛰어나며 신뢰할 수 있는 AI 개발 자발적 약속'에 서명했습니다. 이번으로 애플은 곧 생성형 AI 서비스를 핵심 제품에 출시하며, 생성형 AI를 애플의 20억 명 사용자에게 제공할 예정입니다.
애플은 지난 2023년 7월, 아마존, 엔트로픽(Anthropic), 구글, 인플렉션(Inflection), 메타, 마이크로소프트, OpenAI 등 15개 기술 기업과 함께 백악관이 정한 생성형 AI 개발 원칙에 동참한 기업 중 하나입니다. 당시 애플은 AI를 iOS에 어느 깊이까지 내재화할 계획인지 밝히지 않았으나, 지난 6월 WWDC에서 생성형 AI에 전면적으로 투자할 것이라 명확히 밝혔으며, 아이폰에 ChatGPT를 내장하는 파트너십을 통해 이를 시작한다고 예고했습니다.
연방 규제 당국의 감시 대상인 애플이 자발적인 약속을 표명한 배경에는, 향후 발생할 수 있는 AI 규제 관련 법적 공방에 대비하고 백악관에 우호적인 이미지를 구축하려는 움직임으로 해석됩니다.
다만, 애플의 이번 자발적 약속이 어느 정도의 구속력을 가질지는 미지수입니다. 그럼에도 불구하고 이는 시작점입니다. 백악관은 이를 애플과 다른 15개 AI 기업들이 안전하고 보안성이 뛰어나며 신뢰할 수 있는 AI를 개발하기 위한 "첫걸음"이라고 언급했습니다. 이보다 앞선 것은 지난 10월 바이든 대통령의 AI 행정 명령이었으며, 현재는 연방 및 주 차원의 입법부에서 AI 모델을 더욱 정교하게 규제하기 위한 여러 법안이 추진되고 있습니다.
이번 약속에 따라 AI 기업들은 공개적으로 제품을 출시하기 전에 AI 모델을 '레드팀(red-team)' 테스트(적대적 해커 역할을 수행하여 시스템의 안전장치를 스트레스 테스트하는 방식)를 거치고 그 결과를 대중과 공유할 것을 약속했습니다. 또한, AI 기업들은 미출시 AI 모델 가중치(model weights)를 기밀로 다룰 것을 전제로 합니다. 애플을 포함한 관련 기업들은 안전한 환경에서 모델 가중치를 공동 작업하며, 모델 가중치에 대한 접근을 최소한의 직원으로 제한하기로 했습니다. 마지막으로, 사용자들에게 콘텐츠가 AI 생성물인지 아닌지를 구별하는 데 도움을 줄 수 있는 워터마킹과 같은 콘텐츠 라벨링 시스템을 개발하는 데 동의했습니다.
한편, 상무부(Department of Commerce)는 오픈 소스 기반 모델의 잠재적 이점, 위험 및 시사점에 대한 보고서를 곧 발표할 예정입니다. 오픈 소스 AI는 점차 정치적으로 민감한 규제 영역이 되고 있습니다. 일부 세력은 안전을 명분으로 강력한 AI 모델의 가중치 접근성을 제한하려 하지만, 이는 AI 스타트업과 연구 생태계를 심각하게 위축시킬 수 있습니다. 이 지점에서 백악관의 입장은 전체 AI 산업에 중대한 영향을 미칠 수 있습니다.
또한 백악관은 연방 기관들이 10월 행정 명령으로 부여된 임무에서 상당한 진전을 이루었음을 강조했습니다. 연방 기관들은 현재까지 200개 이상에 달하는 AI 관련 인력을 채용했으며, 80개 이상의 연구팀에게 컴퓨팅 자원 접근 권한을 부여했습니다. 아울러 AI 개발에 활용할 수 있는 여러 프레임워크를 발표하는 등 행보를 이어갔습니다.
[출처:] https://techcrunch.com/2024/07/26/apple-signs-the-white-houses-commitment-to-ai-safety