주요 보험사들, 기업 보험 상품에서 AI 관련 청구 제외 허가를 추진.
주요 보험사들이 인공지능(AI) 실패로 인한 노출 위험을 '격리(ring-fence)'하는 움직임을 보이고 있습니다. 비용이 많이 들고 대중에 공개된 일련의 사고들로 인해, 시스템적이고 상관관계가 있는 손실에 대한 우려가 업계 위험 모델의 최우선 과제가 되었기 때문입니다. 피나낸셜 타임스(Financial Times)에 따르면, AIG, WR Berkley, 그리고 Great American은 AI 시스템(챗봇 및 에이전트 포함) 사용 또는 통합과 관련된 청구를 거부할 수 있도록 하는 새로운 보험 약관 제외(policy exclusions)에 대한 규제 승인을 각각 요청했습니다.
이러한 요청이 나온 것은 거의 모든 분야의 기업들이 생성형 도구 채택을 가속화하는 시점과 맞물려 있습니다. 이러한 전환은 이미 값비싼 오류들을 발생시켰습니다. 구글은 AI 개요(AI Overview) 기능이 태양광 회사가 주 검사로부터 소송을 받고 있다고 잘못 보도한 후, 1억 1,000만 달러 규모의 명예훼손 소송에 직면했습니다. 한편, 에어캐나다(Air Canada)는 고객 서비스 챗봇이 만든 할인 혜택을 인정해야 한다는 명령을 받았으며, 영국의 엔지니어링 회사 아룹(Arup)은 직원들이 화상 통화 사기 과정에서 디지털로 복제된 임원에게 속아 2,000만 파운드(£20 million)의 손실을 입었습니다.
이러한 사고들은 보험사들이 책임의 시작점과 끝점을 명확하게 정량화하는 것을 더욱 어렵게 만들었습니다. 모자이크 인슈어런스(Mosaic Insurance)는 피나낸셜 타임스에 거대 언어 모델(LLM)의 결과물은 여전히 너무 예측 불가능하여 전통적인 인수 심사에는 부적합하며, 이를 "블랙박스"라고 묘사했습니다. AI가 향상된 소프트웨어에 대한 전문 보장을 제공하는 모자이크조차 ChatGPT와 같은 LLM의 위험은 인수하지 않겠다는 입장을 보였습니다.
(참고로, 새 조사에 따르면 사인스 수술 시스템에 AI를 추가한 경우 오작동 사고가 8건에서 100건으로 급증했으며, 보고서에 따르면 AI 코딩 봇의 실수로 인해 AWS 장애가 발생하기도 했습니다. 또한 2025년 AI 주도 해고 증가율 1,100%라는 주장은 오해의 소지가 있을 수 있다는 분석도 제기되었습니다.)
대안적인 방안으로, WR Berkley의 잠재적 제외 조항은 해당 기술이 제품이나 업무 과정의 극히 일부만을 구성하는 경우라도 "실제 또는 주장되는 모든 AI 사용"과 관련된 청구를 차단할 수 있게 합니다. AIG는 규제 당국에 제출한 문건에서 제안된 제외 조항을 즉시 "이행할 계획은 없다"고 밝혔지만, 청구의 빈도와 규모가 증가함에 따라 해당 옵션을 유지하고 싶다는 입장을 표명했습니다.
핵심 쟁점은 개별 손실의 심각성만을 다루는 것이 아니라, 단 하나의 근본 모델이나 공급업체를 통해 촉발되는 광범위하고 동시다발적인 손상 위험입니다. Aon의 사이버 담당 책임자인 케빈 칼리니히(Kevin Kalinich)는 이 매체에 업계가 한 회사가 사용하는 오작동 에이전트로 인해 4억 달러 또는 5억 달러의 손실을 감당할 수는 있지만, "체계적이고(systemic), 상관관계가 있으며(correlated), 집계된(aggregated) 위험"이라고 묘사한, 한 번에 수많은 손실을 초래하는 근본적인 상위 스트림 실패는 감당할 수 없다고 경고했습니다.
일부 보험사들은 '약관 보강(policy endorsements)'을 통해 부분적인 명확성을 확보하려 노력했습니다. QBE는 EU AI Act에 따른 벌금에 대한 제한적 보장을 도입했으며, 이는 보험 가입 한도의 2.5%로 상한이 정해져 있습니다. 처브(Chubb)는 일부 AI 관련 사고에 대한 보장을 제공하는 동시에, "광범위한" 동시 사고에 영향을 미칠 수 있는 어떠한 사건도 제외하는 내용을 포함했습니다. 다만, 브로커들은 이러한 약관 보강을 매우 면밀히 검토해야 한다고 지적했습니다. 이는 새로운 보장처럼 보일지라도 실제로는 보호 범위를 축소시키는 경우가 있기 때문입니다.
보험사와 규제 당국이 입지를 재편하면서, 기업들은 AI 배포 위험이 예상보다 자신들의 재무 상태에 더 크게 놓일 수 있음을 깨달을 수 있습니다. 이러한 흐름은 전 세계적으로 일관된 규제 시스템이 부족하다는 지적과도 맞물려 있습니다.