이것들은 정형화된 면책 조항일 수 있지만, 회사의 광고 및 마케팅 내용과 다소 상충됩니다.
마이크로소프트는 Copilot+ PC 출시를 통해 사용자 기반으로 AI 서비스를 적극 홍보해왔지만, 역설적으로 회사 스스로도 자사 기술에 대한 확신을 갖지 못하는 듯합니다. 작년 10월 업데이트된 마이크로소프트 Copilot 사용 약관에 따르면, 해당 AI 대규모 언어 모델(LLM)은 오락 목적으로만 설계되었으며, 사용자가 이를 중요한 의사결정에 활용해서는 안 된다고 명시하고 있습니다. 이는 단순한 형식적 고지라 할지라도, 회사가 Copilot을 비즈니스 용도로 얼마나 강력하게 추진하고 Windows 11에 깊이 통합했는지 고려하면 다소 아이러니합니다.
해당 문서에는 "Copilot은 오락 목적일 뿐입니다. 오류가 발생할 수 있으며, 의도한 대로 작동하지 않을 수 있습니다. Copilot을 중요한 조언의 근거로 삼지 마십시오. 사용자의 책임 하에 이용해 주십시오"라고 명시되어 있습니다. 이러한 면책 조항은 Copilot에만 국한되지 않습니다. 다른 AI LLM들도 유사한 고지 사항을 두고 있습니다. 예를 들어, xAI는 "인공지능은 빠르게 발전하는 본질적으로 확률적인 기술입니다. 따라서 때로는 다음의 결과를 초래할 수 있습니다: a) '환각(hallucinations)'을 포함하는 출력을 생성하거나, b) 불쾌감을 줄 수 있고, c) 실제 사람, 장소 또는 사실을 정확하게 반영하지 못할 수 있으며, d) 품위 유지에 어긋나거나 부적절하거나 또는 의도된 목적에 부적합할 수 있습니다."라고 밝히고 있습니다.
이러한 고지 사항은 LLM 작동 원리에 익숙한 이들에게는 당연하게 들릴 수 있지만, 안타깝게도 일부 사용자들은 AI 출력을 절대적인 진실처럼 받아들이는 경향이 있습니다. 이는 본래 더 잘 알고 있어야 하는 사람들에게서도 관찰됩니다. 우리는 아마존 서비스에서 이러한 사례를 목격했습니다. 엔지니어들이 감독 없이 AI 코딩 봇에게 문제 해결을 맡긴 후, 일부 AWS 장애가 발생한 것으로 보고된 적이 있기 때문입니다. 또한, 아마존 웹사이트 자체도 'Gen-AI 지원 변경'과 연관된 몇 건의 '높은 파급 효과(high blast radius)' 사고를 겪었으며, 이로 인해 고위 엔지니어들이 모여 사태를 수습해야 했습니다.
한편, 소비자 중 3분의 1은 자신의 기기에 탑재된 AI 기능을 거부하며, 대부분은 그 기능이 필요 없다고 답합니다.
생성형 AI는 분명 유용한 도구이며 생산성을 높일 수 있지만, 본질적으로 그 오류에 대해 어떠한 책임도 지지 않는 도구에 불과합니다. 따라서 사용자는 AI의 출력을 항상 의심하고 결과를 재차 확인하는 신중함이 요구됩니다. 하지만 현재 AI 기술의 한계를 인지하고 있다 하더라도, 인간은 자동화 편향(automation bias)에 취약합니다. 이는 기계가 제시한 결과에 지나치게 의존하고, 그 결과와 모순되는 데이터를 무시하는 경향을 말합니다. AI는 특히 대략적으로만 살펴보아도 그럴듯하거나 사실처럼 보이는 결과를 만들어낼 수 있기 때문에, 이러한 인지적 현상을 더욱 심화시킬 수 있습니다.
일반적으로 기업들은 법적 소송으로부터 자신을 보호하기 위해 이러한 면책 조항을 제품과 서비스에 추가합니다. 그러나 AI 기술 기업들이 자사 AI 서비스를 최고의 생산성 혁신 수단으로 포장하며, 고객에게 비용 지불을 요구하고 하드웨어 및 인력에 투자한 막대한 자본을 회수하기 위해 AI 도구 사용과 관련된 위험을 의도적으로 축소하고 있을 가능성이 있습니다.
Tom's Hardware를 Google News에서 팔로우하거나 선호 출처로 등록하여 최신 뉴스, 분석, 리뷰를 받아보세요.