마이크로소프트(Microsoft)와 카네기 멜론 대학(Carnegie Mellon University) 연구원들이 최근 직장에서의 생성형 AI(Generative AI) 사용이 비판적 사고 능력에 미치는 영향을 분석한 논문을 발표했다.
논문은 "기술이 부적절하게 사용될 경우, 보존되어야 할 인지 기능이 실제로 저하될 수 있다"고 지적한다.
사람들이 업무 과정에서 생성형 AI에 의존할 때, 그들의 노력은 창작, 평가, 분석과 같은 고차원적 비판적 사고 능력을 발휘하기보다는 AI의 답변이 사용하기에 적절한지 검증하는 데 초점이 맞춰지게 된다. 논문에 따르면, 만약 인간이 AI의 응답이 불충분할 때만 개입하는 상황이 반복되면, 근로자들은 "판단력을 연습하고 인지 근육을 강화할 일상적인 기회를 박탈당해, 예외적인 상황이 발생했을 때 위축되고 준비되지 않은 상태에 놓이게 된다."
쉽게 말해, 우리가 생각하는 것을 AI에 지나치게 의존하게 되면, AI에 오류가 발생했을 때 우리 스스로 문제를 해결하는 능력이 떨어진다는 것이다.
직장에서 주당 최소 한 번 생성형 AI를 사용했다고 응답한 319명의 참가자를 대상으로 진행된 이 연구에서, 참가자들은 자신이 직장에서 AI를 활용하는 세 가지 사례를 공유하도록 요청받았으며, 이는 창작(예: 동료에게 형식적인 이메일 작성), 정보 검색(주제 연구 또는 장문 요약), 그리고 조언 구하기(가이드 요청 또는 기존 데이터로 차트 작성)의 세 가지 주요 범주로 분류되었다. 참가자들은 해당 작업을 수행할 때 비판적 사고 능력을 활용하는지, 그리고 생성형 AI 사용이 비판적 사고에 더 많은 노력을 기울이게 하는지 여부도 답변했다. 또한, 언급된 각 작업에 대해 참가자들은 자신감 수준, 생성형 AI에 대한 신뢰도, 그리고 AI 출력을 평가하는 자신의 능력에 대한 확신도를 공유했다.
참가자 중 약 36%는 AI 사용으로 인해 발생할 수 있는 잠재적 부정적 결과를 완화하기 위해 비판적 사고 능력을 활용했다고 보고했다. 한 참가자는 ChatGPT로 성과 검토서(performance review)를 작성했지만, 실수로 정학 사유가 될 만한 내용을 제출할까 두려워 AI 출력을 꼼꼼하게 재확인했다고 밝혔다. 또 다른 응답자는 위계질서와 연령을 중시하는 문화적 특성을 가진 상사에게 보낼 AI 생성 이메일을 수정해야 했다고 전했다. 나아가 많은 경우, 참가자들은 YouTube나 Wikipedia 같은 일반 웹 검색을 통해 AI가 생성한 응답을 검증했는데, 이는 애초에 AI를 사용하려는 목적 자체를 무력화시키는 사례로 이어지기도 했다.
직장인들이 생성형 AI의 한계를 보완하기 위해서는, 이러한 한계가 어떻게 발생하는지에 대한 이해가 필요하다. 그러나 모든 참가자가 AI의 기술적 한계를 명확히 인지하고 있던 것은 아니었다.
논문은 "GenAI 응답에서 비롯된 잠재적인 하위 영향(downstream harms)은 비판적 사고를 자극할 수 있지만, 사용자가 이러한 위험을 의식적으로 인지하고 있을 때에만 가능하다"고 강조한다.
실제로 연구는 AI에 대한 높은 자신감을 보인 참가자들이 자신의 능력에 대한 자신감을 높게 보인 참가자들보다 비판적 사고 노력을 덜 사용한다는 사실을 발견했다.
연구원들은 생성형 AI 도구가 사용자를 '멍청하게 만든다'고 단정 짓지는 않지만, 이 연구는 생성형 AI 도구에 지나치게 의존하는 것이 개인이 독립적으로 문제를 해결하는 능력을 약화시킬 수 있음을 보여준다.
[출처:] https://techcrunch.com/2025/02/10/is-ai-making-us-dumb