** AI의 화려함에 취하기보다, 작동의 전제 조건과 한계를 함께 논의하는 습관이 필요하다는 생각
**
요즘 AI 기술들이 쏟아져 나오는 걸 보면 정말이지 경이롭다는 말밖에는 나오지 않아요.
챗GPT 같은 거 한번 써보면, 마치 만능의 비서가 옆에 붙어 있는 느낌이랄까요?
내가 던진 모호한 질문에도 논리적인 흐름을 갖춘 답변을 척척 내놓고, 복잡한 코드를 짜주거나 방대한 자료를 순식간에 요약해버리는 걸 보면 ‘와, 정말 인간의 지능을 뛰어넘는 건 아닐까?’ 하는 황홀감에 휩싸이곤 합니다.
물론 이 기술들이 가져올 생산성 혁명은 부정할 수 없는 사실이고, 당장 우리 일상에 녹아들면서 삶의 방식 자체를 근본적으로 바꿀 거라는 예측도 지겹도록 듣게 되죠.
그런데 문득, 이 엄청난 속도와 화려함의 이면을 들여다보면 왠지 모를 불안감이 밀려옵니다.
마치 너무 완벽한 그림을 보고 나면, 그 그림이 어떤 붓과 어떤 물감으로 그려졌는지, 심지어 그림을 그린 화가가 어떤 감정 상태였는지를 파고들고 싶어지는 기분이랄까요.
AI도 마찬가지인 것 같아요.
눈에 보이는 결과물, 즉 '답변'이라는 결과물만 보면 마치 모든 것이 완벽하게 정제된 것처럼 보이지만, 그 답변이 어떤 데이터 덩어리들을 학습해서, 어떤 가중치와 확률 계산을 거쳐서 도출되었는지 그 전 과정이 투명하게 공개되는 건 아니잖아요.
가끔은 그럴싸하게 그럴싸한 '환각(Hallucination)'을 만들어내면서, 마치 사실인 양 툭 던져놓을 때가 있는데, 그때마다 ‘이건 정말 진실일까?
이 데이터의 출처는 어디일까?’라는 질문을 멈추지 않게 되더라고요.
**
제가 요즘 계속 곱씹어보는 건 바로 이 '질문하는 습관'의 중요성이에요.
기술 자체가 우리에게 너무 많은 답을 주는 시대가 오니까, 역설적으로 '어떻게 질문해야 할지'에 대한 능력이 가장 중요한 생존 기술이 되어버린 것 같아요.
예전에는 정보의 부족함 때문에 우리가 더 많은 질문을 던질 수밖에 없었다면, 지금은 정보가 넘쳐나서 오히려 '어떤 질문이 가장 근본적인 질문일까?'를 고민해야 하는 상황이 된 거죠.
예를 들어, AI에게 "가장 성공적인 마케팅 전략은 무엇인가요?"라고 물으면, 수백 가지의 정형화된 모범 답안이 쏟아져 나올 겁니다.
그 답안들은 분명 통계적으로 유효하고 논리적일 거예요.
하지만 제 주변의 작은 가게 사장님들 이야기를 들어보면, 그런 거창한 이론이나 데이터 분석으로는 해결되지 않는, 오직 그 가게만의 '냄새'나 '사람 냄새' 같은 무형의 가치가 핵심일 때가 많거든요.
AI는 이 '냄새'를 데이터 포인트로 인식하지 못해요.
이 간극을 메우기 위해서는, 기술이 제공하는 매끈하고 효율적인 결과물에 대해, '하지만 인간적인 맥락에서 볼 때, 이 부분은 빠져있지 않을까?' 하고 의심하는 비판적 사고의 습관이 필수적이라고 느낍니다.
이건 단순히 기술을 사용하지 말자는 이야기가 아니라, 기술이 주는 편안함에 안주하지 않고, 늘 '이것의 전제 조건은 무엇일까?'라는 렌즈를 끼고 세상을 바라보자는 태도의 문제인 것 같아요.
기술의 편리함에 매료되기보다, 그 기반이 되는 전제 조건과 숨겨진 한계를 끊임없이 의심하는 질문하는 태도를 가져야 한다.