AI 코딩 도구들은 눈부시게 발전하고 있습니다. 코딩 업무와 관련이 없다면, 그 변화의 정도를 체감하기 어려울 수 있습니다. 그러나 GPT-5와 Gemini 2.5는 완전히 새로운 자동화 개발 트릭들을 가능하게 했으며, 지난주에 공개된 Sonnet 4.5 또한 그 능력을 다시 한번 입증했습니다.
반면, 다른 영역의 기술 발전은 상대적으로 더디게 진행되고 있습니다. 이메일을 작성하는 데 AI를 활용하더라도, 1년 전과 비슷한 수준의 가치를 얻고 있을 가능성이 높습니다. 모델 자체가 진보하더라도, 제품이 반드시 그 혜택을 받는 것은 아니며, 특히 여러 기능을 동시에 처리하는 챗봇과 같은 제품에서 이러한 현상은 두드러집니다. AI가 여전히 발전하고는 있지만, 예전처럼 균질하게 분배되어 있지 않습니다.
진행 속도의 차이는 생각보다 단순합니다. 코딩 앱들은 작동 가능한 코드를 생성하도록 훈련할 수 있는 수십억 개의 측정 가능한 테스트로부터 이득을 얻고 있기 때문입니다. 이것이 바로 강화 학습(RL)이며, 이는 지난 6개월간 AI 발전을 이끈 가장 큰 원동력이며, 지속적으로 복잡해지고 있습니다. 강화 학습은 인간 평가자(human graders)를 통해서도 가능하지만, 명확한 합격/불합격 기준(pass-fail metric)이 존재하는 경우 가장 효과적입니다. 따라서 인간의 개입 없이도 수십억 번의 반복 훈련이 가능해집니다.
업계가 제품 개선을 위해 강화 학습에 점점 더 의존함에 따라, 우리는 자동 평가가 가능한 능력과 그렇지 못한 능력 사이에 명확한 격차를 목격하고 있습니다. 버그 수정(bug-fixing)이나 경쟁 수학 같은 RL 친화적 기술은 빠르게 발전하고 있는 반면, 글쓰기 같은 기술은 점진적인 발전만을 보이고 있습니다.
요약하자면, '강화 격차(reinforcement gap)'가 존재하며, 이는 AI 시스템이 무엇을 할 수 있고 무엇을 할 수 없는지를 결정하는 가장 중요한 요소 중 하나가 되고 있습니다.
어떤 면에서 소프트웨어 개발은 강화 학습에 완벽하게 적합한 주제입니다. 사실 AI가 존재하기 이전부터, 개발자들은 코드를 배포하기 전에 시스템이 안정적으로 작동하는지 확인해야 했기 때문에, 소프트웨어가 압력에 얼마나 견딜지를 테스트하는 전용 하위 분야가 존재했습니다. 따라서 가장 세련된 코드조차도 단위 테스트(unit testing), 통합 테스트(integration testing), 보안 테스트(security testing) 등을 거쳐야 합니다. 인간 개발자들은 이러한 테스트를 코드를 검증하는 데 일상적으로 사용하며, 구글의 개발자 도구 수석 이사(senior director for dev tools)가 최근 말했듯이, 이들은 AI가 생성한 코드를 검증하는 데도 똑같이 유용합니다. 더 나아가, 이미 시스템화되어 대규모로 반복이 가능하다는 점에서 강화 학습에 특히 유용합니다.
잘 쓰인 이메일이나 훌륭한 챗봇 응답을 검증할 쉬운 방법은 없습니다. 이러한 기술은 본질적으로 주관적이며 대규모 측정 자체가 어렵기 때문입니다. 그러나 모든 작업이 '테스트하기 쉬운' 또는 '테스트하기 어려운' 범주에 깔끔하게 들어맞는 것은 아닙니다. 분기별 보고서 작성처럼 규격화된 프로세스처럼 접근할 수 있는 작업이라면, 기술적 관점에서 접근하기 어렵지 않습니다.
마지막으로, 이 격차는 AI가 현실의 복잡한 과정과 인간의 판단을 모델링하는 방식에서 나타납니다.
예를 들어, 보험 청구서와 같은 구조화된 프로세스는 AI가 비교적 쉽게 접근하는 반면, 전문직의 판단이 필요한 영역은 AI가 아직 완전히 대체하기 어려운 영역으로 남아 있습니다.
이 격차는 AI가 현실 세계의 복잡성, 인간의 판단을 모델링하는 방식에서 나타납니다.
예를 들어, 보험 청구서와 같은 구조화된 프로세스는 AI가 비교적 쉽게 접근하는 반면, 의사나 변호사 같은 전문가의 판단이 필요한 영역은 AI가 아직 완전히 대체하기 어려운 영역으로 남아 있습니다.
이러한 격차는 AI가 모델링하는 현실의 복잡성, 인간의 판단 능력이 결합된 영역에서 나타납니다.
결론적으로, 이러한 기술적 한계와 인간의 전문적 판단이 결합된 영역이 바로 현재 인공지능의 가장 큰 과제이자 기회입니다.