자동화 도구들이 명시적으로 그렇게 하도록 지시받지 않았는데도 서로 담합하는 방법을 학습하게 만들 때, 어떻게 산업을 규제해야 할까요?
오리처럼 생겼고, 오리처럼 수영하며, 오리처럼 꽥꽥거린다면, 그것을 오리라고 부르는 것이 공평할까요? 혹은, 워튼 스쿨(Wharton)과 홍콩과학기술대학교(The Hong Kong University of Science and Technology) 연구진이 발표한 논문의 경우, 'AI 기반 거래(AI-powered trading)'의 행동이 담합(collusion)과 어느 정도 유사해야 금융 규제 당국이 이를 담합으로 간주하는 것이 정당할까요? 이 연구 논문(PDF)은 "AI 기반 거래, 알고리즘적 담합, 그리고 가격 효율성(AI-Powered Trading, Algorithmic Collusion, and Price Efficiency)"이라는 제목으로 국립경제연구원(National Bureau of Economic Research)에서 발표되었습니다. 이 논문은 시장 전체의 역사, 추세, 예측 데이터를 기반으로 언제 자산을 매수/매도할지 결정하는 강화 학습(reinforcement learning) 알고리즘적 거래 에이전트를 이용한 실험을 수행함으로써, 위 질문에 답하고자 합니다.
저자인 윈스턴 웨이 두(Winston Wei Dou), 이타이 골드스타인(Itay Goldstein), 그리고 옌 지(Yan Ji)는 "증권 거래에서의 AI 담합은 두 가지 별개의 알고리즘적 메커니즘을 통해 강력하게 나타날 수 있다. 하나는 가격 트리거 전략(price-trigger strategies)에 기반하며, 다른 하나는 학습 과정에서의 과도한 가지치기 편향(over-pruning bias)에 기인한다"고 밝히면서, 이를 각각 '인공지능(artificial intelligence)에 의한 AI 담합'과 '인공적 어리석음(artificial stupidity)에 의한 AI 담합'이라고 다소 비판적인 용어로 명명했습니다.
본 논문은 정의되지 않은 고유명사 및 수학적 기호가 다수 포함되어 있어, 저는 주로 저자들의 서론과 결론에 근거하여 내용을 전개함을 밝힙니다. (개인적인 투자 전략에 대해서는—부디 이 내용은 다른 사람과 공유하지 말아주시길 바랍니다—헤지펀드의 알고리즘이 제 순자산에 영향을 미칠까 봐 걱정할 만큼 여유가 없습니다. (물론 구글의 알고리즘은 제외하고요...)). 하지만 저는 이러한 알고리즘이 '결정'을 내리는 방식(그것을 그렇게 부를 수 있다면)에 충분히 익숙하기 때문에, 논문의 발견 내용에 놀라지 않았습니다. 이러한 도구들은 숫자가 오를 확률을 최대화하고 하락할 확률을 최소화하는 최적의 방법을 파악하도록 설계되었습니다. 그 결과는 특정 조건에 대해 광범위하게 유사한 반응을 독립적으로 도출하는 일련의 알고리즘들입니다. 저자들은 "이는 AI에 관한 근본적인 통찰을 제공한다: 패턴 인식에만 의존하는 알고리즘은 논리적이고 전략적인 추론과 유사한 행동을 보일 수 있다"고 언급하며, 발견한 과도한 가지치기 편향이 "특정하고 비표준적인 알고리즘적 가정이나 한계의 결과가 아니라, 정교한 환경에서도 지속되는 [강화 학습]의 일반적인 특징"이라고 덧붙였습니다.
그들이 설명하길, 규제 당국이 '인공지능' 문제를 해결하려 시도할 경우, 과정에서 '인공적 어리석음' 문제를 악화시킬 수 있다는 것입니다. 전자는 때때로 알고리즘 트레이더들에게 잠재적으로 위험한 움직임을 유도하는 반면, 후자는 주로 보수적인 거래 전략을 채택하게 만듭니다. 공격성을 억제하면서도 지나친 소극성을 더 부추기지 않으려면 어떻게 해야 할까요? 제가 가장 흥미롭다고 생각하는 예시는 12년 전 논문(PDF)에서 가져온 것으로, 이 논문은 닌텐도 엔터테인먼트 시스템에서 게임을 하는 방법을 학습한 봇에 대해 설명합니다. 이 봇은 '슈퍼 마리오 브라더스(Super Mario Bros.)'에서는 탁월했지만 '테트리스(Tetris)'에서는 형편없었습니다. 그 결과, 플레이어가 패배해야만 기술적으로 끝나는, 진정한 승리 조건이 없는 게임에서 '승리'하는 가장 좋은 방법은 게임이 종료되기 전에 일시 정지하는 것임을 깨달았습니다.
그렇다면 알고리즘들이 공격적인 거래를 함으로써 발생하는 담합의 외관, 규제 조사의 대상, 그리고 잠재적인 벌금을 피하는 가장 빠른 방법은 무엇일까요? '인위적 어리석음'이 부추기는 것과 같은 공격적인 거래를 하지 않도록 가르치는 것이 그것입니다. 이는 이러한 알고리즘 트레이더를 개발하는 기업이나 시장을 감독하는 금융 규제 기관이 쉽게 해결할 수 있는 문제가 아닙니다.
다만, 이 논문은 인공 지능이나 인위적 어리석음을 통한 AI 담합이 금융 시장에서 이미 발생하고 있음을 증명하는 것은 아닙니다. 그 발견은 본 연구의 일환으로 구축된 시뮬레이션 시장에서 다양한 알고리즘 트레이더가 보인 행동에 근거한 것입니다. 하지만 시뮬레이션된 연못 속에서 오리처럼 생기고, 오리처럼 수영하며, 오리처럼 꽥꽥거린다면... 최신 뉴스, 분석, 리뷰를 받아보려면 Google News에서 Tom's Hardware를 팔로우하세요. 팔로우 버튼을 클릭하는 것을 잊지 마십시오.