U.S. 연방거래위원회(FTC)는 리나 칸(Lina Khan) 위원장이 화요일 워싱턴 D.C.에서 열린 TechCrunch의 StrictlyVC 행사에서 연설하며, AI 기술의 부상 전반을 광범위하게 검토할 것이라고 밝혔다. 하지만 칸 위원장은 이번 조사의 목적이 규제 강화로 인해 이 분야에서 경쟁하려는 스타트업들을 억압하려는 것은 아니라고 강조했다.
칸 위원장은 청중에게 "우리가 원하는 것은 상업 활동의 통로가 열려 있는 상태, 즉 좋은 아이디어가 있고 그것을 상업화할 수 있으며, 시장의 수요가 있다면 공정하게 경쟁할 기회를 갖는 것입니다"라고 말했다. 이어 "당신의 성공은 비즈니스 아이디어의 힘과 당신의 역량에 달려 있을 뿐, 거대 기업 중 어느 한 곳에 위협이 된다는 점에 달려있지 않습니다"라고 덧붙였다.
그럼에도 불구하고 FTC가 이 기술 자체나 그 잠재적 피해를 간과하고 있지는 않다. 칸 위원장에 따르면, 이미 음성 복제 사기(voice-cloning fraud)와 같은 특정 분야에서 소비자 불만 건수가 증가하고 있다.
실제로 최근 OpenAI가 출시했다가 철회한 ChatGPT 음성 사례는 큰 헤드라인을 장식한 적이 있다. 해당 음성은 배우 스칼렛 요한슨(Scarlett Johansson)의 목소리와 매우 유사했다. 스칼렛 요한슨은 자신이 이 챗봇의 음성 녹음을 거부했기 때문에 OpenAI가 그녀의 목소리를 클로닝했다는 주장을 제기했다. (한편, OpenAI 측은 단순히 다른 성우를 사용했을 뿐이라고 반박했다.)
FTC가 특별히 주시하는 AI 분야에 대한 질문에 칸 위원장은 모든 영역이라고 답했다.
그녀는 "우리는 칩부터 클라우드, 모델, 그리고 최종 애플리케이션(downstream apps)에 이르기까지 스택 전체를 살펴보고 각 계층에서 무슨 일이 일어나고 있는지 이해하려고 노력하고 있습니다"라고 설명했다. 또한 위원회는 현장의 목소리를 통해 기회와 위험 측면을 모두 청취할 계획이라고 덧붙였다.
FTC 위원장
오늘 이벤트에서
pic.twitter.com/VHQAbMylI9
— TechCrunch (@TechCrunch)
2024년 6월 11일
물론, FTC는 해당 영역 지원을 위해 다수의 기술 인력을 고용했음에도 불구하고 AI를 규제하는 데 어려움이 따른다. 칸 위원장은 FTC에 근무하고자 지원한 기술자로부터 600건이 넘는 지원을 받았다고 언급했지만, 실제로 채용된 인원은 밝히지 않았다. 그럼에도 불구하고 그녀에 따르면, 현재 FTC는 총 약 1,300명의 직원이 있으며, 이는 경제 규모가 15배 성장했음에도 불구하고 1980년대 대비 400명 감소한 규모이다.
수십 건의 반독점 소송과 소비자 보호 관련 약 100건의 소송을 다루면서, 위원회는 특히 AI 분야의 사기(fraud)에 대응하기 위해 혁신적인 전술을 도입하고 있다.
예를 들어, 칸 위원장은 FTC와 같은 기관이 전화 통화나 음성이 실제인지, 아니면 사기 목적으로 음성 복제 기술이 사용되었는지 실시간으로 감지하고 모니터링하는 방안에 대해 시장과 대중에게 아이디어를 공모했던 최근의 음성 복제 챌린지를 언급했다. FTC는 이러한 챌린지를 통해 좋은 아이디어를 확보하는 동시에, AI 사기 방지 메커니즘 개발에 시장의 초점을 유도하기를 기대하고 있다.
FTC의 또 다른 중점 영역은 AI 환경에서 '개방성(openness)'이 실제로 무엇을 의미하는지에 대한 질문이다. 칸 위원장은 "이것이 단순히 홍보 활동에 그치는 것이 아니라, 실제로 용어를 살펴볼 때 진정으로 개방되어 있는지" 물었다.
한편, 해당 기관은 AI 관련 기만적인 현상에 대한 경각심을 높이며, 시장의 역학 관계를 재조정하고 있다.
마지막으로, 그들은 온라인상에서 발생하는 사기 행위에 대해 주의를 촉구하는 공지사항을 발표했다.
[출처:] https://techcrunch.com/2024/06/11/ftc-chair-lina-khan-shares-how-the-agency-is-looking-at-ai