Y Combinator(YC)에서의 재임 기간으로 잘 알려진 고프 럴스턴(Geoff Ralston)이 목요일, 공식 투자 업계 복귀를 발표했습니다.
그의 새 펀드는 'Safe Artificial Intelligence Fund' (SAIF)라는 이름으로, 이는 펀드의 투자 근거(테제)를 설명함과 동시에 언어유희적 의미도 담고 있습니다.
럴스턴에 따르면, 그의 펀드 웹사이트에 명시된 투자 목표는 "AI 안전성, 보안성, 책임 있는 배포를 향상시키는" 스타트업입니다. 그는 1,000만 달러 한도 내에서 10만 달러 규모의 SAFE를 발행할 계획이라고 밝히며, 이는 스스로 "말장난"이라고 설명했습니다. (SAFE는 Y Combinator가 개척한 선(先)투자/후(後)평가(invest now/price later) 방식의 시드 이전 투자 도구로, simple agreement for future equity의 약자입니다.)
현재 대다수의 벤처 캐피털(VC)이 AI 스타트업에 투자하는 추세와 달리, 럴스턴은 '안전한 AI(safe AI)'라는 개념에 보다 집중하는 전략을 취하고 있습니다. 비록 그가 이 개념이 다소 광범위하다고 인정했음에도 불구하고 말입니다.
그는 테크크런치와의 인터뷰에서 "현재 세상에 존재하는 AI 프로젝트 대부분은 이 기술을 이용해 문제를 해결하거나 효율성을 창출하거나 새로운 역량을 만들고 있습니다. 필연적으로 위험하다고 할 수는 없지만, 안전성이 그들의 주된 관심사는 아닙니다. 저는 안전한 AI를 핵심 목표로 삼는 스타트업에 투자할 작정입니다. (이 안전한 AI라는 개념을 제가 매우 폭넓게 정의한 것입니다.)"라고 말했습니다.
이 목록에는 AI의 의사결정 과정을 명확히 하거나 AI 안전성을 측정하는 등 AI 안전성 개선에 초점을 맞춘 스타트업들이 포함됩니다. 지적 재산권(IP)을 보호하는 제품, AI가 규정 준수 요구 사항을 따르도록 보장하는 솔루션, 가짜 정보(disinformation) 방지 및 AI 생성 공격을 탐지하는 기술도 포함됩니다. 또한, 기업의 기밀이 외부로 유출되지 않는 개선된 AI 예측 도구나 AI 기반 비즈니스 협상 도구 등 내재된 안전장치를 갖춘 기능적 AI 도구에도 투자할 뜻을 밝혔습니다.
이는 많은 VC가 추구하는 AI 스타트업 목록처럼 들릴 수 있지만, 럴스턴이 투자하지 않을 분야도 있습니다. 그가 꼽은 예시는 '완전 자율 무기(fully autonomous weapons)'입니다.
그는 "AI의 활용 중 위험할 수 있는 분야는 확실히 존재합니다. 예를 들어 생물학 무기 제작에 기술을 사용하는 경우나, 인간의 개입 없이 일반 무기를 관리하는 경우 등이 있습니다."라고 설명했습니다.
오히려 그는 AI 무기로부터의 공격을 감지하거나 예방할 수 있는 '무기 안전 시스템(weapon safety systems)'에 투자하고 싶다고 밝혔습니다.
이는 오늘날 국방 기술 분야의 창업가들과 많은 VC들이 가지고 있는 관점과는 상반된 견해입니다. 테크크런치 보도에 따르면, AI 무기를 개발하는 일부 인물들은 이러한 무기가 인간의 개입 없이 작동하는 것이 더 좋을 것이라는 주장을 늘 제기해왔습니다.
그럼에도 불구하고, VC들에게 AI 분야는 여전히 경쟁이 치열한 영역입니다. 럴스턴은 자신이 YC 네트워크를 통해 경쟁 우위를 확보할 수 있기를 기대하고 있습니다. 럴스턴은 초대 대통령으로 3년, 자문가로 10년 이상 근무한 후 2022년 YC를 떠났으며 (그 자리는 개리 탄(Garry Tan)이 이었습니다), 그곳에서의 경험을 바탕으로 멘토링을 제공하고, YC 지원 방법 코칭을 약속했습니다. 아울러 상당한 규모의 투자자 네트워크를 활용할 수 있도록 돕겠다고 했습니다.
한편, 럴스턴은 이번 펀드의 구체적인 규모나 투자할 예정인 스타트업 수, 그리고 LP(Limited Partner) 투자자 구성원에 대해서는 언급을 꺼렸습니다.