스타트업 퀀트펀드 한개 몸값이, AI 열풍에 5억 달러까지

이 회사는 세 명의 전 딥마인드 연구원이 프라하에 세웠다. 포커에서 인간을 꺾은 강화학습 기술을 주식 시장에 적용해 “창업 이후 단 한 번도 마이너스 수익을 기록한 달이 없다”고 자랑한다. 에스앤피(S&P) 500과 나스닥에서 하루 수십억 달러(수조원) 규모의 실제 거래를 돌리고 있다. 

투자자들은 열광했다. 글로벌 유명 벤처캐피털인 크리안덤은 이 회사가 ‘금융 회사’가 아니라 ‘기술회사’라며, 역대 최대 규모의 투자를 단행했다. 시장은 무한하고 AI가 돈을 찍어내는 공장이라면, 이 투자는 신의 한 수처럼 보였다.

하지만 과연 그럴까? 이 모든 화려한 서사 이면에, 금융 시장의 냉엄한 수학적 진리가 가려져 있다고 영국 경제지 파이낸셜타임스(FT)가 주장했다. FT는 하버드대 공학교수인 시네드 오설리번의 기고를 최근 게재, “규모의 경제가 작용하는 소프트웨어와, 규모의 불경제(diseconomies of scale)가 적용되는 트레이딩은 태생적으로 반대 방향에 서 있다”고 역설했다. 오설리번은 하버드대 경영대학원의 전 선임 연구원이자 항공우주공학 교수로, 현재 멀티 전략 퀀트 헤지펀드인 씨에프엠의 자문을 맡고 있다.

이퀴리브르의 비즈니스 모델은 겉보기에 매력적이다. 코드와 데이터, 수학 천재들이 모여 알고리즘을 개발했다. 이를 수백만 달러에 적용하든 수십억 달러에 적용하든, 한계 비용은 거의 들지 않는다. 마치 소프트웨어(SaaS) 회사처럼 보인다.

하지만 전문가들은 이 함정을 경고한다고 FT는 지적했다. 금융 시장은 소프트웨어 업계와 근본적으로 다른 법칙이 지배하기 때문이다. 소프트웨어는 네트워크 효과로, 사용자가 늘어날수록 데이터가 축적되고 서비스는 더 좋아진다. 가치는 상승하고, 경쟁자가 따라오기 어려운 진입장벽(Moat)도 형성된다.

하지만, 이퀴리브르같은 퀀트 트레이딩의 핵심은 ‘알파(초과 수익)’다. 이는 사용자가 많아질수록 소멸하도록 설계돼 있다고 FT는 설명했다. 경쟁 심화와 가격 오차의 소멸로 인해 가치가 급격히 붕괴하는 ‘규모의 불경제’를 겪는다는 것이다. 이른바 ‘알파 디케이(Alpha Decay)’다. 이는 투자 전략의 효과가 시간이 지남에 따라 감소하는 현상으로, 시장 참여자들의 전략 복제, 가격오차 교정, 과적합(overfitting) 등으로 인해 발생한다.

어떤 전략이 수익을 내는 이유는 시장의 비효율성(가격 오류) 덕분이다. 하지만 그 비효율성을 발견하고 많은 자본이 몰리면, 시장은 빠르게 그 오류를 수정하고 알파는 사라진다. 하버드대 연구에 따르면, AI 도입으로 더 많은 사람이 같은 전략을 쓰면 쓸수록 수익은 더 빠르게 증발한다.

고 제임스 사이먼스가 이끌던 전설적인 퀀트 펀드 ‘르네상스 테크놀로지’는 이 진리를 꿰뚫고 있었다고 FT는 강조했다. 이는 수십 년간 연평균 30~40%가 넘는 경이적인 수익률을 기록했다.

그들은 이 회사 메달리온 펀드의 규모를 글로벌 주식 시장의 1/1만5000쯤에 해당하는 약 100억 달러(약 14조 3820억 원)로 인위적으로 묶어두고, 6개월마다 수익을 배당해 펀드가 커지지 못하게 막았다. 심지어 2003년에는 외부 투자자들을 모두 내쫓기까지 했다. 자본이 지나치게 커지거나 동일한 전략을 추종하는 세력이 늘어나면, 스스로 가격을 왜곡시키는 ‘자기 파괴적’ 결과를 낳기 때문이다.

FT에 따르면, 이퀴리브르와 크리안덤은 이 문제를 잘 알고 있다. 그들은 이번 투자가 ‘평생 갈 마법의 전략’이 아니라, 오래된 전략이 죽으면 새로운 전략을 계속 찍어내는 ‘알파 공장’에 대한 베팅이라고 해명한다. 크리안덤의 캐머런 셀러스 부사장은 “오늘의 모델이 작년 모델을 10배 이상 앞선다”며 기술 발전 속도를 강조한다. 

하지만 이 역시 함정이 있다고 FT는 지적했다. 이퀴리브르가 자랑하는 ‘무패 행진’은 2025년 이후 전반적인 자산 가격이 우상향하던 시기에 거둔 성과에 불과하다는 것. 2007년 월스트리트를 강타한 ‘퀀트 지진(quant quake. 많은 헤지펀드가 동시에 큰 손실을 본 사건으로, 유사한 전략의 포화와 유동성 위기가 원인)’처럼 시장이 급변하고 군중 청산이 일어나는 극한의 스트레스 환경에서, 이 시스템이 방어력을 발휘할지는 검증된 바 없다. 백테스트(과거 데이터 검증) 상에서 작년 모델보다 10배 뛰어난 성능을 보였다는 점 역시, 소멸하는 우위를 지속적으로 대체해 낼 수 있는 ‘혁신의 공장’임을 증명하는 것은 아니라는 지적이다.

이퀴리브르가 벌어들인 돈의 출처도 문제다. 수익을 내는 주체는 이퀴리브르가 아니라, 실제 자본을 대고 있는 타워 리서치 캐피털이다. 즉, 이퀴리브르는 자신의 돈으로 리스크를 지는 것이 아니라, 기술을 ‘대여’해주는 입장이다.

이 모든 퍼즐을 맞추는 도구는, 도박사들의 ‘켈리 공식(Kelly Criterion)’이라고 FT는 분석했다. 이 공식은 어느 패에 얼마를 베팅해야 하는지 정확히 알려준다. 베팅의 규모는 당신이 가진 ‘우위(Edge)’의 크기에 따라 결정해야 한다. 판의 크기, 상대방 손목의 고급시계, 또는 혈관을 타고 흐르는 마티니의 양이 아니어야 한다. 우위의 크기와 지속성을 초과하는 자본 투입은 필연적으로 파멸로 이어진다.

이퀴리브르의 가치는 △그들의 기술(우위)이 소멸되기 전까지 흡수할 수 있는 자본의 크기와, △그 짧은 수명 동안 벌어들일 수익을 곱한 값이다. 거기에 사용된 자본이 이퀴리브르의 것이 아니라는 점까지 감안하면, 시장에서 추정하는 5억달러의 가치는 현저히 과대평가되었을 가능성이 농후하다고 FT는 설명했다. 퀀트 업계의 한 관계자는 “AI는 연구자들을 더 빠르게 만들 뿐, 연구자를 대체하지 않는다”며 “퀀트 트레이딩의 진짜 제약은 시간이 아니라 아이디어”라고 잘라 말했다.

FT는 AI가 퀀트 펀드를 소프트웨어 회사로 둔갑시키는 착시 현상이 일어나고 있다고 비판한다. 하지만 소프트웨어는 규모의 경제로 살아남고, 트레이딩은 알파의 소멸로 죽어간다. 투자자들은 ‘무한한 시장’이라는 유혹보다 ‘소멸하는 알파’라는 냉엄한 현실을 직시해야 할 것이라고 FT는 결론지었다.

권선무 기자