바둑에 구글 딥마인드의 ‘알파고’가 있다면 주식시장엔 '알고스(Algos)'가 있다.

알고스는 알고리즘 거래를 하는 투자자(Alorithimic trader)의 줄임말로, 컴퓨터 프로그램을 이용해 거래 시간, 가격 주문 형태 등을 빠르게 결정하고 투자하는 방식이다. 펀드매니저의 주관적 판단이 아닌 컴퓨터 프로그램에 의해 매매한다. 퀀트펀드가 파운드화의 급락을 초래한 것이나 금융투자 전략을 인공지능(AI) 스스로 수립하는 것 등이 모두 알고스에 해당한다.

10년 전 알고스는 외환시장에서 거래시스템 간 호가격차를 이용해 이익을 내던 수준이었지만 이제는 자산운용사가 로봇 알고리즘을 직접 개발해 수익률 상승을 꾀할 만큼의 수준에 도달했다. 하지만 일각에서는 알고스를 이용한 거래가 급증하는 만큼 그에 대한 위험성도 지각해야 한다는 지적이 함께 나오고 있다.

◆ 돈 몰리는 퀀트펀드, 급증하는 ‘알고스’ 거래

최근 알고스를 이용한 거래는 빠르게 증가하고 있다. 알고리즘에 특화된 퀀트 집중형 헤지펀드의 순자산은 1분기에만 46억달러 늘었다. 총 3조1000억달러 규모의 헤지펀드 자산 중 약 30%(9320억달러)가 퀀트집중형 헤지펀드다.

투자자 역시 일반 헤지펀드에서 알고스 시스템에 특화된 퀀트펀드로 빠르게 이동하고 있다. 작년 초 투자자들은 일반 헤지펀드에서 83억달러를 회수하고 퀀트펀드에 13억달러를 투자했다. 월스트리트저널 보고서에 따르면, 퀀트펀드의 거래량은 2013년 13.6%에서 현재 전체 주식거래시장의 27.1%까지 치솟았다.

월스트리트 저널은 퀀트펀드의 거래량 증가는 앞으로 수개월까지 지속될 수 있다고 전망했다.

위 그래프에서 전통적 자산운용사, 퀀트집중형이 아닌 일반 헤지펀드, 은행 독점 거래와 비교해보면 퀀트펀드의 거래량이 급증했다는 사실을 알 수 있다. 지난 7년 간 퀀트펀드의 거래량 변동 추이

뿐만 아니라 소규모 투자자들을 위해 알고리즘 거래 방식을 접목한 '스마트-베타' ETFs와 뮤추얼 펀드 역시 빠른 성장세를 보이고 있다. 이 펀드의 자산 규모는 2008년 1080억달러, 2011년 2080억달러로 증가했으며, 2017년 현재 7600억달러의 자산을 소유하고 있다.

◆ 알고스, 퀀트펀드의 이점

포인트72 애셋매니지먼트

퀀트펀드는 빅데이터와 AI 기술의 발달을 등에 업고 투자예측 기능을 강화하고 있다. 세계 주요 경제 및 금융 데이터에 실시간 접근이 가능해지면서 거래적중률도 높아지고 있다. 최근 월가의 헤지펀드 회사들이 테크기업들보다 한발 앞서 유능한 AI박사들을 모셔가는 것도 퀀트펀드가 높은 수익률을 자랑하기 때문이다.

120달러 규모로 세계에서 가장 큰 헤지펀드사인 포인트72 애셋매니지먼트(Point72 Asset Management) 역시 인공지능 기술을 활용한 주식투자에 집중하고 있다. 포인트72의 포트폴리오 절반 이상을 사람과 인공지능이 함께 관리하고 있다. 지난해 포인트72는 펀드매니저에 의존하는 투자에서 대부분 손실을 봤지만, 퀀트 투자자들은 약 5억 달러의 이익을 봤다.

퀀트펀드가 수익률을 낼 수 있는 이유는 초단타매매(큰 주식 물량을 작게 잘라 주문 처리)를 통해 시장 충격과 거래비용을 줄였기 때문이다. 컴퓨터 프로그램을 이용해 일정한 조건의 거래주문을 자동으로 수행하는 '알고리즘 트레이닝'은 점점 더 많은 데이터를 빠르게 분석함으로써 수익을 낼 가능성을 높이고 있다.

실제로 퀀트펀드 평균 수익률을 분석해보니 연평균 5.1%씩 수익을 낸 것으로 집계됐다. 헤지펀드 전체 평균 수익률 4.3%을 웃돈다. 올 1분기에도 퀀트펀드의 수익률은 3%로 헤지펀드 전체 평균 2.5%를 앞섰다.

◆ 알고스가 주식시장 붕괴를 초래할까?

하지만 일부에서는 알고리즘 트레이딩 및 초단타매매(HFT)의 위험과 부작용도 크다고 우려하고 있다. 비지니스 인사이더는 24일 "로보어드바이저 알고리즘으로 투자 수익을 극대화하고 있는 '알고스'가 주식시장 붕괴를 촉발할 수도 있다"고 보도했다. 규모가 거대해진 알고리즘 주식매매에서 주문 실수가 발생하면, 금융사가 망할 정도의 손실이 발생할 수 있음은 물론이고 시장과 경제 전반이 요동칠 수 있다는 것이다.

국제 증권위원회 (IOSCO) 기술위원회는 2011 년 7 월 보고서에서 미국과 같이 금융 시장 간의 강력한 상호 연계가 구축된 곳은 한 시장에서 발생한 충격이 다른 시장으로 빠르게 전달될 수 있다고 지적했다.

지난 2007년 발생한 '퀀트멜트다운(quant meltdown)'이 알고스의 위험성을 나타내주는 대표적이다. 퀀트멜트다운은 지난 2007년 거대 헤지펀드사들이 줄줄이 막대한 손실을 기록했던 사건을 말한다.

2007년까지 최고 기록을 세운 헤지펀드회사 르네상스테크놀로지의 주요 펀드 수익률은 8월 한달 동안에만 8.7%가 하락했고, 또 다른 헤지펀드인 하이브리지캐피털매니지먼트는 '하이브리지스태티스컬어포튜니티펀드'가 2007년 16%의 손실을 냈다. 당시 18억달러를 관리하던 컴퓨터 기반의 헤지펀드사는 한 달 간 약 20%의 손실을 냈다. 동시 판매를 서두르는 퀀트펀드들 간의 전략적 유사성과 서브프라임 모기지 사태 등의 시장 상황 급변을 반영하지 못한 오류가 퀀트멜트다운 현상을 일으킨 원인으로 분석됐다.

수학자인 윌리엄 바이어스는 지난 2010년 저서 '수학자는 어떻게 사고하는가?'라는 저서에서 "세계를 숫자로만 바라보면 컴퓨터가 내놓는 예측에 빠져 실물경제에 영향을 미치는 다른 요인들을 무시하게 되는 오류를 범할 수 있다”고 경고했다.

또 증권 전문가들은 "복잡한 알고리즘 모델에 투자하는 투자자가 많을수록 일부 알고리즘들은 투자자가 몰리는 모델로 비슷해지는 경향을 보일 것"이라며 "이는 주식 시장에 혼란을 야기할 수 있다”며 “단일화된 기계적 알고리즘 대신 인간의 경험과 분석이 함께 포함된 시스템을 구축하는 방향으로 알고스를 발전시켜야 한다”고 조언했다.