새로운 시장 체제의 시작, ATS 설립과 대응 방향

지난 11월 25일 금융위원회와 금융감독원은 다자간매매체결회사(ATS) 즉 대체거래소 인가 설명회를 개최하고 ATS 인가 요건을 비롯해 심사 방향, 신청 일정 등 추진 계획 설명 및 질의 응답의 시간을 가졌다. 2023년 3월 말 인가 신청을 받을 계획으로 이르면 오는 2024년 ATS가 출범할 것으로 보인다. 금융투자협회와 증권사를 중심으로 ATS 준비법인 ‘넥스트레이드’도 창립 총회를 마치는 등 ATS 사업이 가시화 작업을 거치는 중이다.

ATS(다자간매매체결회사)의 설립 배경

소위 대체거래소라 불리는 다자간매매체결회사(ATS) 준비법인이 국내에 전격 출범하였다. ATS는 시장참여자가 정규거래소 이외에서 증권을 거래할 수 있는 시장으로, 국내의 자본시장법에 따라 규정(제8조의2제5항)하는 명칭이며, 미국과 캐나다는 ATS(대체매매체결시스템, Alternative Trading System), 유럽은 MTF(다자간매매체결시스템, Multilateral Trading Facility), 일본은 PTS(사설거래시스템, Proprietary Trading System)라고 지칭한다. ATS 준비법인의 등장은 국내에서도 하나의 증권을 여러 시장에서 동시에 거래할 수 있게 되었다는 것을 의미한다.
국내에서 ATS 설립에 대한 논의는 오래된 이슈였다. 다자간매매체결회사는 2013년 8월 ‘자본시장과 금융투자업에 관한 법률’(이하 자본시장법) 개정을 통해 설립을 위한 법적 근거가 처음 마련되었다. 이는 자본시장의 매매체결기능을 독점체제에서 경쟁체제로 개혁하여, 유통시장의 경쟁 강화와 시장의 효율성을 촉진하기 위함이었다. 하지만 개정 당시 관련 업계에서 시행령상 명시된 규제가 상당히 엄격하다는 의견이 있었고, 동 시행령에서 규제하는 조건으로 ATS는 단 한 개도 설립되지 않았다.
결국 2014년 국회 국정감사에서 대체거래소 설립이 부진한 것에 대한 문제가 지적되었고, 2016년 6월 자본시장법 시행령을 통해 기존에 정립한 일부 규제를 완화하는 개정안을 시행하였다. 이후에도 자기자본 요건, 주식소유 및 거래 대상 제한 등에 대한 규제 개선이 여전히 필요하다는 의견이 제기되었다. 그런데도 ATS 설립에 대한 논의와 움직임이 꾸준히 있었고, 결국 2022년도에 그 설립이 가시화된 것이다.

다자간매매체결회사 준비법인 출범 이후 현황

2022년 11월 10일, 차세대 거래를 뜻한다는 의미로 지어진 ‘넥스트레이드’(Nextrade)라는 사명의 ATS 준비법인이 마침내 출범하였다. 이의 설립에 따라, 국내에서는 거래 시장 간 경쟁을 촉진시켜 효율적 시장으로 제고시킬 수 있는 계기가 될 것이라는 기대가 있다. 하지만 시장 분할이 가속화될수록 시장의 안전성 및 투명성 저하, 유동성 분산, 가격발견의 어려움 등으로 인해 오히려 시장의 효율성을 저해할 수 있다는 우려도 있다.

최선집행의무의 원칙

해외에서는 정규거래소뿐 아니라 증권거래가 이루어지는 거래시설에서 ‘최선집행의무’를 규정하고 있다. 최선집행의무(Best Execution)란 증권사(Broker-dealer)가 투자자의 주문이 유리한 조건에서 체결될 수 있도록 하는 법적 의무를 의미한다. 이 의무는 범국가적으로 단일화된 기준이 있는 것은 아니다. 기본적으로 증권사는 투자자의 주문이 최선으로 체결될 수 있도록 거래 가격, 실행 속도, 대규모 거래 처리 능력, 매매체결 시스템 등 다양한 요소를 고려할 수 있으나, 의무를 부여하는 대상, 주문회송장치 의무화 등에 따라 국가 간의 규제 차이가 있다.
각국의 최선집행원칙을 마련하는 기준은 차이가 있으나, 근본적으로 공통된 목적은 개인투자자 보호이다. 최선집행의무는 시장 분할의 가속화로 인해 시장이 복잡해지고 정보 경쟁력에서 소외되어가는 개인투자자를 보호하는 데 기인하는 중요한 역할을 할 수 있다. 또한, 브로커-딜러가 투자자의 최선 이익이 아닌 자기 자신에게 이익이 되는 방식으로 거래를 체결할 수도 있는데, 최선집행의무를 충실히 준수하는 것은 이러한 이해상충 문제에서 개인투자자를 보호할 수 있다.
최선집행의무를 위반한 사례로 주식 거래 애플리케이션을 운영하는 미국의 ‘로빈후드(Robinhood)’가 있다. 이 회사는 투자자의 주문 흐름과 관련한 정보를 HFT(고빈도거래, High-Frequency Trading) 회사에 판매하였고, 이러한 거래 정보를 이용한 HFT 회사로 인해 로빈후드의 고객에게 경쟁력 있는 거래 가격이 아닌 불리한 가격을 제공하게 되었다는 혐의로 2020년 12월 기소되었다. 다국적 금융서비스 회사 ‘시타델(Citadel LLC)’ 경우에도 브로커가 제공하는 정보를 거래에 이용하였고, 잠재적으로 그들의 고객에게 불리한 가격과 불이익을 초래하였다는 불공정거래 혐의로 벌금형이 내려졌다. 이렇듯 최선집행의무를 준수하지 않으면 개인투자자가 제대로 보호받지 못하는 문제가 발생할 수 있다.

주요국의 최선집행의무 기준

미국과 캐나다에서는 최선집행기준을 NBBO(최우선 호가, National Best Bid and Offer)로 규정하고 있으며, 증권사, 거래시장 모두에 최선집행의무를 부여하고 있다. 미 FINRA(금융산업규제국)는 증권사에게 최선집행의무를 포괄적으로 부여하여, 고객의 주문이 최선의 조건에서 체결되도록 신의성실(Reasonable Efforts)의 원칙을 준수하도록 규정했다.
또한, 미 SEC(증권거래위원회)는 Regulation NMS(전국증권시장제도규정)에서 OPR(Order Protection Rule)을 통해 트레이딩센터가 NMS 주식에 대한 최선의 가격을 제시하는 거래시설로 주문을 회송하도록 의무화하였다. 이러한 의무사항에 따라 최선집행의무를 준수해야 하는 증권사 또는 거래시설은 필수적으로 주문회송장치를 갖추어야 하고, 주문회송장치 설치로 인해 높은 초기비용이 발생할 수 있다.

통합시세시스템의 역할

복수의 거래시장에서 통합시세시스템은 최선집행의무를 이행하는 중요한 역할을 한다고 볼 수 있다. 통합시세란 여러 가지 거래시장이 제공하는 시세정보를 모아 보여주고, 이를 통해 거래시설마다 다른 시세정보를 한 번에 비교해서 볼 수 있는 시스템이다. 거래정보를 통합하는 형태는 크게 두 가지로 나눌 수 있다. 통합시세시스템을 지정하고 이를 통해 의무적으로 정보를 통합·분배하도록 하는 방법과 시장 자율에 따라 시세서비스 업체에 의해 공개되는 방법이 그것이다.
미국 통합시세시스템의 경우 전자의 방법을 따른다고 볼 수 있다. SEC는 1970년대 복수 거래시장을 전국적으로 연결하여 시장을 통합하기 위한 주식시장 규제환경 NMS(National Market System)를 구축하였다. 1970년대 중반, NYSE는 상장주식의 체결 및 호가 정보를 통합하기 위해 CTA(Consolidated Tape Association), CQ(Consolidated Quotation) Plan을 도입하였다. 1990년 초 NASDAQ은 상장주식 통합을 위해 UTP(Unlisted Trading Privileges) Plan을 실시하였다.
그 결과, 통합시세시스템을 위한 CTS(Consolidated Tape System)와 CQS(Consolidated Quotation System) 구축이 허용되었다. 최근에는 SEC가 CTA·CQ·OTC·UTP Plan을 모두 포괄하는 새로운 통합 관리 방안 CT(Consolidated Tape) Plan을 추진하고 있다.
반면 유럽은 후자의 방법을 따르는데, 처음 MiFID는 공인 통합시세시스템을 의무화하고 있지 않고 자율적으로 시세가 공급되도록 하였다. 즉, 시장참여자의 수요에 맞추어 자율적인 시세 공급 서비스를 제공하고, 시장정보제공업자들의 경쟁을 통해 더 나은 양질의 서비스를 기대하였다. 그러나 다양한 형태의 거래정보가 나타나면서 오히려 시장 간 통합이 어려워졌다. 이에 ESMA는 MiFID II에 시장통합을 위한 규제 체계를 재정립하였다. 이는 미국처럼 의무적으로 공인 통합시세시스템을 구축하는 것이 아닌, 자발적으로 CT가 설립될 수 있도록 설립에 필요한 요구사항을 규정한 것이다. 유럽은 통합시세시스템의 구축비용을 절감할 수 있다는 이점이 있으나, 여전히 통일된 시장정보가 구현되지 않아 기존의 문제가 해소되지 않고 있다.

국가별 통합시세시스템

현재 복수의 거래시설이 정착된 주요 국가의 거래시장에서는 공인기관 이외에도 다양한 통합시세시스템을 제공하고 있다. 이러한 통합시세시스템은 해당 거래시설의 호가 창에 올라온 주문뿐만 아니라 다른 거래시설로부터 라우팅되는 주문도 포함하여 보여준다. 다만, 미국과 캐나다 같은 주문회송장치 설치가 의무인 국가에서는 공인 통합시세시스템을 구축해 신뢰성 있는 정보를 확보할 수 있다. 그러나 유럽과 같이 주문회송장치의 규제가 없는 시장의 경우, 공인 통합시세시스템의 구축은 필요하지 않다. 이러한 환경은 각기 다른 데이터 정보로 인하여 신뢰성 있는 거래정보 확보와 시장 간의 통합을 충분히 실현하는 데 어려움이 있을 수 있다.

스마트 오더 라우팅(Smart Order Routing: SOR)에 대하여

SOR은 복수의 거래시장에서 최선집행의무를 이행하는 또 다른 하나의 중요한 기능을 한다. SOR이란 자동화된 주문 처리 프로세스로, 고객의 주문을 제출할 최적의 거래시설을 선택해 전략적으로 주문을 전달한다. SOR을 통해 여러 가지 시장별 거래 데이터를 분석하여 최적의 거래시설을 선택할 수 있으며, 주문을 제출할 거래시설을 결정하면 실행을 위해 거래시설에 자동으로 주문을 보낸다. 또한, 지속적으로 주문을 모니터링하고, 시장의 변화에 따라 실시간(real-time)으로 주문을 조정할 수 있다. SOR은 구현 방식에 따라 정규거래소나 ATS뿐만 아니라 DMA(직접주문접속, Direct Market Access), HFT(High-Frequency Trading) 등 다양한 거래 시장에서 활용되고 있다.

다자간매매체결회사 설립 이후 시장 변화

ATS가 설립되면 시장경쟁력을 확보하기 위해 시장 간의 경쟁이 상당히 촉진될 것으로 예상된다. 거래시장에서는 시장점유율을 높이기 위하여 각자 차별화된 서비스를 제공하려 노력할 것이다. 특히, 거래수수료 인하, 호가단위 축소, 거래체결 속도 개선 등을 통해 시장에서 우위를 선점하기 위한 경쟁이 치열할 것으로 보인다. 한국거래소의 경우, 2023년 1월부터 증권 및 파생상품의 호가 단위를 가격대별로 세분화하여 축소한다고 발표하였다.
또한, 다자간매매체결회사가 정착한 이후에는 다양한 형태의 시장 설립에 관한 논의가 진행될 것이다. ATS가 오랜 시간 정착된 미국이나 유럽의 경우에는 비공개주문시장(Dark pools)과 공개주문시장(Lit pools), Crossing Network(CN), Systemic Internaliser(SI) 등의 다양한 시장이 존재한다. 특히 다크풀의 경우, 미국에서 시장점유율이 상당히 높은 것으로 알려져 있다. 다크풀은 비공개주문을 통해 주식을 거래할 수 있는데, 대량의 주식을 거래해야 하는 기관투자자는 가격 변동성과 유동성 노출에서 벗어날 수 있다는 점에서 더욱 매력적인 시장으로 작용한다. 최근에는 알고리즘을 활용한 고빈도매매(HFT)가 증가하면서 다크풀 시장에서의 거래 수요가 더욱 커지는 추세이다. 하지만 다크풀은 다른 거래시장보다 규제가 느슨한 편이며, 시장 투명성이나 이해상충 등 잠재적인 문제가 발생할 수 있다. 향후 국내에서도 리트풀, 다크풀 등 다양한 형태의 시장 설립과 제도적 논의가 대두될 수 있다.

경쟁시장의 효율성 제고를 위한 대응 방향

결과적으로 최선집행의무는 규제 방향에 따라 투자자 보호, 시장 간 경쟁 활성화 등에 영향을 미칠 수 있다는 점에서 중요하다. 따라서 분할된 시장에서 바람직한 경쟁 촉진과 효율적 경쟁시장 형성을 위해 최선집행의무에 대한 구체적인 가이드라인 정립이 필요하다. 현재 국내 자본시장법에서는 최선집행의무를 투자매매업자(또는 투자중개업자)에게 부여하고 있으며, 구체적인 최선집행의무 기준이 구체적으로 명시되지 않았다. 즉, 유럽처럼 최선집행의무 기준을 자체적으로 고려하고 공표한다는 특징이 있으나, 이는 최선집행의무 판단에 주관성이 개입될 여지가 있으며 이해 상충 문제로 번질 가능성이 있다. 따라서 최선집행의무의 구체적인 기준 마련이 필요하다.
최선집행의무를 충실히 이행하기 위해서는 국내에서도 거래시설 간 정보를 통합하여 투자자에게 제공할 수 있는 통합시세시스템 구축이 필요하다. 현재 국내에서는 한국거래소에서 제공하는 ‘정보 데이터시스템’이 존재하나, 이는 여러 시장의 정보를 통합하여 제공하는 통합시세시스템과는 다르다. 그러나 앞으로 시장 분할이 가속화된다면, 거래 데이터의 분산화가 높아져 시장의 투명성이나 안정성에 대한 우려가 제기될 수 있다. 따라서 여러 시설 간 통합된 시세정보를 제공할 수 있는 시스템 구축이 필요하다.
SOR의 알고리즘과 같은 고도화된 IT 기술을 발전시켜 최선집행의무를 바람직하게 이행하는 방법도 생각해 볼 수 있다. 미국, 유럽, 홍콩, 일본, 싱가포르 등 여러 국가에서는 HFT나 알고리즘 거래가 확산되어 있다. 이러한 시장 상황에 따라 고도화된 기술을 접목해 매매체결 속도를 더 빠르게 만들려 한다. 최근에는 주문 체결의 지연(latency)을 개선하고자 DMA, Co-location, Proximity 등과 같은 서비스를 접목해 계속 발전해가고 있다. 이와 비교하였을 때, 국내의 주문체계에는 큰 변화가 뚜렷하게 없으며, 해외시장의 변화와 수요에 발맞춰 대응하지 못하고 있는 것으로 여겨진다. 국제적 흐름에 따라 기술의 향상과 다양한 서비스 제공을 위한 방안을 모색해야 한다.
다자간매매체결회사(ATS)의 본격적인 운영은 2024년에 시작할 예정으로 알려져 있다. 새로운 분할시장 체계에서 다자간매매체결회사가 올바르게 정착하여 거래시장 간에 공정한 경쟁을 이루고, 시장의 효율성을 제고할 수 있는 제도적 검토가 필요하다.