금융위 AI 가이드라인 마련에 대한 이해와 금융권 대응방향

글. 구태훈(KB금융지주 AI혁신센터 센터장)

디지털 혁신 추진하는 핵심으로 부상한 AI 기술

인류 역사를 살펴보면 도구를 만드는 새로운 기술의 시작은 산업과 사회의 변화와 혁신의 시작이었고 인류를 지속적으로 발전시키는 원동력이었다. 이러한 기술들 중에 최근 가장 주목받고 있는AI 기술은 빅데이터, 컴퓨팅기술, 알고리즘 발전의 도움으로 특정 분야에서는 사람이 수행하는 능력을 능가하기 시작하면서 기업과 정부의 많은 투자와 주목을 받기 시작했다. 금융분야에서도 이러한 AI 기술은 미래 은행, 카드, 증권, 보험 등 금융산업 경쟁력의 핵심으로 부상해 지속적인 투자와 시도를 통해서 디지털 혁신을 추진하는 핵심 기술이 기대를 모으고 있다.

이러한 금융분야의 변화를 안정적으로 가속화하기 위해서 지난 4월 금융위는 제7차 디지털금융협회에서 서울대학교 ‘금융분야 AI 운영 가이드라인 연구용역’에 대한 결과를 바탕으로 향후 AI 운영 가이드라인 방향을 논의했다. 관련 결과를 바탕으로 2분기 중 금융분야 AI 가이드라인을 준비하고 올해 안에 금융업권별 실무지침 등도 단계적으로 마련할 방침이다. 현재 준비하고 있는 AI 가이드라인의 핵심 방향은 미래 가장 큰 성장 동력인 AI의 금융분야 적용 활성화를 촉진하기 위한 기반을 마련하는 것이다. 또한 AI 적용에 대한 설명과 알 권리, 차별 금지, 프라이버시, 이해충돌 방지 등 소비자의 권익보호와 이를 통한 금융시장에 대한 신뢰성 유지, 공정성, 포용 금융 등의 사회적 가치 달성을 위한 기반을 마련하는 목적이 있다. 금융 AI 도입을 방해하는 요인으로 AI 도입을 위한 자원의 부족과 개인정보 보호 등 규제의 불확실성, 책임 소재의 불명확성 등이 우려되기에 이를 위한 부족한 법과 제도의 정비, 그리고 인프라 지원에 대한 주요 설계 내용이 담길 것으로 예상된다.

필자 역시 KB금융지주 AI혁신센터와 KB국민은행 AI혁신플랫폼부를 이끌면서 이러한 AI 가이드라인의 준비는 보다 혁신적인 대고객 서비스와 업무 효율화을 위해서 꼭 필요한 기준이 될 것으로 기대하고 있다. 여기서는 현재 금융위가 준비하고 있는 핵심 내용이 무엇이고 왜 중요한지를 실제 금융 AI를 주도하고 있는 시각으로 설명하고 이에 대한 대응전략을 공유하고자 한다.

금융분야 AI가이드라인의 핵심내용은 무엇인가?

금융 AI는 소비자의 특성, 금융서비스 이용 양태나 시장 상황 등과 관련된 데이터를 지각하고, 이로부터 소비자의 신용 위험, 인지나 행동, 시장 성과 등을 학습하고 추론하며, 이를 통해 금융거래 체결, 고객 응대 등 행동을 내리는 일련의 과정이라 할 수 있다. 지각(sense)-학습(learn)-추론(reason)-조치(action)하는 전체 금융 소비 과정에서 AI 기술을 기반으로 사람과 시스템이 제공하는 대고객 금융서비스와 내부 업무 효율화를 혁신하는 것으로 표현하는 것이다.

다시 생각해본다면 AI 마케터, AI 딜러, AI 상담원, AI 심사역, AI 자문역, AI 감사역 등과 같이 사람과 기존 프로그램 기반의 단순 시스템을 지능화하고 자동화를 가속화하는 기술을 말한다고 보면 된다. 따라서 이러한 새로운 기술 기반의 서비스를 적용하고 확대함에 있어서 기준과 규칙을 제공함으로써 충분한 품질을 확보하도록 기반을 제공하는 것이 바로 AI 가이드라인이다.

그렇다면 AI의 어떤 특징이 기존 사람이나 시스템보다 경쟁력을 제공하고 혁신적인 서비스를 가져다줄지 생각해보자. 그 첫째는 공정성에 대한 기대이다. 사람이 대출심사를 할 때 오랜 금융 지식과 경험을 기반으로 공정하게 판단하지만 주관적인 판단이 100% 배제되어 있다고 보기는 어려운 점이 있다. 따라서 이러한 이유로 많은 조직 간의 갈등과 소비자의 기회 손실을 가져올 수 있는 부분을 개선할 수 있을 것이라는 기대가 있는 것이다. 둘째는 금융 서비스를 제공하는 사람이 충분한 정보를 가지고 있지 못할 수 있는 한계를 극복할 수 있다는 점이다. 예를 들어 현재 판매되고 있는 금융상품에 대한 정확한 정보를 전달하고 추천하는 것은 이미 AI가 사람의 능력을 뛰어 넘고 있는 분야일 수 있기 때문이다. 그렇기 때문에 AI 가이드라인은 보다 효과적으로 이러한 경쟁력을 충분하게 확보하기 위한 기회를 제공하는 것이고, 고객인 소비자와 직원에게 혁신 서비스를 안전하게 제공하는 최소한의 안전 그물망이라고 볼 수 있다. 특히 현재 준비되고 있는 보고서에서는 AI 활성화를 위해서 다음과 같은 중요 내용을 담고 있다.

여기서 처음 두 가지 내용인 법‧제도 개선과 인프라 마련은 AI가 금융분야에 활용될 수 있도록 기반을 제공하고 틀을 만들어 주기 위한 것이다. 물론 현재 부족한 법‧제도의 준비는 가장 시급하게 추진되어야 할 것이지만 반대로 이러한 틀 때문에 AI 활용 촉진이 저해될 수 있으면 안 될 것이다.

현재 금융권에서 AI를 추진함에 있어서 가장 큰 어려움은 학습 데이터에 대한 준비 어려움과 최신 딥러닝 및 머신러닝 알고리즘 오픈소스를 금융 내부망에서 쉽게 활용할 수 있는 기반 시스템을 구축하는 것이다. 대부분의 AI 기반 챗봇, CSS, FDS, OCR 등의 과제를 수행함에 있어서 학습 데이터 준비는 개인정보보호와 데이터 준비 부족으로 충분한 성능 확보에 한계를 가져왔던 것이 사실이다. 따라서 AI 가이드라인이 이러한 어려움을 쉽게 해결할 수 있는 방안을 제공할 수 있다면 AI 활성화에 크게 기여하고, 글로벌 금융 산업의 경쟁에서 보다 우위를 점할 수 있는 기반이 될 것으로 기대하고 있다.

나머지 정확성·공정성, 설명가능, 윤리에 대한 방안과 가이드라인은 소비자를 보호하기 위한 것으로 이해할 수 있다. 사람에 비해 AI의 정확성·공정성은 중요한 경쟁력이지만 학습 데이터에 대한 준비와 구성에 따라서 판단의 치우침이 발생할 수 있기 때문이다. 설명가능성은 최근 고도화된 머신러닝 및 딥러닝 알고리즘의 단점인 설명력 부족에 대한 대응이 준비되지 못하면 금융 서비스적용에 제약이 될 수밖에 없어서 새로운 이론과 방법으로 이러한 한계를 극복할 수 있는 가이드가 제공될 필요가 있다.

마지막으로 윤리에 대해서도 최근 사회적 문제가 되었던 이루다 챗봇의 사회적 이슈로 설명될 수있다. 따라서 AI 가이드라인의 준비는 금융 서비스의 고도화와 소비자 보호 및 권익을 높이기 위해서 꼭 필요한 준비이다. 다만 충분히 활용 가능한 현실적 기술과 방안 마련이 전제조건임을 명심해야 한다.

금융권의 대응 방향에 대한 고찰

금융위에서 AI 가이드라인을 고민하게 된 가장 큰 배경 중에는 고객인 소비자와 내부 직원들이 AI 기술을 기반으로 새로운 고객 경험과 업무 혁신을 통해서 초인류 금융 서비스 경쟁력을 국가적으로 갖도록 하는 것에 목적을 두고 있다고 볼 수 있다. 이는 은행, 증권을 포함한 금융권이 AI 전략을 수립함에 있어서도 동일한 목적을 가진다. 무엇보다도 AI 전략의 핵심은 기술보다는 업무를 우선적으로 이해하고 개선하고자 하는 혁신을 추진해야 함이 고려 대상이다. 따라서 가장 중요한 원칙으로 Biz First라는 전략을 수립할 필요가 있다. 그러나 위의 AI 가이드라인의 주요 내용인 AI 활용을 위한 법‧제도, 인프라, 정확성·공정성, 설명가능성, 윤리 등을 준수하기 위해서는 핵심 기술의 내재화가 필수적이다.

언제나 CEO 대상 AI 관련 강의를 할 때 이야기하는 것이 ‘우리가 기술을 어떻게 바라볼 것인가’라는 것이다. 이러한 시각은 ‘어떻게 AI 기술을 잘 활용할 수 있을까’ 라는 질문에 대한 어려운 답을 찾아주는 핵심이기 때문이다. AI를 포함해서 모든 신기술이 가지고 있는 특징은 정말로 그것을 사용해야 하는 현장에서 잘 모르는 것과 사용했던 경험이 부족하기 때문에 발생하는 간극일 것이다. 매번 강조하지만 AI를 생각할 때 모든 것을 다 해결할 수 있는 만능 도깨비 방망이가 아니라 목수가 매일 사용하는 공구함의 도구 중에 전동드릴과 같은 ‘신박한’ 도구를 갖게 되었다 생각하고 어떻게 잘 활용할지 학습하고 적용하는 것이 필요하다는 시각의 전환인 것이다. 즉, 대상 고객 경험과 업무 효율화를 어떻게 혁신할 수 있는가를 비즈니스 관점에서 최우선적으로 생각해야 한다. 그렇기 때문에 AI 가이드라인은 새로운 도구를 사용하는 바람직한 방법과 틀을 제시하고 부작용과 문제가 발생하지 않도록 최소한의 안전망을 제공하는 것으로 바라볼 수 있다.

그렇지만 기술에 대한 충분한 이해가 없다면 잘 활용할 수도 없다. 많은 금융 기업들은 빅테크와 다르게 그동안 아웃소싱 전략을 통해서 기술을 사오거나 빌려오는 것이 일반화되었다. 은행도 마찬가지다. 외부 전문가에 용역과 솔루션을 구매해서 업무에 장착하는 단발성 프로젝트 위주의 사업이었던 것이다. 물론 지금까지는 매우 성공적이었고 효율적인 방법이라 볼 수도 있다. 그러나 AI 기술 적용에는 너무도 큰 어려움이 있다. 기술을 활용하는 사용자가 내재화할 수 있는 역량이 부족하다면 충분히 활용할 수도 없고 많은 문제를 발생할 수 있는 위험 요소를 피할 수도 없기 때문이다. AI 기술은 완성된 기성품을 사는 것이 아니라 우리가 보유하고 있는 정형·비정형·내부· 외부 데이터를 지속적으로 학습시키고 업무적으로 적용해보고, 실패를 반복하면서 기술을 만들어가고 개선하는 과정이기 때문이다. 따라서 기술을 충분히 이해하고 만들어 쓸 수 있는 역량의 확보는 보다 안전하게 기술을 활용할 수 있는 선결과제이자 전제조건이다. KB국민은행의 AI 전략 수립과 과제를 수행함에도 이러한 생각을 반영해서 핵심 기술 내재화라는 중요한 전략을 어렵지만 추진하는 것도 같은 맥락이다.

한편, 코스콤은 네이버클라우드와 함께 금융 클라우드를 기반으로 금융혁신 서비스를 선보였다.  AI 기반 클라우드 콜센터는 클라우드를 기반으로 AI고객센터를 구축할 수 있는 서비스형 소프트웨어(SaaS) 솔루션으로 챗봇, 음성인식, 음성합성 등 다양한 AI 기술을 결합해 포괄적인 고객 콜센터 업무지원이 가능해진다. 네이버클라우드와 공동사업으로 운영하는 금융 전용 클라우드존에서도 서비스가 제공되어 금융당국이 요구하는 까다로운 규제를 충족해야 하는 금융기관들이 안심하고 사용할 수 있다는 점도 장점이다. AI 콜봇은 과거 기계음 형태의 스크립트를 읽어 주는 형태가 아닌, AI기반의 자연스러운 음성 합성과 인식 기술을 활용한 것으로 네이버의 방대한 데이터를 활용해 한국어에 특화된 탁월한 음성인식과 텍스트 변환 역량으로 해외 타 경쟁 업체들과 월등한 기술격차 확보하고 있다. 또한 기존 네트워크 회선, 서버 확보 공간 등 물리적인 구성요소들을 확보해야 하는 On-Premise방식에 비해 AI콜봇은 금융 클라우드 솔루션인만큼 초기 구축 비용 및 서비스 제공 시간을 앞당길 수 있고, 고객센터 업무 구현을 위해 필수적인 교환기, 녹취, PDS 등의 기능과 전화번호 등 콜 인프라까지 함께 제공하는 것이 특징이다.

향후금융 AI 발전을 위한 어려움과 도전과제

금융그룹 내부에서 핵심 기술을 내재화하는 것에는 많은 어려움이 따른다. 기존 수십년간 성공 모델로 생각했던 일하는 방식과는 매우 다르게 일을 바라보고 수행해야 하는 것이 가장 큰 어려움일 것이다. 조직의 구성, 예산의 확보, 사업 기획, 그룹간 업무 협업 등 꽤 많은 장벽이 혁신을 발목잡고 있다고 생각할 수 있다. 핑안그룹, BBVA, DBS, Capital One 등 디지털 혁신을 주도한 해외의 많은 금융 기업들은 이러한 어려움을 극복하고 경쟁에서 살아남기 위해 빅테크 기술을 사용하는 사용자가 아닌 스스로 빅테크가 되려는 노력을 하고, 이를 위한 새로운 기술 중심의 계열사를 만들며 그룹의 기술을 공동으로 만들려고 한다. 하나금융그룹과 신한금융그룹이 AI 관련해 새로운 독립적인 연구원이나 계열사를 설립하는 노력도 그 일환으로 볼 수 있다. 금융 AI 발전을 통해서 글로벌 금융 서비스 경쟁력을 확보하고 이러한 서비스로 세계와 경쟁하기 위해서는 다음과 같은 어려움과 도전이 예상되고 이를 뛰어 넘기 위한 혁신적이고도 새로운 시도와 노력이 필요하다.

첫째는 앞서 언급한대로 금융 AI는 한번에 만들 수 있는 상품이 아니라 지속적으로 개선해서 만들어가는 플랫폼 서비스라는 인식과 이를 만들어가기 위한 일하는 방식의 변화다. 서비스를 지속적으로 개선하기 위해서는 기획, 개발, 운영의 역할이 하나의 같은 조직 아래에서 민첩하게 수행되어야 지속적으로 금융 AI 플랫폼 서비스를 만들어갈 수 있다. 이것은 기존 금융기업들이 일하는 방식이 아니라 빅테크가 플랫폼 서비스를 구현했던 일하는 방식이다.

둘째는 많은 금융기업이 가지고 있는 인사 및 조직의 운영 체계가 나이와 경험을 중요하게 생각하는 호봉 중심과 순환 업무를 통해서 위험을 감소하고 전통적인 영업과 마케팅을 수행하는 조직운영에서 전문 역할에 대한 인정과 이에 대한 평가가 다를 수 있다는 문화로 바뀌어야 한다. 어떻게 보면 혁신적인 AI 기술 역량을 보유한 창조적인 아이디어를 내는 한 사람의 가치는 우리가 생각하는 수백명의 가치보다 클 수 있고 경험과 나이라는 보편적인 가치를 뛰어 넘을 수 있다는 유연성이 필요하다.

마지막으로 생각하는 것은 금융기업의 근원적 경쟁력과 차별화가 무엇일까에 대한 깊이있는 고민과 준비가 필요하다는 것이다. 단지 제판 분리가 가속화되고 고객 접점을 지속적으로 잃어가서 유사한 상품만을 공급한다면 많은 금융기업들은 시대의 뒤안길로 사라질 것이 분명하기 때문이다. 따라서 금융기업의 본질적인 고객, 상품, 서비스의 핵심 경쟁력을 확보하는 노력이 시급하고 이를 지원하기 위한 AI 기술 적용을 위해 더 많은 투자와 노력이 필요할 것이다.