"비슷해지는 AI들의 행동, 금융시장 급등락 초래할 위험 있어"

(로이터 연합뉴스)

금융 분야에 인공지능(AI) 기술이 확산하면서 금융시스템 안정성을 저해할 수 있다는 우려가 나온다. 이에 따라 금융당국과 학계, 업계가 협력해 관리 방안을 마련해야 한다는 제언이 나왔다.

1일 연태훈 한국금융연구원 선임연구위원은 '금융 안정에 대한 AI의 잠재적 위협과 관리방안의 모색' 보고서를 통해 "기술의 오용이나 알고리즘 오작동, 혹은 의도된 잘못이 없더라도 AI 확산이 금융시스템에 위기를 촉발할 수 있다는 우려들이 제기되고 있다"고 설명했다.

AI는 소수 모형의 시장 지배, 데이터 활용·상호반응 등을 이유로 서로 비슷해지기 쉬운데, 이런 AI의 '획일성'이 시스템 위험을 유발할 수 있다는 것이다.

연 선임연구위원은 다수의 AI, 혹은 AI의 도움을 받은 다수의 시장 참여자가 유사한 결정을 내려 시장에서 획일적인 결과가 발생하면 경기순응성 위험 또는 자기 강화형 시장 급등락이 초래될 수 있다고 했다.

다수의 AI가 시장 침체에 직면한 뒤 이익의 극대화를 위해 취하는 '합리적이지만 획일적' 행동들이 시장을 지배하게 되고 이는 시장 상황을 더욱 빠르게 침체시키는 악순환이 될 수도 있다는 뜻이다. 또한, 과열된 시장에서도 반대 방향의 악순환이 나타날 수 있다.

이런 AI의 위험을 경고한 대표적 인물은 개리 겐슬러 미 증권거래위원회(SEC) 위원장이다. 겐슬러 위원장은 최근 AI의 발전이 금융 시스템의 획일성과 상호 연결성을 높여 시스템을 규제하기 어렵게 만들 수 있다는 점 등을 잇달아 지적하며 SEC가 금융회사의 AI 활용과 관련한 새로운 규제안을 이르면 이달 중 도입할 계획이라고 밝힌 바 있다.

그는 MIT 경영전문대학원 교수 시절인 2020년에 이미 MIT 컴퓨터과학부 연구조교와 공저한 논문 '딥러닝과 금융안정'에서 AI가 금융 안정을 위협할 수 있는 위험들과 대응 방안에 대해 종합적인 견해를 제시했다.

금융시장에서 AI 확산이 획일성을 유발하는 경로는 규모의 경제와 네트워크 효과에 따라 소수의 데이터 취합ㆍ관리 기관에 의존도가 높아질 것이란 전망에서 비롯한다.

다양한 AI들이 사용하는 데이터가 수렴하게 되면 모형들이 내놓는 예측들의 상관관계가 높아지고 결국 군집 행동으로 이어질 수 있다는 것이다.

또한, 금융회사들이 자체적으로 AI 모형을 개발하기도 하지만, AI서비스나 '구독형 AI'와 같은 외부업체가 제공하는 모형을 이용하는데, 결국 소수의 시장 지배력을 가진 AI 기업을 중심으로 재편될 가능성이 있어 획일성을 유발할 것이란 전망도 나온다.

이처럼 시장 지배력을 가진 데이터 제공업체나 AI서비스업체는 네트워크상에서 '단일 장애점'의 지위를 차지하게 되고, 시스템의 안정성을 위협하는 요인이 될 수 있다.

연 선임연구위원은 "AI 확산에 따른 시스템 위험을 방지하기 위해서는 금융시스템 전체를 조망해 관련 위험을 모니터링하고 선제적으로 대응하기 위한 기구를 신설하거나 해당 업무를 담당할 기관을 지정해야 한다"고 강조했다.

이어 "궁극적 해결방안을 모색하기 위한 금융당국과 학계, 업계, 기타 금융 관련 비금융회사 공동의 노력이 필요하다"고 덧붙였다.