‘양날의 검’ 된 AI 기술, 민주주의 강화하거나 해치거나 [AI 선거]

▲미국 국토안보부(DHS) 산하 국가사이버보안·커뮤니케이션통합센터(NCCIC)에서 2014년 9월 9일 담당자가 근무하고 있다. 알링턴(미국)/AP뉴시스

미국 싱크탱크 브루킹스연구소의 노먼 아이젠 선임 연구원은 최근 보고서에서 ‘양날의 검’이 된 AI 기술을 집중적으로 분석했다.

보고서에 따르면 AI는 미국뿐 아니라 전 세계 민주주의 국가에서 선거 공무원의 투표 감독 업무를 지원할 수 있다. 예를 들어 AI를 통해 선거 관리 프로세스를 개선하면 유권자 명단 작성과 투표 기계 작동 과정에서 발생할 수 있는 여러 문제 사항을 식별해 선거권 박탈과 같은 조치를 선제적으로 할 수 있다. 또 AI를 기반으로 한 투표용지 집계는 투표소에 상주하는 직원보다 빠르게 투표용지를 스캔해 선거 결과를 보고하거나 재검표하는 데 필요한 시간을 줄일 수 있다. 지난 미국 대선에서 주별로 우편 투표용지 도착 시점이 달라 검표에 며칠씩 걸리고 선거 조작 논란까지 불거진 점을 고려하면 AI는 이 같은 문제를 해결하는 데 도움을 줄 것으로 보인다.

그러나 이 과정에서 발생할 수 있는 위험을 조심해야 한다고 아이젠 연구원은 짚었다. 그는 “많은 양의 공공 데이터를 찾아 수집하는 AI의 능력은 공식 홈페이지에 연락처 정보가 담긴 선거 공무원을 대상으로 한 피싱 공격을 유발할 수 있다”며 “공무원이 민감한 유권자·정부 데이터에 대한 접근권을 가지고 있고 이들의 업무가 맬웨어나 랜섬웨어에 의해 악용된다면 선거의 무결성이 위태로워질 수 있다”고 경고했다.

실제로 최근 전 세계에선 선거 시스템을 겨냥한 사이버 공격이 늘고 있다. 일례로 영국 선거관리위원회가 2021년 사이버 공격을 받아 대규모 인적 정보가 유출된 적이 있었다. 당국은 해당 사실을 지난해 10월까지 알아채지 못했고, 이후 조사를 거쳐 올해 9월 사이버 보안에 실패한 사실을 시인했다. 이 사건은 AI와 직접적인 관련성은 없지만, AI가 악용된 해킹이 눈에 띄게 늘어남에 따라 주의가 필요한 상황이다. 국내에선 10월 국가정보원이 선관위 해킹 보안이 허술하다는 점을 지적하며 북한 해커가 침투해 투·개표 결과를 조작할 가능성을 경고하기도 했다.

이 밖에도 AI를 통해 근거 없는 선거조작 뉴스를 무분별하게 퍼뜨려 평소 정보 수집에 취약한 시민들을 혼란스럽게 하는 등의 문제가 지적된다.

아이젠 연구원은 “AI와 민주주의가 융합하는 과정에서 새로운 보상과 위험을 식별하는 것은 어렵다”며 “내년 전 세계 35억 명 이상의 인구를 대표하는 매우 중요한 선거들이 치러지는데, 반민주적 행위자들과 독재자들은 자유롭고 공정한 선거 시스템을 표적 삼아 민주주의에 대한 신뢰를 흔들 기회를 모색할 것”이라고 경고했다. 이어 “기술이 발전할수록 정책입안자와 시민들은 AI가 더 포용적인 민주주의를 위한 동력으로 활용되도록 계속해서 추적해야 한다”고 강조했다.