딥페이크·가짜뉴스에…총선 앞둔 韓, EU식 ‘AI규제’ 힘 받나

팝가수 테일러 스위프트의 사진이 인공지능(AI) 기술로 합성된 딥페이크 이미지가 확산하면서 전 세계적으로 AI에 대한 강력한 규제가 필요하다는 목소리가 커지고 있다. 이에 그동안 AI 기업의 자율성을 중시해온 미국 정부에서도 딥페이크 척결을 법제화해야 한다는 목소리를 높이는 가운데 AI 주도권 확보를 위해 서둘러 AI 관련 법을 마련해야 한다는 우리 정부의 입장에 이목이 쏠린다.

29일 관련 업계에 따르면 EU(유럽연합)는 전통 산업을 보호하고 AI 기술이 사회에 미칠 수 있는 영향을 최소화하기 위해 강력한 사전 규제의 칼을 뽑아 든 반면 미국은 자국 빅테크 기업의 글로벌 진출과 AI 기술 리더십 확보를 위해 자율형 규제 기반으로 AI 혁신을 중시해왔다.

하지만 미국에서는 11월 대선을 앞두고 딥페이크를 활용해 바이든 대통령의 가짜 목소리가 유포된 데 이어 스위프트의 딥페이크 사건까지 발생하자 백악관과 미 의회에서도 AI 규제에 대한 입법 필요성이 대두하고 있다.

▲인기 팝가수 테일러 스위프트가 지난해 10월 11일 투어 콘서트 영화인 ‘디 에라스’ 시사회에 참석해 포즈를 취하고 있다. 로스앤젤레스(미국)/로이터연합뉴스

그동안 미국과 EU를 참고해 한국식 맞춤형 AI 규범을 마련하겠다는 견해를 고수해온 국내에서도 안심할 수만은 없는 상황이다. AI가 딥페이크뿐만 아니라 가짜뉴스, 일자리 소멸 등의 부작용을 일으키는 가운데 국내에서도 4월 총선 앞두고 있기 때문이다.

이에 정부는 글로벌 동향을 예의주시하면서도 추가 규제 필요성에 대해서는 신중한 입장이다. 현행법으로도 제재할 수 있다는 게 정부의 주장이다.

과기정통부 관계자는 “테일러 스위프트 딥페이크 사태로 인해 전 세계적으로 AI 규제에 대한 필요성이 조명되고 있지만 당장 규제를 도입하는 움직임이 있는 것은 아니다”라며 “AI에 대한 규제가 없어도 정보통신망법(명예훼손)과 같은 현행법으로도 제재가 가능하다”고 설명했다. 이어 “AI를 활용했을 경우 기존과 다르게 위험하거나 우려되는 부분이 무엇인지 집중해서 살펴보고, 필요한 경우 규제를 보강하는 방식으로 접근하고 있다”고 덧붙였다.

이와 관련 정부는 딥페이크를 포함한 AI 콘텐츠에 대한 워터마크 표시를 의무화하는 법안도 준비 중이다.

국내에서도 ‘AI 산업 육성 및 신뢰 기반 조성 등에 관한 법률안(AI 기본법)’이 국회 과학기술정보방송통신위원회 법안소위를 통과한 지 1년 가까이 지났지만 여전히 과방위 전체회의에 계류 중이다. 정부는 AI 산업을 체계적으로 지원하면서 AI 편향성과 부작용에 대해 대응할 수 있는 법적 기반을 담은 인공지능법을 21대 국회 회기 내 처리하겠다는 계획이다.

우리나라는 미국만큼 AI 기업이 글로벌 시장을 장악한 상황도, EU와 같이 AI 모델을 보유한 기업이 없는 것도 아닌 후발주자 입장이다. 이 때문에 EU와 같이 기업에 부담이 되는 징벌적 과세는 피하되 신뢰를 구축하는 데 초점을 맞춰 규범을 수립하겠다는 것이 정부의 기조다.

박윤규 과기정통부 2차관은 지난달 28일 진행한 ‘AI 시대, 글로벌 규범 논의 주도를 위한 간담회’에서 “AI 관련 법이 국회 문턱을 못 넘고 있는 것은 아쉬운 부분”이라며 “이 규범을 어떤 방향으로 갖고 가는 것이 자국의 AI 경쟁력을 확보할 수 있느냐 하는 중요한 순간에 와 있기 때문에 국회에서도 AI 관련 법안이 빨리 통과되기를 희망한다”고 피력한 바 있다.