쏟아지는 AI 딥페이크 방지법...국회선 5년전 AI 정의 답습

인공지능(AI) 기반 딥페이크 성범죄가 사회 문제로 대두되면서 ‘딥페이크 방지법’ 발의가 빗발치고 있다. 그러나 정작 AI에 대한 기본적인 법적 정의조차 없어, 해당 법안의 실효성을 갖기 어렵다는 한계가 제기되고 있다. 특히 현재 발의된 AI 기본법의 인공지능의 법적 정의 또한 불명확하다는 지적이다.

10일 국회 의안정보시스템에 따르면, 22대 국회 개원 이후 발의된 인공지능(AI) 기본법은 총 9개다. AI 기본법은 AI 산업을 진흥하고 AI 기술의 책임을 규정해 신뢰성을 확보하기 위한 법률이다. 9개 법은 공통적으로 인공지능을 “학습, 추론, 지각, 판단, 언어의 이해 등 인간이 가진 지적 능력을 전자적 방법으로 구현한 것”이라고 규정하고 있다.

이러한 내용은 5년 전 20대 국회 때 제안된 법안과 유사하다. 2019년 이상민 전 국민의힘 의원과 김경진 전 더불어민주당 의원은 각각 ‘인공지능 기술개발 및 산업 진흥에 관한 법률안’을 대표 발의했다. 이 법안에서 인공지능은 “학습, 추론, 판단, 이해, 행동 등 인간의 지적 능력의 일부 또는 전체가 전자적 방법으로 구현된 것”이라고 명시했다. 최근 법안과 비교했을 때 AI 기술 개발 및 산업 진흥, 과학기술정보통신부 장관 AI 기본계획 수립 및 시행, AI 전문인력 양성 등 핵심 내용도 비슷하다. AI 기술이 빠르게 발전하는 것에 비해 관련 입법은 5년 전에 머물러 있는 셈이다.

22대 AI 기본법과 20대 AI 기본법의 가장 큰 차이점은 ‘고위험 AI에 대한 규제’ 항목이다. 22대 AI 기본법은 AI의 신뢰성 확보 책임과 고위험 영역에서의 이용자 보호 의무를 기재했다. 고위험 인공지능은 △보건 의료 제공에 사용되는 인공지능 △핵물질 등 원자력 시설을 관리하는 인공지능 △범죄 수사나 체포 시 생체 정보를 분석하는 인공지능 △채용, 대출 심사 등 개인의 권리에 영향을 미치는 평가 목적의 인공지능 △국민의 기본권 보호에 중대한 영향을 미치는 인공지능 등이다.

그러나 딥페이크 등 생성형 AI를 악용해 허위조작정보를 만들어내는 범죄 등은 AI 고위험 영역으로 분류되지 않았다. 생성형 AI에 대해선 “생성형 AI 운용 사실 고지 및 표시하고, 일정 성능 이상의 생성형 AI의 경우 안전을 확보하기 위한 조치를 이행해야 한다”고 규정했을 뿐이다. 이외 딥페이크와 딥페이크 기반 범죄에 대한 분류 및 정의는 여전히 모호하다.

이는 국회 과학기술정보방송통신위 등에서 정쟁이 격화되면서 법안 추진이 잇따라 파행됐기 때문이다. 또한, AI 산업의 ‘진흥’과 ‘규제’ 간 이견으로 AI 및 고위험 AI에 대한 법적 정의까지 확정되지 못했다. 한 정치권 관계자는 “국회에 퍼져 있는 ‘냄비 입법’의 한계다. AI 기본법이든 딥페이크 방지법이든 내용은 다 비슷하다”면서도 “입법활동에 의미를 두는 것”이라고 말했다.

정준화 국회입법조사처 과학방송통신팀 입법조사관은 “딥페이크 자체가 문제는 아니다. 딥페이크로 불법 음란물을 생성하는 게 문제”라며 “그래서 애매하다. 딥페이크와 딥페이크 음란물을 명확히 구분할 수 없다”고 했다. 정 조사관은 “이건 ‘정의(定義)’의 문제”라며 “딥페이크가 무엇인지, 인공지능이 무엇인지 정의가 돼 있지 않은 상황에서 딥페이크 규제 법안이 발의되고 있다”고 덧붙였다.