[딥페이크 쇼크] AI로 진화한 딥페이크 성범죄…정부 대책은 5년전 재탕 논란

딥페이크는 인공지능(AI) 기술인 ‘딥러닝’과 허위를 뜻하는 ‘페이크’의 합성어로 AI를 활용해 특정 인물의 얼굴을 특정 영상에 합성하는 것이다.

방심위는 28일 ‘딥페이크 성범죄영상물 10대 종합대책’을 발표했다. 성범죄영상물 모니터링 인력 확충, 강화된 3단계 조치(SNS 중점 모니터링ㆍ24시간 내 시정요구ㆍ즉각 수사 의뢰), 상시협의를 위한 텔레그램 핫라인 구축, 텔레그램 피해 신고 본격 접수 등을 골자로 한다.

다만 이러한 방심위 대책이 기존 대응과 유사하다는 비판이 제기된다. 방심위는 2019년 디지털성범죄정보에 대한 24시간 대응 체계를 갖춘 ‘디지털성범죄심의국’을 신설한 바 있다. △디지털성범죄정보 대응 전략을 총괄하는 확산방지팀 △피해접수와 상담을 담당하는 피해접수 팀 △긴급심의 안건을 상정하고 이미 시정 요구된 정보의 추가 유통 여부를 모니터링하는 긴급대응팀 △기타 음란정보 심의를 담당하는 청소년 보호팀으로 구성된다.

디지털성범죄심의국은 디지털성범죄심의소위원회의 상시 심의회의를 통해 24시간 이내 디지털성범죄 정보 삭제 및 차단을 조치한다. 10대 대책의 ‘강화된 3단계 조치’를 이미 하는 셈이다.

방심위는 같은 해에 여성가족부, 방송통신위원회, 경찰청과 ‘디지털성범죄 공동대응을 위한 업무협약(MOU)’을 맺었다. 각 기관과 핫라인을 강화하고 공공 DNA 데이터베이스(DB)를 구축해 수사에 공조하기 위해서다. 이는 최근 방심위가 발표한 10대 대책 중 ‘MOU를 통한 국내 관계기관 및 민간기업과의 공조 강화’ 항목과 유사하다.

방심위는 이미 신고 및 상담 채널을 갖추고 있다. 2020년 6월부터 디지털성범죄정보에 대한 신고 및 상담을 위해 AI 기술을 활용한 ‘디지털성범죄정보 신고·상담 톡’과 디지털성범죄 신고 창구 1377을 운영하고 있다.

이에 대해 방심위 관계자는 “디지털성범죄심의소위원회를 통해 이미 운영 중인 업무인 것은 맞다”며 “이번 대책을 통해 새로운 조직이 만들어지거나 하지는 않고 해당 조직 내 업무를 더 강화할 예정”이라고 말했다. 다른 방심위 관계자는 “이번 대책을 통해 모니터링 인력을 더 늘리고 텔레그램과 직접적인 핫라인을 구축해 디지털성범죄정보에 즉각적으로 대응하는 것을 목표로 한다”고 했다.

전문가들은 실효적인 딥페이크 성범죄 방지책이 필요하다고 입을 모았다. 안정상 중앙대 커뮤니케이션대학원 겸임교수는 “방심위의 핵심 대책 대부분이 현재 시행 중 ‘재탕 대책’”이라며 “기존 대책의 실효성 여부를 점검, 분석해 정책적·법적 미비사항을 보완할 필요가 있다”고 말했다. 이어 안 교수는 “정보통신망법 제44조, 전기통신사업법 제22조 등 현재 가지고 있는 규제사항만 잘 적용해도 딥페이크 활용 범죄를 어느 정도 막을 수 있었다”며 “정부가 이 법안을 기반으로 제대로 단속했다면 이 문제가 이렇게까지 심각해지지 않았을 것”이라고 비판했다.

정보통신망법 제44조7제1항1호에 의하면 ‘음란한 부호·문언·음향·화상 또는 영상을 배포·판매·임대하거나 공공연하게 전시하는 내용의 정보를 유통’하는 것은 불법이다. 제22조 5는 ‘자신이 운영·관리하는 정보통신망을 통해 일반에게 공개되어 유통되는 정보 중 불법 성적 촬영물 등이 유통되는 사정을 신고·삭제 요청 등을 통해 인식한 경우에는 지체 없이 해당 정보의 삭제·접속차단 등 유통방지에 필요한 조치를 취해야 한다.

문형남 숙명여대 글로벌융합학부 교수도 “방송통신위원회, 방송통신심의위원회에서 예전부터 대책을 내놨지만 문제가 계속 터지고 있다”며 “방통위나 방심위가 제대로 역할을 했다면 관련 범죄가 줄어들어야 했다”고 했다.