플랜티넷, 국내 최초 텔레그램 등 유해콘텐츠 차단…경찰 유관기관과 협업 논의 중

국내 최초 텔레그램 등 소셜미디어(SNS)를 비롯한 인터넷망을 통한 유해 콘텐츠 차단 서비스를 제공하고 있는 플랜티넷이 경찰 유관기관과 협업을 논의 중인 것으로 확인됐다.

플랜티넷은 유해 콘텐츠를 판별하고 차단할 수 있는 플랫폼 구축을 위한 협업을 논의 중으로 지난해 경찰대와 차세대 치안플랫폼 개발을 위한 업무협약 이후 관련 사업의 확대를 위한 작업으로 해석된다.

28일 본지 취재를 종합하면 플랜티넷은 경찰 유관기관과 유해 콘텐츠 판별·차단 플랫폼 구축을 위한 협업을 논의 중이다.

플랜티넷 관계자는 “유해 영상이 가진 고유 특징(DNA)을 추출해 이 영상을 변형시킨 이미지나 영상을 원본과 대조해 유해 영상임을 판별하고 차단할 수 있는 기술 개발 과제를 수행 중으로 향후 경찰 유관기관과 협업을 할 예정”이라고 말했다.

최근 딥페이크를 이용해 얼굴과 신체 이미지 등을 합성한 음란물 유포 범죄가 사회적 문제로 떠올랐다. 수도권 여러 대학에서 여학생을 상대로 한 딥페이크 영상물이 텔레그램 단체 채팅방을 통해 퍼져나간 사실이 알려지며 논란이 일었다. 일부 커뮤니티에선 딥페이크 영상이 유포된 학교라며 중·고등학교 리스트가 거론되기도 했다.

사안의 심각성이 부각되며 윤석열 대통령은 27일 국무회의 모두발언에서 “최근 불특정 다수를 대상으로 하는 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”라며 “관계 당국에서는 철저한 실태 파악과 수사를 통해 디지털 성범죄를 뿌리 뽑아 주기 바란다”라고 주문했다.

여·야·정 모두 딥페이크 음란물 범죄 대응을 위한 정책 수립을 추진 중이다.

플랜티넷은 국내 최초 인터넷망을 통한 유해 사이트 필터링 서비스를 상용화한 기업으로 네트워크 차단방식의 인터넷 유해 콘텐츠차단서비스를 제공한다.

플랜티넷은 최근 ‘AI 테크랩’ 조직을 신설하고 AI 활용 유해 콘텐츠 차단 기술을 고도화하기 위한 작업에 돌입했다.

불법차단물 유포방지, 온라인그루밍 탐지(텔레그램, 카카오톡) 및 차단, 인공지능(AI) 기술 활용한 콘텐츠 판별 등을 하는 것으로 알려져 있다. 정부 기관 디지털 범죄 방지 공동연구개발기관 선정업체로서 N번방 사건 이후 매출이 증가하기도 했다.

예컨대 인터넷서비스제공자(ISP)에 유해물차단서비스를 제공 중이며, LG유플러스의 ‘자녀폰 지킴이’와 교육청 패드 보급사업에서 유해 콘텐츠 방지 솔루션인 ‘엔블락’ 등을 제공 중이다.

여기에 플랜티넷 홈페이지에 따르면, 국내 3대 ISP사업자 뿐 아니라 MSO사업자, 케이블인터넷 사업자를 통해 제공하고 있다. 또한 대만의 중화전신, 베트남의 VNPT 등 해외 굴지의 통신사를 고객사로 보유하고 있다.