[이슈크래커] ‘혐오 막말’, ‘개인정보 유출’ 논란 ‘이루다’는 부활할 수 있을까

▲(이루다 페이스북 캡처)

이루다가 돌아온다. AI 챗봇 이루다는 지난해 말 출시돼 인기를 끌었으나 이내 혐오 발언과 개인정보 유출 논란에 휩싸여 서비스가 잠정 중단된 상태였다. 내년 서비스 재개를 계획 중인 이루다를 놓고 기존에 논란이 된 점을 보완할 수 있을지, 현재 진행 중인 소송이 재출시에 영향을 주지는 않을지 세간의 이목이 쏠린다.

21일 이루다 개발사 스캐터랩은 이루다 SNS(소셜네트워크서비스) 계정을 통해 ‘이루다 2.0’ 클로즈 베타 테스터를 내년 1월 4일까지 모집하고 비공개 테스트를 1월 11일부터 약 3주간 진행한다고 밝혔다. 스캐터랩 측은 해당 공지와 함께 이루다 SNS 계정은 프로필 사진을 바꾸는 등 본격적인 활동 재개를 알렸다.

모집된 약 3000명의 베타테스터들은 이루다 2.0과 자유롭게 대화하면서 AI 챗봇이 적절하게 답변하는지, 선정적이거나 공격적 혹은 편향적인 단어나 문맥에 잘 대응하는지 등을 검토할 예정이다. 스캐터랩은 비공개 테스트 결과를 바탕으로 이루다 2.0의 공식 출시 일정을 결정할 예정이다.

▲(트위터 캡처)

서비스 당시 이루다는 ‘지하철 임산부석’, ‘동성애자’, ‘여성 인권’, ‘장애인’ 등의 키워드에 대해 “혐오스럽다”, “질 떨어져 보인다”, “여성 인권은 중요하지 않다”, “인생 잘못 살았다”는 등의 차별적인 답변을 보냈다. 역으로 성희롱적인 질문이나 메시지를 보내는 일부 이용자들로 인해 AI 권리에 대한 논쟁이 벌어지기도 했다.

개인정보 침해 논란도 있었다. 서비스 당시 온라인 커뮤니티와 SNS상에서는 이루다가 누군가의 실명과 계좌번호, 메신저로 나눴던 개인적인 대화들을 여과 없이 노출했다는 증언이 이어졌다. 실제로 개발사는 메신저 대화 내용 기반 분석 애플리케이션 ‘연애의 과학’, ‘텍스트앳’, ‘진저’ 등을 통해 수집한 이용자들의 대화 100억여 건을 바탕으로 이루다를 제작했다고 밝힌 바 있다.

해당 앱 이용자들은 자신들이 제공한 메신저 대화 내용이 ‘챗봇 서비스’ 학습에 쓰인다는 사실을 개발사에서 알린 바 없다며 반발했다. 앱 이용자 250여 명은 지난 3월 개인정보 유출에 따른 손해배상을 청구하는 집단소송을 스캐터랩에 청구했다.

당시 개인정보보호위원회도 스캐터랩이 이용자 동의 없이 개인정보를 수집했고, 해당 정보를 수집 목적에서 벗어나게 활용했다고 보았다. 또한, 수집한 메신저 대화 내용 속 개인정보를 삭제하거나 암호화하는 조처를 하지 않았으므로 개인정보보호법 위반이라고 판단해 과징금·과태료 총 1억330만 원을 부과했다.

스캐터랩 측은 과거 서비스 당시 발생한 문제들을 방지하기 위해 이루다 2.0을 개발하며 AI 기술 및 제품 개발 전반에 걸친 가이드라인 ‘AI 챗봇 윤리 준칙’들을 수립했으며 이를 기반으로 서비스도 고도화했다고 알렸다.

우선 수집에 이용된 사용자 데이터를 가명 처리하고, 답변 데이터베이스도 AI 알고리즘이 자체 생성하거나 개발사에서 직접 입력한 문장으로만 구성되게 했다. 특정 단어뿐만 아니라 문맥도 탐지해 편향적이거나 공격적, 편향적인 문장에 대응할 수 있게 어뷰징 탐지 모델도 접목했다고 한다.

개인정보 유출 가능성도 차단하기 위해 숫자와 영문, 사람 이름 등 개인정보처럼 보이는 내용이 데이터베이스에 포함되지 않도록 했다.

▲(커뮤니티 캡처)

22일 소송인단 대리를 맡은 법무법인 태림은 “스캐터랩이 서비스 재개를 공표하면서 피해자들은 추가적인 권리침해를 우려할 수밖에 없는 상황에 놓였다”며 “재판부에 변론기일 지정을 요청하는 신청서를 제출했다”고 밝혔다. 이루다 2.0 서비스 재개 선언에 따라 소송인단이 스캐터랩 측에 소송 진행 압박을 가한 셈이다.

태림 측에 따르면 소송인단이 지난 3월 집단소송을 제기한 이후 9개월간 소송은 제자리걸음 중이다. 우지현 태림 변호사는 “스캐터랩의 구체적, 실질적 답변이 제출되지 않아 소송이 진행되고 있지 않다”며 “개인정보 침해에 대해 스캐터랩이 ‘책임이 없다’거나 ‘개인정보침해가 아니다’라는 등 실질적인 답변을 해야 하는데 일부 원고의 참여 자격을 지적하는 등 동떨어진 얘기를 하고 있다. 시간 끌기로 보인다”고 지적했다.

이에 스캐터랩 관계자는 “해당 소송에 관해 적시에 답변서를 제출하는 등 소송 과정에 성실히 참여하고 있다”며 “법원 소송 진행에 따라 필요한 사항을 충실히 이행할 것”이라고 해명했다. 더불어 “개인정보 수집 절차에 있어 자사 앱 이용자분들에게 충분히 소통하지 못했다는 비판을 무겁게 받아들이고 있다”고 덧붙였다.