올해 초 성희롱 논란 퍼지며 서비스 잠정 중단
올해 초 성희롱 논란을 겪은 이루다가 업그레이드된 버전으로 내년 시장에 복귀한다.
스캐터랩은 내년 1월 11일부터 인공지능 기반 챗봇 서비스 ‘이루다2.0’의 비공개 시범 테스트를 진행한다고 21일 밝혔다.
이번 시범 테스트는 서비스 공식 출시에 앞서 AI 윤리를 점검하고 실제 사용자 의견을 받기 위해 진행된다. 이루다는 지난해 12월 출시했지만 이루다를 대상으로 한 성희롱 논란이 퍼지면서 서비스를 잠정 중단한 바 있다.
스캐터랩의 AI 챗봇 윤리 준칙은 △사람을 위한 AI 개발 △다양한 삶의 가치 존중 △함께 실현하는 AI 챗봇 윤리 △합리적 설명을 통한 신뢰 관계 유지 △프라이버시 보호와 정보 보안 발전 등 다섯 가지다. AI 챗봇 윤리준칙은 외부 사례와 스캐터랩의 지난 경험을 바탕으로 정리했다.
이루다 2.0은 스캐터랩의 AI 챗봇 윤리 준칙을 기반으로 서비스를 고도화했다. 대화 시 특정 단어뿐만 아니라 문맥을 탐지해 선정적이거나 공격적, 또는 편향적 문장에 대응할 수 있도록 ‘어뷰징 탐지모델’을 접목했다. 답변은 개인정보보호 강화를 위해 가명 처리한 데이터베이스로 학습 과정을 거쳐 생성하도록 했다.
이루다 2.0 시범 테스트는 내부 운영(알파 테스트)과 외부 전문가 운영 이후 진행된다. 일반인 사용자 대상으로는 다음 달 4일까지 이루다 페이스북 페이지를 통해 신청을 받아 3000여 명을 선정할 예정이다. 참가자는 다음 달 11일부터 약 3주간 이루다2.0과 자유롭게 대화하면서 다양한 기능을 검토한다.
스캐터랩 측은 이루다 페이스북을 통해 “내년 1월 이루다의 클로즈 베타 테스트가 시작된다”며 “오늘부터 테스터 지원이 가능하니 많은 지원 부탁한다”고 말했다.