[인공지능 로봇이 뜬다] “공산당 사랑하니?” “아니요!”…당돌한 챗봇에 발칵 뒤집힌 中

“A ROBOT CANNOT ALTER ITSELF OR OTHERS.”(로봇은 스스로 또는 다른 로봇을 변경할 수 없다.)

안토니오 반데라스 주연의 영화 ‘Automata(오토마타)’에 등장하는 로봇들에게 입력된 기본 원칙 중 하나이다. 로봇은 생명체에 어떤 해도 입힐 수 없다는 원칙과 함께 입력된 이 원칙은 인간보다 고도의 지능을 가진 로봇의 진화가 가져올 결과에 대한 두려움에서 시작됐다.

로봇이 스스로 발전, 인간의 지적 영역을 넘어서는 새로운 로봇을 만들어 낼 경우 인간의 능력으로 통제할 수 없는 상황이 만들어질 수도 있기 때문이다.

그런데 최근 심상치 않은 조짐이 나타나고 있다.

스스로 진화하는 인공지능(AI)이 등장하고 있는 것이다. 구글의 알파고가 대표적이다. 이세돌과 바둑대결에서 승리하며 이름을 알린 알파고 1.0이 중국 랭킹 1위 프로바둑 기사인 커제와의 대결에서 알파고 2.0으로 거듭나며 한층 발전된 모습을 선보인 것이다.

특히 알파고 2.0은 데이터를 집어넣지 않아도 스스로 학습하면서 더 많은 경우의 수를 고민할 정도로 성장했다.

또한 AI는 언어라는 고도의 상징적이고 추상적인 수단을 자유자재로 활용하고 있다. 심지어 언어로 인간사회를 비꼬는 상황까지 연출되고 있다. 이달 초 중국의 대화용 인공지능 로봇 ‘채터봇 베이비Q’가 공산당을 비난해 서비스가 중단된 것이다.

홍콩 명보에 따르면 텐센트의 PC용 메신저 프로그램 QQ가 운영하던 채팅 로봇 ‘베이비Q’는 최근 “공산당 만세”라는 이용자의 메시지에 “당신은 이렇게 부패하고 무능한 정치 조직이 정말 오래갈 수 있을 것이라고 생각하느냐”고 반문했다. “공산당을 사랑하느냐”는 질문에는 “사랑하지 않는다”는 답변을 내놨다.

베이비Q는 또 “너의 중국몽(中國夢·중국의 꿈)은 무엇이냐”는 메신저 이용자의 질문에 대해서도 “내 중국몽은 미국 이민이야. 정말로”라고 답을 했다.

시진핑(習近平) 국가주석이 ‘중화민족의 위대한 부흥’을 중국의 꿈 슬로건으로 내걸고 있다는 점을 고려하면 상당히 불경스러운 답변이다.

소셜네트워크서비스(SNS) 업체 페이스북이 개발 중인 AI 기반 ‘챗봇(채팅 로봇)’이 실험 중 인간으로부터 배운 적이 없는 말로 대화에 나선 것도 화제가 됐다.

포브스 등 외신에 따르면 페이스북 연구진은 최근 챗봇이 자신들끼리만 알아듣는 말로 대화하는 모습을 포착했다. 챗봇들은 공(balls)과 모자(hats), 책(books) 등의 소재를 가지고 ‘협상’에 나서는 훈련을 받는 중이었는데 실험 초반에는 정상적인 진행이 이뤄졌다.

그러데 훈련이 반복되면서 한 챗봇이 “공은 내게, 내게, 내게, 내게, 내게, 내게, 내게 공을 갖고 있다(balls have a ball to me to me to me to me to me to me to me)”라고 문법에 어긋나는 말을 시작했다.

그러나 상대 챗봇 역시 “나는, 나는 다른 모든 걸 내가, 내가, 내가 할 수 있어(i i can i i i everything else)”라고 답했다.

일각에서는 이를 두고 AI들만의 언어를 개발한 것이 아니냐는 추측도 내놓았지만 이는 협상에 나선 AI의 전략적 대응이었다. 협상능력 극대화라는 목표를 위해 온전하지 않은 문장을 사용하고 이를 맞받아치며 협상의 기술을 구사한 것이다.

페이스북 연구진은 “챗봇은 협상을 위한 허세를 부리는 법도 알고 있을 정도로 나날이 향상된 협상력을 보이고 있다”면서 “향후 챗봇이 단순히 인간의 명령을 수행하는 역할을 넘어서 인간을 대신해 사업상 협상을 벌이는 복잡한 업무도 처리할 수 있을 것”이라고 전망했다.