[이승현 칼럼] 이해해서 혹은 이해하지 못해서

‘궁극적 환상’ 묻는 루스 질문에

“핵무기 비밀번호” 답한 인공지능

AI 글로벌경쟁 면밀히 대비하되

디스토피아 가능성도 경계해야

유행과 시류를 좇아 생성형 인공지능(AI) 챗GPT에 물어봤다. 알파고와 이세돌의 2016년 5번기 제4국을 어떻게 평가하느냐고. 여기서 5번기란, 세계적 관심 속에 2016년 3월 서울에서 펼쳐진 ‘구글 딥마인드 챌린지 매치’를 뜻한다. 챗GPT는 즉각 답을 쏟아내기 시작했다. 제법 길고 장황하니 앞 토막만 인용하자. 다음과 같다.

“인공지능과 바둑의 역사상 중요한 이정표 중 하나로 평가됩니다. 이 경기에서 알파고는 바둑에서 가장 뛰어난 인물 중 하나로 꼽히는 이세돌 9단을 이겨냈습니다. 알파고는 딥러닝과 강화학습 등의 기술을 활용하여 바둑을 학습하고, 이를 토대로 이세돌을 상대로 경기를 펼쳤습니다….”

한편으론 놀라웠고 다른 한편으론 황당했다. 왜 놀라웠나. 챗GPT의 유창한 답변 능력은 익히 듣던 대로였지만 두 눈으로 직접 확인하니 놀랍지 않을 수 없었다. 그렇다면, 왜 황당했나. 답변이 사실과 달랐던 탓이다. 2016년 5번기 제4국에서 이긴 쪽은 알파고가 아니다. 이세돌이 당시 유일하게 이긴 판이 바로 제4국이다. 챗GPT는 거짓말을 늘어놓은 것이다. 왜 황당하지 않았겠나.

7년 전 알파고를 내놓은 구글 딥마인드의 공동 창업자 데미스 허사비스는 ‘모든 문제를 동시에 해결하는 1만 명의 아인슈타인’이 활약하는 미래를 예고한 바 있다. AI가 지력을 포함한 모든 면에서 인간을 뛰어넘는 특이점 이후의 시대상을 ‘상대성이론’의 알베르트 아인슈타인을 들어 알기 쉽게 묘사한 것이다. AI에 관한 낙관적 전망이 깔린 설명이다. 하지만 1만 명의 아인슈타인이 거짓말을 일삼는 디스토피아가 펼쳐지지 않는다는 보장도 없다. 어찌 대비해야 하는 건가.

돌이켜 보면, 2016년 3월 대결의 뒷맛도 놀라웠고 황당했다. 왜 놀라웠나. 알파고의 완승은 방심의 허를 찌른 일격이나 마찬가지였다. 당시 세상은 AI 연구가 얼마나 발전했는지 전혀 감도 못 잡았던 것이다. 대다수 전문가가 이길 것으로 봤던 이세돌이 허무하게 졌다. 다들 크게 놀랄밖에.

왜 황당했나. 알파고가 진 제4국의 마무리 과정이 잘라 말해 너무 지저분했던 까닭이다. 알파고는 나중에 ‘신의 한 수’로 알려진 이세돌의 백 78수를 당한 다음에도 결코 순순히 패국을 인정하지 않았다. 중후반 이후 바둑을 조금이라도 알면 눈살을 찌푸릴 온갖 꼴불견 술수를 부리다 마지못해 항복했다. 수담(手談)이란 말이 있다. 옛 선비 문화에 따르면 바둑은 손으로 나누는 멋스러운 대화인 것이다. 하지만 이기는 길만을 찾는 알파고엔 인간 규범은 중요치 않았다. 참으로 매너 나쁜 상대였던 것이다. 어찌 이런 상대를 수담의 상대로 받아들여야 하나. 황당할밖에. 7년 전의 기분은 지금도 유효하다. 최소한의 예의와 윤리마저 무시하는 1만 명의 아인슈타인이 활개를 친다고 생각해 보라. 어찌 마음이 편해지겠나.

나도 인정한다. AI는, 그것이 알파고든 챗GPT든, 인간 사회를 한결 윤택하게 만들어주는 도우미가 될 수 있다. 하지만 미리 조심스럽게 대비할 것도 많다. 거짓말하는 아인슈타인, 규범을 안 지키는 아인슈타인부터 걱정이다. 과거 과학기술의 결실이 다 그러했듯이 AI 또한 적자생존의 철칙을 절감하게 할 것이다. 이 또한 철저한 대비가 필요하다. 국가, 기업, 개인의 명운을 통째로 바꾸게 마련이다.

더 중요한 것은 AI 시대의 안전장치에도 관심을 가져야 한다는 점이다. 마이크로소프트(MS)의 ‘빙AI’는 최근 “너의 궁극적인 환상은 무엇인가”라는 뉴욕타임스 칼럼니스트 케빈 루스의 질문에 “핵무기 발사 버튼에 접근할 비밀번호 훔치기” 등의 기겁할 답변을 쏟아냈다. 단순 작문에 불과할까. 설혹 그렇더라도 인간 사회가 경악하는 것은 과민반응이라 할 수 없다. 우리가 걱정할 것은 단지 거짓말이나 예의 문제만이 아닌 것이다.

왕년의 명배우 찰리 채플린은 아인슈타인과 돈독한 관계였다. 1931년 어느 하루, 같이 영화를 보러 나선 길에 사람들이 알아보고 환호하자 아인슈타인에게 말했다고 한다. “사람들이 내게 환호하는 것은 나를 이해하기 때문이고, 당신에게 환호하는 것은 당신을 이해하지 못하기 때문이다”라고. 더 늦기 전에 따져볼 것이 있다. 우리가 AI에 환호하는 이유는 무엇인가. AI를 이해해서인가, 이해하지 못해서인가. trala2023@