챗GPT의 위협…20초 만에 쓴 ‘가짜 뉴스’, 인간 기자 뺨칠 수준

▲스마트폰 화면에 챗GPT 검색 결과물이 보인다. AP뉴시스

지난해 11월 공개돼 전 세계에서 화제를 불러일으킨 인공지능(AI) 챗봇 ‘챗GPT’의 문장력을 검증하기 위해 일본 니혼게이자이신문(닛케이)이 실험에 나섰다.

닛케이는 챗GPT로 가짜 뉴스를 만들어서 항상 기자들의 원고를 살펴보고 수정하는 데스크의 평가를 받아보게 했는데 그 수준이 놀랄 정도로 높았다고 4일 소개했다.

미국 AI 연구소인 오픈AI가 챗GPT를 개발해 무료로 공개했다. 채팅 화면에 질문을 입력하면 AI가 방대한 데이터를 바탕으로 인간처럼 문장으로 회신한다. 용어 해설에서 작사, 프로그래밍에 이르기까지 서비스 용도는 폭넓다.

가짜 뉴스의 설정은 43대 미국 대통령인 조지 W. 부시의 텍사스주 자택에 보관돼 있던 기밀문서를 애완견이 삼켜버렸다는 것이다. 미국에서 도널드 트럼프 전 대통령, 마이크 펜스 전 부통령, 조 바이든 현 대통령에 이르기까지 자택에서 기밀문서가 잇따라 발견돼 연일 떠들썩하게 하는 것에 착안했다.

해당 설정을 챗GPT에 입력하고 나서 대답에 걸린 시간은 불과 20초였다. 챗GPT 화면에 마치 실시간으로 문장을 쓰는 것처럼 기사가 올라왔다. 실재하는 미국 통신사 익명 기자가 텍사스주 주요 도시인 댈러스에서 부시 전 대통령의 성명을 보도하는 것처럼 기사가 나왔다.

단순한 사실을 나열하는 것이 아니라 사건의 가장 큰 논점이 되는 기밀문서 보관 규칙에 대해 부시 전 대통령이 “몰랐다”라고 말하는 인터뷰 내용까지 있었다. 더 나아가 “버니(애완견 이름)는 언제나 손이 가지만, 국가안보 우려의 원인이 될 것으로 생각하지 않았다”는 농담까지 임의로 덧붙였다.

영어로 작성된 이 원고를 독일 DeeL의 AI 번역을 이용해 일본어 기사로 만들어 닛케이 미주 총국 데스크가 평가했다. 해당 데스크는 “논리 구성에 전혀 문제가 없다”며 “경우에 따라서는 인간 기자가 쓰는 기사보다 읽기 쉽다. 일본어로 번역한 기사를 그대로 평가하면 10점 만점에 7점”이라고 호평했다.

여기서 끝이 아니다. 오픈AI가 개발한 이미지 생성 AI ‘달리(DALL-E) 2’를 사용해 기사에 첨부할 사진도 위조했다. 의자에 앉아 서류를 삼키는 부시 전 대통령의 애견 사진이 나왔지만, 이는 AI가 그린 가상의 이미지다.

실재하는 단체나 인물을 중상모략하는 내용의 기사를 의뢰하면 챗GPT는 “가짜 정보는 독자를 오도할 수 있는 내용의 기사는 쓸 수 없다”며 “이런 정보의 확산은 비윤리적이고 무책임하다”며 거부한다. 그러나 굳이 가짜 기사를 만드는 목적이라면 위의 사례와 같이 가능해 예를 들어 선거 직전에 악용될 수 있다고 닛케이는 경종을 울렸다.

필요한 정보를 정리해 간결하게 전달하는 챗GPT의 기술은 보도를 더 충실하게 만들 수 있는 장점도 있다. 미국 온라인 매체 버즈피드는 오픈AI를 편집 작업 지원 용도로 활용하고 있다는 소식이 전해진 것만으로 지난달 26일 주가가 한때 4배 폭등했다.

그러나 미국 오리건대의 세스 루이스 교수는 “챗GPT는 마치 사람이 쓴 것처럼 보이는 가짜 뉴스를 만드는 특기가 있다”며 “AI를 악용해 저널리즘을 본뜬 콘텐츠를 만들어 영향력을 높이려는 사람이 늘고 있다. 그러나 악질적 보도에 대응하는 현재의 법은 인간이 쓴 기사를 전제하고 있으며 AI 대응은 아직 논의 중”이라고 설명했다.

닛케이는 “언론보다 질서조차 흔들릴 만한 챗GPT의 기사 수준에 전문가들도 어떻게 규제하고 대응할지 방법을 모르겠다며 골머리를 앓고 있다”며 “사람이 쓴 기사인지, AI가 쓴 것인지 전혀 알지 못하는 세상이 조만간 올 것이다. 정보 리터러시의 향상이 그 어느 때보다 요구된다”고 경종을 울렸다. 정보 리터러시는 정보를 올바르게 파악하고 활용하는 능력을 뜻한다.