[오코노미] 기업, 알고리즘에 어디까지 책임져야할까?…넷플릭스 ‘소셜 딜레마’

▲'소셜 딜레마' 포스터 (출처=넷플릭스)

"고객을 ‘사용자’라고 부르는 산업은 불법 마약 시장과 소프트웨어 시장뿐이다.” - 에드워드 터프티 예일대학교 사회과학 교수

페이스북, 구글, 트위터, 인스타그램, 핀터레스트 등. 이야기는 실리콘 밸리에서 굵직한 역할을 맡았던 개발자들이 용기 내 카메라 앞에 서는 장면부터 출발한다. 유명인사도 정치인도 아닌 그들이 낯선 카메라 앞에서 선 이유는 자신들이 만든 알고리즘에 대해 고백하기 위해서다. 자신들이 만든 알고리즘이 사람들을 우울하게 만들고, 사회를 분열시키며, 민주주의를 위협하고 있다고. 넷플릭스 오리지널 다큐멘터리 '소셜 딜레마'(The Social Dilema, 2021)다.

다큐멘터리는 구글에서 디자인 윤리학자로 일했던 트리스티안 해리스의 고백에서부터 출발한다. 그는 구글이 사용자의 체류 시간을 늘리는 디자인과 알고리즘을 개발하는 데만 몰두해 사용자의 중독 문제를 방관했다고 털어놓는다. 실제로 그는 중독 문제의 심각성을 알리는 프레젠테이션을 만들어 내부 구성원들에게 공유했고, 현 알파벳(구글 모 회사) CEO인 래리 페이지까지 그의 PT를 봤지만 변한 게 없었다고 말했다.

▲구글에서 디자인 윤리학자로 일했던 트리스티안 해리스는 "거짓 정보가 더 빨리 퍼질 수 있는 시스템을 만들었다"고 고백하며 "거짓 정보가 회사에 더 이익이 될 수 있기 때문”이라고 꼬집었다. (출처=넷플릭스)

페이스북, 트위터 등 소셜 미디어는 인간의 말초 신경을 자극하는 디자인과 알고리즘으로 사용자가 더 오래 앱을 사용하도록 만든다. 마치 라스베이거스의 슬롯 머신 같다. 그 목적은 광고 수익이다. 더 많은 사용자가 더 오래 머물수록 기업은 더 이익을 얻는다. 중독을 유발하는 알고리즘은 사람들의 정상적인 사회 활동을 방해하고, 정신 건강을 위협한다. 이러한 문제는 특히 어린 10대에게 더 크게 나타난다.

실제로 소셜미디어가 등장한 2009년부터 미국에서 불안과 우울증을 겪는 10대의 숫자가 가파르게 증가했다. 특히 10대 여성 청소년의 자살률이 높아졌다. 10대 후반(15~19세) 여성 청소년 자살률은 2000년대에 비해 70% 증가했고, 10대 초반(10~14세)의 경우 자살률이 151%나 증가했다.

다큐멘터리는 사용자가 좋아할 것 같은 정보와 뉴스만 골라서 제공하는 추천 알고리즘도 비판한다. 이용자들의 확증 편향을 증폭시켜 민주주의를 위협한다는 것이다. 실제로 미국은 현재 심각한 정치 양극화를 겪고 있고, 의사당 점거 사태까지 일어나는 등 전례 없는 민주주의 위기를 겪고 있다. 이러한 현상은 미국뿐만 아니라 브라질, 유럽 등 전 세계 곳곳에서 일어나고 있다. 전 핀터레스트 팀 켄달 회장은 이를 몹시 우려하며 "내전이 걱정된다"고 말한다.

▲다큐멘터리는 작품 중간중간 드라마 형식을 빌려 소셜 미디어가 어떻게 사용자를 중독시키고, 그의 삶을 나쁜 방향으로 이끄는지 보여준다. (출처=넷플릭스)

작품 속 전문가들은 결국 이러한 알고리즘을 만들어낸 기업에 책임을 물어야 한다고 강조했다. 데이터 사이언티스트 캐시 오닐은 "인공지능은 (스스로) 가짜 뉴스 문제를 해결할 수 없다"며 사회와 정부가 적극적으로 나서서 인공지능 알고리즘을 규제해야 한다고 주장했다.

우리나라에서도 방대한 데이터와 알고리즘을 독점한 기업의 책임을 강화해야 한다는 목소리가 나온다. 우리 사회 역시 가짜 뉴스로 인한 정치 양극화, 청소년들의 소셜 미디어 중독 문제 등 소셜 미디어의 부작용에 따른 사회 문제를 고스란히 갖고 있다.

기업이 알고리즘을 조작해 도마 위에 오른 사례도 있다. 지난해 10월 공정거래위원회는 네이버가 2010~2017년 사이 검색 알고리즘을 조작해 자사 쇼핑과 동영상의 노출 빈도와 점유율을 올렸다며 과징금 267억 원을 부과했다. 사용자의 제대로 된 동의 없이 데이터를 수집하고, 데이터 속 개인정보를 소홀히 관리해 일주일 만에 서비스를 중단한 인공지능(AI) 이루다 사례도 있다.

▲'소셜 딜레마'는 소셜 미디어의 알고리즘이 특히 어린 청소년의 정신 건강을 위협한다며, 미래 세대를 보호하기 위해서라도 알고리즘을 규제해야 한다 말한다. (출처=넷플릭스)

일각에서는 IT 기업의 책임을 요구하는 규제가 관련 기술과 산업 발전을 저해할 수 있다고 주장한다. 기업이 데이터를 통해 얻은 이익을 사회에 환원하는 것이 자본주의 원칙에 어긋난다는 지적도 있다. 기업이 어디까지 책임을 지고 어떻게 그 이익을 나눌지는 아직 모호하며, 이로 인한 갑론을박이 오가고 있다.

디지털세를 두고 현재 찬반이 첨예하게 대립하고 있다. 경제협력개발기구(OECD)는 130여 개국에 적용되는 디지털세 합의안을 2020년까지 도출하기로 했지만, 관련 논의는 지지부진한 상태다. 하지만 소셜 딜레마 속 전문가들은 모두 한목소리로 규제가 필요하다고 말한다.

물과 전기에 세금을 매기듯 데이터에도 세금을 매겨야 하며, 마약 산업과 인간 노예 시장과·장기 거래를 금지한 것처럼 추천 알고리즘과 광고 수익 모델을 금지해야 한다고 말이다. 산업과 경제 발전만 외치다 기후 변화라는 돌이킬 수 없는 실수를 저지른 걸 반복하지 말자는 이야기다.

▲쉴 새 없이 우리의 관심을 유도하는 소셜 미디어는 때로 자극적인 정보를 제공하며 우리의 평온한 저녁 일상을 위협한다. (출처=넷플릭스)

글로벌 IT 공룡들의 세금 전쟁은 사실 먼 나라 이야기처럼 들린다. 하지만 매일 스마트폰을 사용하는 우리 일상과 맞닿아 있으며, 지금 당장 기술에 잡아먹히지 않도록 우리가 할 수 있는 몇 가지 일들이 있다.

다큐멘터리의 마지막, 유튜브 추천 알고리즘을 만든 개발자 기욤 샤슬로는 "유튜브의 추천 알고리즘을 끄라"고 당부했다. 검색 기록을 수집하지 않는 검색엔진을 사용하고, 추천 검색어를 사용하지 않는 것도 방법이다. 소셜 미디어 사용 시간을 제한하는 기능을 사용하고, 되도록 알림은 끄자. 핸드폰은 잠시 내려두고 주변을 돌아보며 진짜 우리의 일상을 살자.