[새로 나온 책] 알고리즘의 조종을 거부한다

사람들은 넷플릭스가 취향별로 추천하는 영화를 자연스레 선택하고, 핸드폰에서 검색한 키워드는 원치 않아도 웹사이트의 배너 광고로 마주하게 된다.

이런 기술의 뒷면을 보면 언제나 알고리즘이 숨어 있다. 기계 시대를 움직이는 보이지 않는 부품인 알고리즘은 오늘날 소셜 미디어부터 검색엔진, 의료, 법원, 마케팅, 보안, 예술 분야까지 파고들어 부와 권력을 지배하고 있다.

비즈니스, 정부, 경찰, 마케팅을 수학 모델로 연구해온 저자는 인간이 지나치게 많은 것을 객관화하고 자동화하려는 욕망 때문에 오히려 개인정보 노출과 같은 문제를 얻었다고 지적한다. 저자는 인공지능으로 인해 인간성이 어떻게 변했는지 그 핵심을 파악하고 다양한 분야의 리포트를 종합해 개인정보, 편향, 오류, 책임 소재 등의 문제에 대한 경각심과 함께 더 현명하게 기술을 활용하는 법을 제시한다.

특히 저자는 알고리즘으로 인해 개인 데이터의 유출이 얼마나 심각한 문제인지 역설한다. 우리가 SNS에 올린 글과 '좋아요'를 누른 게시물, 은밀한 검색 기록뿐만 아니라 정치 성향, 복용하는 약, 임신 중절 여부까지도 무심코 '동의'하는 순간 모두 데이터 브로커에 팔린다. 데이터 브로커는 이 데이터를 이용해 우리의 호불호에 따라 최대한 관심사와 맞는 광고를 띄운다.

여기까지는 그럭저럭 괜찮다고 생각하는가? 그러나 이러한 데이터는 인간을 조종하는 데까지 널리 쓰인다. 대선 동안 조작된 가짜 뉴스를 퍼뜨려 유권자를 조종하고, 중국 정부는 각종 은밀하고도 사적인 데이터들을 점수로 집약한 즈마신용점수를 통해 개인의 신용도를 평가한다. 저자는 데이터가 이 시대의 새로운 황금이라면, 우리는 현재 거친 미국 서부 개척 시대를 사는 셈이라며 무료 알고리즘에 의문을 품을 것을 경고한다.