데이터, 민주주의를 조작하다; 빅데이터 알고리즘은 어떻게 여론을 만들고 역사의 경로를 바꾸는가

책을 읽게 된 계기

• 친구에게 선물로 줄 책을 인디고 서원에서 주문해야 했음
• 그러다가 다른 책들을 둘러보았고 함께 주문하였음
• 그중 하나의 책이 이번에 서평을 작성할 '데이터, 민주주의를 조작하다'임
• 책을 읽기 전에는 어떻게 민주주의와 빅데이터를 다룰까 궁금해하며 조금 가볍게 읽게 되었음

데이터, 민주주의를 조작하다 책 표지. 화려한 색상을 지닌 블럭 속 검은 콘솔창의 코드들이 이 책의 내용을 어느 정도 설명하고 있다는 생각이 든다.

 

인류가 진화하며 갖춘 주의력과 현대 사회의 넘쳐나는 정보

• 인류는 살아남기 위해 순간적인 어떤 변화(예시 번쩍번쩍 불빛)에 민감하게 반응하도록 진화되었음 
• 숲 속에서 사냥을 하다가, 어두운 밤길을 지나가다가 어떤 것을 빠르게 발견하고 반응하도록 진화하였음 
• 그렇게 반응해야만 인류는 살아남을 수 있었기 때문  
• 이렇게 발달된 우리의 주의력은 주의력이 끌리는 어떤 것을 생존과 연관 지어 비판적으로 수용하지 못한다고 함 
• 이러한 우리의 주의력은 현대 사회에 정보에 있어서는 정신이 없음 
• 인스타그램이나 페이스북 같은 SNS에서 손가락 하나만 튕기면 수많은 정보들이 자극적으로 우리의 주의력을 신나게 유혹함  
• 동시에 이러한 주의력이 끌리는 게시물을 자주 옮겨 다니면서 보게 되는데, 이럴 때 위에서 말한 것과 같이 우리는 비판적으로 사고하기가 힘듦 
• 여러 주의력을 끄는 게시물들에 어떤 작은 생각들을 누군가 넣어 놓는다면 인간은 속수무책으로 조금씩 이를 받아들일 수 있음 
• 예를 들어 폭력을 희화화한 만화들을 게시물로 퍼트려 폭력에 대해 가볍게 생각하게 만들 수 있음  

 

수많은 사용자 데이터를 바탕으로 만들어지는 추천 알고리즘

• 여러 IT 회사들은 제품을 사용하는 고객을 위해 추천 알고리즘을 개발하였고 이를 효과적으로 사용하고 있음 
• 예를 들어 우리가 SNS 및 IT 제품 서비스에 육아 용품을 검색하면, 결혼 및 육아, 고부갈등 등등 여러 관련 광고 및 글들을 추천해줌 
• 또 SNS의 경우 친구들이 사용한 정보를 참고하여 광고 및 글들을 추천해주기도 함 
• 이런 식으로 추천 알고리즘을 거친 여러 광고와 글들은 우리가 보는 것, 본인이 어울리는 친구 및 커뮤니티의 중심 활동을 기반으로 비슷한 광고와 글들을 지속적으로 나타나게 함 
• 즉, 주의력이 여기저기 사용되며 가뜩이나 여러 정보로 비판적인 시각이 많이 사라진 우리에게 편향된 정보를 지속적으로 주입하는 결과를 낳게 될 수 있음  

 

비판적인 사고의 결함과 편향된 사고를 부추기는 데이터 기반 시스템이 초래하는 민주주의의 조작?

• 주의력을 끌고 추천 알고리즘에 빠진 우리는 비판적인 사고가 부족해지고 편향된 사고를 가질 가능성이 있음 
• 여기서 SNS 게시물에 '어떤 생각'을 교묘하게 퍼트린다면 여러 사람들이 이 '어떤 생각'에 대하여 신뢰를 가질 수 있음 
• 여기서 '어떤 생각'이 여론에 퍼지게 되면 문제가 발생하기 시작함 
• 이 책에서는 여러 사람들의 생각을 조작하는 여러 사례들을 보여주고 있음 
• 민주주의라고 함은 생각하고 판단할 수 있는 개개인들이 토론하여 더 나은 선택을 이끄는 것에 있음 
• 이러한 비판적 사고의 결함과 편향된 사고를 부추길 수 있는 여러 게시물을 통한 교묘한 생각의 전달은 이러한 민주주의가 잘 동작할 수 없게 만듦 
• 평상시의 생각으로는 잘못된 것을 알지만 여러 교묘한 생각들이 담긴 게시물들을 보고 이에 대하여 완전히 믿지는 않지만 조금 신뢰를 가지게 되면 이러한 교묘한 생각대로 우리는 움직이게 됨 
• 정치에 있어 프레임 싸움과 비슷한 양상이라는 생각이 들었음 
• 어떤 프레임을 교묘하게 인터넷과 데이터를 통해 잘 씌우는가에 따라 사람들을 조작할 수 있음  

 

기술의 가치중립성에 함정

• 이러한 상황에서 SNS와 IT 서비스를 제공하는 IT 회사들은 어떻게 해야 할까? 
• 여러 IT 회사들은 추천 알고리즘 등은 문제가 없으며 기술은 죄가 없다고 함 
• 하지만 이러한 기술은 '아랍의 봄'을 통해 민주주의를 이끌어 낼 수도 있고, '게이머 게이트'와 같이 여러 여성 게이머들의 인생을 조작하여 위협할 수도 있음 
• 기술은 어떻게 사용되는가에 따라 악하기도 하고 착하기도 함 
• 기술은 사용되지 않을 때 가치중립적이지만 어느 인간에게 사용되는 순간부터 그 인간의 의도를 따르게 됨을 이야기하고 있음  

 

비판적 사고의 중요성과 편향된 사고에 대한 경계

• 이 책을 읽고 가능할지를 모르겠지만 스스로 작은 다짐을 하게 되었음 
• 여러 SNS을 사용하는 것은 스스로에게 정보를 얻는다는 부분에서는 중요함 
• 하지만 작은 게시물과 만화, 광고에도 주의하여 바라볼 수 있어야겠다는 생각이 들었음 
• 쉽지는 않지만 조금이라도 주의하여 정보를 본다라는 생각을 가지고 여러 게시물을 바라보면 조금 더 비판적인 사고로 글들과 정보를 대할 수 있을 것 같음 
• 동시에 스스로 항상 나는 사람이고 비슷한 사람들과 어울릴 수 있기에 편향되었을 수 있다는 생각을 꾸준히 해야 함
• 즉, 내가 접한 옮다고 생각하는 정보가 편향되었기에 옮게 보일 수 있음
• 늘 다른 사람의 생각과 의견은 다를 수 있고 그 기저에 있는 것을 이해하려고 노력해야 함
• 또 필요한 이유를 생각하고 SNS 및 IT 서비스를 사용해야겠음 
• 생각보다 많이 스스로 심심하다는 생각이 들 때 몸이 자연스럽게 SNS 및 IT 서비스를 사용하는 것을 느낌 
• 이를 막기 위해 뇌가 지루함을 즐길 수 있게 스스로 트레이닝을 해야 함
• 명확한 사용 목표를 가지고 기술을 사용해야겠음