이 글은 커피팟 뉴스레터에 '페이스북을 바꿀 수 있을까?'라는 제목으로 교차 게재되었습니다. 커피팟은 (오터레터가 속한) 미디어스피어와 함께 유료 구독 뉴스를 개척해나가는 좋은 서비스입니다. 추천합니다.

페이스북은 이달(6월) 초 도널드 트럼프 전 미국 대통령의 페이스북 계정을 향후 2년 동안 정지(suspension)시킨다고 발표했다. 트럼프의 계정은 이미 지난 1월 미국 국회의사당 습격 사건 이후 무기한 정지가 되어있었기 때문에 엄밀하게 말하면 무기한 정지에서 2년 추가 정지로 바뀐 셈이다. 하지만 이번 결정의 과정을 이해한다면 트럼프의 계정 정지가 경감, 혹은 완화되었다고 생각하기는 힘들다. 트럼프는 1월의 정지 결정이 부당하다고 '재고 요청'을 한 것인데, 페이스북은 그 결정이 정당하다고 다시 한번 결정한 것이고 트럼프는 앞으로 2년 동안 자신의 생각을 외부에 알릴 채널을 잃은 것이기 때문이다.

여기에서 트럼프에게 중요한 소셜미디어는 트위터 아니냐는 질문이 나올 수 있다. 그건 맞다. 하지만 트위터는 1월에 트럼프의 계정을 영구(permanent) 정지한다고 공식적으로 발표했다. 따라서 페이스북은 트럼프가 지지자들에게 메시지를 전달할 수 있는 중요한 플랫폼이 될 수 있었다. 더 중요한 것은 기부금 모금이다. 트럼프는 트위터를 자신의 생각을 마음껏 쏟아내는 채널로, 페이스북을 지지자들로부터 선거를 위한 기부금 모금의 채널로 사용해왔는데, 이게 불가능해진 거다.

페이스북 감독위원회

그런데 이 과정에서 트럼프가 이의 제기, 혹은 재고 요청을 한 곳이 트위터가 아니라 페이스북이었다는 사실에 주목할 필요가 있다. 트위터에도 항의를 하지 않은 것은 아니지만, 트럼프 측이 공식 절차를 통해 문제를 제기한 것은 페이스북이었다. 왜냐하면, 페이스북이 그런 재고 요청을 다루는 기구를 가지고 있기 때문이다. 바로 페이스북 감독위원회(Oversight Board)다.

페이스북은 자체 고객센터에 감독위원회가 무슨 일을 하는 곳이고, 어떻게 재고 요청을 할 수 있는지 설명하는 페이지를 만들어두고 있다. 페이스북이 자신의 포스팅이나 계정을 삭제한 것에 동의하지 않는 사람들이라면 원칙적으로 누구나 감독위원회에 재고를 요청할 수 있다. 물론 단순한 사안들이라면 감독위원회까지 가지 않고도 이의 제기 절차를 통해 처리되지만, 이의 제기를 거치고도 페이스북의 결정에 동의하지 못할 경우 감독위원회까지 올라갈 수 있다. 이는 마치 항소법원에서 내린 결정에 불복해서 대법원에 상소하는 '상고' 절차와 흡사하다. 페이스북 감독위원회를 언론에서 '페이스북 대법원'이라고 부르는 이유가 여기에 있다.

하지만 대법원이 모든 소송을 다루지 않듯, 페이스북의 감독위원회에서는 정치적으로 논란이 되거나 까다로운 사안들, 특히 페이스북의 다른 결정에 기준을 제시할 수 있는 사안들을 주로 다룬다. 총 20명의 위원이 지난 1월 이후로 현재까지 총 12개의 결정(이 결정들은 이곳에서 모두 읽어볼 수 있다)을 내렸다는 것을 생각하면 이 위원회는 빠른 결정보다는 신중하고 설득력 있는 결정을 중요시한다는 것을 알 수 있다.

그럼 이 20명은 어떤 사람들일까? 여성 인권과 민주화를 위해 싸워온 노벨 평화상 수상자 타우와쿨 카르만(Tawakkol Karman), 인도네시아 신문인 자카르타 포스트 편집장을 역임하고 미디어 권익단체를 이끈 엔디 바유니(Endy M. Bayuni), 덴마크의 첫 여성총리였던 헬레 소닝-슈미트(Helle Thorning-Schmidt)처럼 다양한 경력을 가진 사람들과 함께 스탠포드, 컬럼비아 등 유명 대학교의 법대 교수들이 포함되어 있다. 국적과 성별, 경력도 다양하지만 그렇기 때문에 다양한 시각을 반영해서 합리적이고 수긍할 만한 판결을 내릴 것으로 기대하는 것이다.

콘텐츠 관리의 문제

하지만 그렇다고 해서 감독위원회에게 무소불위의 권한이 있는 것은 아니다. 감독위원회가 내린 결정 중에는 페이스북이 반드시 따라야 하는(binding) 것도 있지만, 그렇지 않고 참고만 해도 되는 것들도 있다. 결국 페이스북은 스스로 결정을 내릴 경우 기업의 이익을 위해서 내렸다는 공격을 받을 수 있는 민감한 사안들을 감독위원회가 대신 판단해달라고 넘긴 것뿐이다.

페이스북은 초창기부터 콘텐츠 관리의 문제가 까다로운 문제임을 깨달았다. 가령 아기에게 젖먹이는 엄마의 가슴이 드러난 사진이 외설적인 콘텐츠냐, 아니냐는 의견이 분분한 사안이다. 만약 신문사라면 논란이 될 수 있는 사진은 게재하지 않으면 되지만, 소셜 플랫폼은 다르다. 사용자들이 올리기 때문이다. 그들에게 자유를 크게 허용할 경우 일순간에 무료 사진 공유 사이트인 플리커(Flickr)처럼 포르노 콘텐츠의 천국이 될 수밖에 없다. 따라서 어느 선에서 기준을 정하고 판단을 내려야 하는데, 그 기준은 사람마다, 나라마다, 문화마다 전부 다를 수밖에 없다.

그렇게 모든 사안을 고려해서 판단의 기준을 정했다고 해서 일이 끝나는 게 아니다. 페이스북에 올라오는 사진과 동영상, 텍스트들이 페이스북이 정한 기준에 부합하는지 일일이 확인해야 한다. 페이스북은 이를 위해 인공지능을 도입했다고 하지만 불완전하고 결국 사람이 직접 눈으로 보고 결정해야 한다. 하지만 모든 포스팅을 확인하는 게 아니고 신고가 들어온 내용을 확인한다. 따라서 페이스북의 콘텐츠 관리자(moderator)들이 확인하는 콘텐츠, 특히 이미지와 영상은 신고를 받은 콘텐츠이고, 심각한 문제가 있을 확률이 높다. 포르노뿐만 아니라 끔찍한 사고 장면, 성폭력이나 살인 등 범죄 현장이 드러난 사진들을 한 시간에 2천 장을 확인하는 속도로 본다면, 정신적인 충격이 클 수밖에 없고, 이 일을 하는 사람들이 겪는 트라우마는 충분히 상상 가능하다.

단편 다큐멘터리 '모더레이터'는 인도의 한 작은 사무실에서 소셜미디어에 올라온 이미지들을 직접 보고 확인하는 사람들의 모습을 잘 담아냈다. (여기에서 무료로 볼 수 있다). 열 명 남짓한 지원자들이 모여 앉아 교육을 받는 것으로 시작하는데, 이들은 '콘텐츠 관리'라는 말 자체를 처음 들어볼 뿐 아니라, 한 번도 직업을 가져본 적이 없는 사람들이다. 담당자는 이들에게 적절한 콘텐츠와 그렇지 않은 콘텐츠가 어떤 것인지 교육을 한 후 작업에 투입한다.

페이스북에서 포스팅에 대한 경고를 받아본 사용자들은 알겠지만 너무나 터무니없이 문맥을 이해하지 못한 결정을 내릴 때가 있는데, 결국 이렇게 저임금 노동을 하는 사람들이 하루 수만 개의 콘텐츠를 처리하면서 생기는 일이다.

감독위원회의 무게

물론 트럼프가 백악관에서 올리는 포스팅에 경고 태그를 달거나 계정을 정지하는 결정을 위와 같은 일반 관리자가 내린 것은 아니다. 트럼프가 심각한 문제가 있는 내용을 포스팅할 때마다 각 플랫폼 기업에서는 경영진과 변호사들이 상의하고 결정을 내렸다고 전해진다. 그러다가 트럼프가 1월 6일 국회의사당 습격을 사실상 명령하자 페이스북은 무기한 계정 정지라는 처방을 내린 것이고, 이에 반발한 트럼프 측이 감독위원회로 이 문제를 가져간 것이다.

감독위원회의 결정은 이랬다. 페이스북이 트럼프 계정을 무기한 정지한 것은 기업이 가진 콘텐츠 정책에 없는 기준이니 6개월 이내에 분명한 기준과 (정지) 기한을 정해서 발표하라는 것이었고, 페이스북은 시간을 오래 끌지 않고 곧 트럼프 계정 2년 정지를 발표했다. 감독위원회의 결정을 신속하게 따른 것이다.

하지만 이 결정을 두고 감독위원회에 대한 사람들의 의견이 갈린다. 감독위원회가 완벽하지는 않아도 제법 작동하고 있다는 의견이 있는가 하면, 기대에 미치지 못한다는 평가도 있다. 그런데 이렇게 서로 다른 평가가 사실은 동일한 기준에 근거한다. 즉, 페이스북이 반드시 따르지 않아도 되는 '권고사항(recommendation)'을 감독위원회로부터 받았을 때 이를 얼마나 진지하게 받아들이는지를 보면 페이스북 경영진 사이에서 감독위원회가 얼마나 무게를 갖는지 알 수 있다는 것이다.

감독위원회의 역할에 점수를 주는 의견에 따르면 감독위원회가 페이스북에 "정치인의 말은 무조건 뉴스로서의 가치가 있는(newsworthy) 것으로 취급하는 기존의 정책을 버리라"고 제안했는데, 페이스북은 이를 받아들여 뉴스로서의 가치 기준을 새롭게 정립했을 뿐 아니라, 그 외에도 구속력이 없는 제안 19개 중에서 15개를 따르겠다고 했다는 것이다.

감독위원회의 역할이 실망스럽다고 하는 의견도 결국 권고사항의 이행 여부가 핵심이다. 하지만 이 경우 페이스북이 가장 어려운, 그렇기 때문에 가장 중요한 문제에서는 애써 눈을 돌리고 있다고 비판한다. 권고 사항에 아래와 같은 항목이 있었는데, 여기에 대해서는 아무런 대응을 하지 않았다는 것:

"선거 부정이라는 내러티브와 갈등이 1월 6일의 폭력 사태로 이어지는 과정에 페이스북이 기여했을 가능성을 종합적으로 살펴볼 것. 이는 페이스북의 작동방식과 정책이 플랫폼이 어뷰징 되는 결과를 만들어냈을 수 있다는 열린 고찰이어야 한다(Undertake a comprehensive review of Facebook’s potential contribution to the narrative of electoral fraud and the exacerbated tensions that culminated in the violence in the United States on January 6. This should be an open reflection on the design and policy choices that Facebook has made that may allow its platform to be abused)."

즉, 페이스북이 가진 알고리듬이 1월 6일의 사태를 만들어낸 것은 아닌지 꼼꼼하게 살펴보라는 말이다. 하지만 페이스북은 이 권고는 받아들이지 않았기 때문에 결국 가장 근본적인 원인은 건드리지 못하고 있다는 비판이다. 결국, 두 견해 사이에 현상에 대한 견해차가 존재하는 게 아니라, 단지 둘의 기대치가 다른 것으로 보인다. 과연 페이스북은 자신을 먹여 살리는 알고리듬에 (가짜뉴스를 확산시키고, 사회 분열을 조장하는) 내재적인 문제가 있음을 인정할 수 있을까?

궁극적으로 이 문제는 기업의 자기통제(self-regulation) 문제다. 그리고 2019년 보잉 737 맥스의 설계결함으로 인한 추락사고에서 봤듯이, 이윤을 추구하는 기업이 스스로를 감시, 통제할 수 있다고 하는 것은 환상에 불과하다. 기업은 이윤의 발생 장치를 객관적으로 감시, 수정할 수 없기 때문이다. 객관적인 감시는 전적으로 객관적인 기관, 즉 제3자 만이 할 수 있다.

그렇다고 했을 때 페이스북의 감독위원회는 감시가 가능한 제3자일까? 일정 부분 자율권을 부여받은 조직임은 분명하다. 하지만 완전히 독립적인 기관일 수는 없다. 페이스북이 만들고, 페이스북이 채용하고, 페이스북이 사례비를 (두둑하게) 주는 위원회이기 때문이다. 그 구성원들의 객관적 심사를 신뢰하지 않아서가 아니라, 독립된 조직의 여건을 갖추지 못했다는 것이다.

페이스북 감독위원회는 과거에는 없었던 새로운 시각을 기업에 가져다줄 것이고, 페이스북이 그들의 권고를 따르는 한 어느 정도 변화과 개선은 이루어질 수 있을 것이다. 하지만 페이스북의 가장 결정적인 문제는 결국 유권자가 선출한 의회가 나서기 전에는 고쳐지지 못할 게 분명해 보인다.