몇 달 전에 흥미로운 일이 있었다. 전임 대통령인 도널드 트럼프가 미국 남부 앨라배마주에서 지지자들을 상대로 연설을 하다가 코로나19 백신을 맞는 게 좋다는 말을 했다가 그 자리에 모인 지지자들로 부터 야유를 당한 것이다. 트럼프는 "여러분의 자유"를 존중한다고 말한 후에 "하지만 백신 접종을 권합니다. 저도 맞았는데 좋아요. 백신 접종하세요"라고 말했는데 듣던 청중이 야유를 보내며 반발한 것이다.

트럼프는 코로나 백신의 빠른 개발이 자신의 업적이라고 자랑해왔고, 그건 틀린 말이아 아니다. 백신 개발 프로젝트인 "오퍼레이션 와프 스피드(Operation Warp Speed)"는 트럼프가 명령한 것이다. 하지만 코로나바이러스의 위험을 축소해왔던 그도, 아니 어쩌면 그랬던 트럼프이기 때문에) 백신을 접종하지 않겠다는 사람들의 마음을 돌릴 수 없었다. 이제 트럼프의 지지자들은 트럼프보다 페이스북을 통한 가짜 뉴스를 더 신뢰하게 되었음을 보여주는 장면이었다.

앞선 글에서도 이야기했지만, 월스트리트저널의 페이스북 탐사보도 시리즈는 이 신문이 손에 넣은 기업의 내부 문서, 특히 외부에 공개하지 않고 수행한 연구 결과를 (아마도) 경영진에 보고하는 슬라이드 자료에서 출발해서 이를 전현직 임직원들을 통해 확인해서 만들어졌다. 그런데 이 보고서에는 단순히 관찰, 혹은 데이터 분석의 결과만 제시된 게 아니다. 문제점을 발견한 직원, 혹은 연구원들이 '이 문제는 이렇게 하면 고칠 수 있을 것으로 보인다'라는 제안이 곳곳에 등장한다.

월스트리트저널에 따르면 저커버그는 그런 제안이 페이스북의 수익에 영향을 미칠지를 최우선으로 검토한 것 같다. 그 기준을 충족하지 못한 제안은 문제를 해결할 수 있어 보여도 채택되지 않았다. 하지만 그렇다고 그 해결책을 파기한 건 아니다. 페이스북은 이런 제안을 비상시에 사용할 수 있도록 보관하고 있다고 한다. 소위 'break-the-glass measure'(비상시에만 쓸 수 있는 수단)이다.

영어권에서 'break the glass'는 평상시에는 사용할 수 없고 화재나 구급 상황에서만 쓸 수 있는 긴급수단을 가리키는 표현으로 사용된다. 물론 여기에서 중요한 대목은 평상시에는 사용할 수 없다는 것이다. 페이스북은 직원들이 제안한 방법들을 사용하지 않고 가지고 있었던 거다.

하지만 드디어 사용해야 할 시점이 다가왔는데, 여론은 물론 바이든 대통령이 페이스북을 코로나19 백신과 관련한 허위정보 확산의 핵심으로 지목했던 때다. 월스트리트저널의 '페이스북 파일' 다섯 번째 기사는 바로 그 얘기를 한다.

5. 허위정보 통제 불능

저커버그는 기회가 될 때마다 페이스북을 비롯한 소셜미디어는 인류사회의 발전에 기여할 수 있다고 강조해왔다. 트럼프의 당선과 함께 케임브리지 애널리티카 사건이 터지고, 선거 결과를 부정하는 트럼프 지지자들이 1월 6일 의회난입, 점거사태를 벌이면서 사회 분열과 혼란의 핵심이 소셜미디어가 있었다는 게 드러나도 그의 생각에는 변함이 없는 것 같았지만, 그래도 저커버그에게는 자신의 주장을 증명할 기회가 필요했다.

그런데 올해 초에 코로나19 백신이 나온 것이다. 저커버그는 사람들이 백신을 접종하도록 하는 노력에 페이스북이 큰 도움이 될 거라 믿었고, WHO(국제보건기구)와 함께 백신 접종을 위한 협업을 결정했다. 저커버그는 이를 최우선 순위로 두었다고 한다.

하지만 페이스북의 직원들은 그 일이 쉽지 않을 거라고 저커버그에게 보고했다고 한다. 특히 댓글이 문제였다. 백신과 관련한 (올바른) 정보가 포스팅되면 그 밑에 달리는 댓글은 본문의 내용을 부정하는 허위정보와 주장으로 뒤덮이고 있었던 거다. 저커버그가 WHO와의 협업을 발표하는 시점에 영어로 작성된 백신 관련 포스트에 달린 영문 댓글의 41%가 백신을 부정하거나 접종을 막는 내용이었다. 그때까지 페이스북의 콘텐츠 관리(moderation)는 포스팅된 본문에 초점이 맞춰져 있었기 때문에 이렇게 댓글을 통해서 퍼지는 허위정보를 막지 못했던 것이다.

위의 문서에 따르면 "백신 거부는 댓글에 많이 퍼졌고" 페이스북은 그런 댓글을 잡아낼 능력이 턱없이 부족하다고 인정하고 있다. 영문 댓글에서도 제대로 잡아내지 못하지만, 다른 언어에서는 아예 불가능하다는 것이다.

"Break The Glass"

지난 3월 말 페이스북은 사용자들이 자신의 공개 포스트에 사람들이 댓글을 달지 못하도록 할 수 있는 기능을 발표했다. 하지만 페이스북은 이를 발표하면서 이 기능을 도입하게 된 진짜 이유를 밝히지 않았다. 하지만 월스트리트저널이 입수한 내부문건에 따르면 이는 페이스북 사용자들 사이에 퍼지는 백신 접종에 반대하는 움직임을 막기 위함이었다.

페이스북은 댓글로 퍼지는 허위정보를 막기 힘들다는 사실을 깨닫고 비상수단을 동원한 것이다. 아래가 이 결정을 보여주는 문서로, "우리는 코로나 백신에 대한 저항이 잠재적으로 사회에 심각한 피해를 불러올 수 있음을 인지한다. 따라서 일시적으로 BTG(break the glass) 수단을 동원할 필요가 있고, 과다한 제재의 위험을 무릅쓸 필요가 있다"고 말한다. 페이스북의 다급함을 보여주는 방법은 대부분의 사용자들은 눈치채지 못한 곳에서도 이뤄졌다. 의료와 관련된 공신력있는 기관의 포스트 밑에 한 사람이 한 시간 동안에 달 수 있는 댓글의 개수를 300개에서 13개로 줄인 것이다.

하지만 진정한 BTG 방법은 따로 있었다. 자극적, 선동적인 포스트, 그리고 백신에 대한 불신을 키우는 것처럼 보이는 포스트는 뉴스피드의 랭킹을 낮춰버린 것이다. 그뿐 아니라 비슷한 내용이 들어간 것으로 보이는 댓글 역시 랭킹을 낮추고, 그런 내용을 적은 작성자에게 백신과 관련한 올바른 정보를 댓글이나 포스트에 부착하는 것을 권하는 방법을 사용했다.

여기에서 주목해야 할 부분은 페이스북이 이런 방법을 이미 알고 있었으면서도 BTG로 지정하고 사용하지 않고 있었다는 사실이다. 자극적, 선동적인 포스트와 댓글이 많은 사용자의 반응과 참여를 불러온다는 것을 (여기에 대해서는 '페이스북 파일 3. 분노유발 알고리듬'에서 설명했다) 잘 알고 있었기 때문으로 보인다. 기사에서도 설명하지만, 2020년까지만 해도 저커버그는 의료 관련 허위정보를 퍼뜨리는 사용자들을 단속하는 것에 반대했다. "누군가 백신이 문제를 일으킨다거나, 백신이 걱정된다고 말하는데 그런 말을 하면 안 된다고 하기는 어렵다"는 것이 저커버그의 주장이었다. 그런 태도가 문제를 크게 키웠고, 결국은 개입하게 된 것이다.

하지만 그러는 사이에 백신에 대한 허위정보는 페이스북을 통해 널리 확산되었다. 미국 의사들에 따르면 코로나19 백신을 믿지 못한다는 말을 하는 환자에게 "어디에서 그런 정보를 얻었느냐"고 물으면 열에 아홉은 "페이스북"이라고 대답한다고 한다.

페이스북은 사회적 인프라일까

저커버그는 2016년 미국 대선 전후로 여론의 강한 비판을 받은 후 페이스북의 다음 미션은 "사회적 인프라(social infrastructure)"를 만드는 것이고, 그렇게 해서 세상이 위기를 극복할 힘(resilience)을 기르게 하겠다고 했다. 하지만 지난 몇 달 동안에 일어난 일만 봐도 그 미션에 실패한 것은 분명해 보인다.

그런데 그 미션의 성공 여부와 상관없이 페이스북이 사회적 인프라가 되겠다는 것은 옳은 목표인지 생각해볼 필요가 있다. '페이스북 파일 2. 인스타그램'에서 언급했던 팟캐스트에서 인스타그램 총책임자 애덤 모세리도 비슷한 얘기를 했지만, 페이스북은 자신들이 세상을 연결하는 거대한 도로로 생각하는 듯하다. 그렇게 많은 사람을 연결하면 (자동차 사고처럼) 부작용도 있지만 모든 것을 고려했을 때 이득이 훨씬 많다는 태도다.

백번 양보해서 (물론 백 번으로는 부족하다) 그게 사실이라고 해도 그 인프라에 관해서는 국민, 혹은 사용자들에게 결정권이 없다. 세상에 그런 인프라는 없다. 인프라는 국민이 선출한 대표자들이 유권자의 의견을 반영해서 만들고 운영하는 게 맞다. 저커버그는 전 세계 사람들을 연결할 때는 인프라 논리를 사용하지만, 정작 중요한 결정은 기업의 이윤을 최우선시해서 혼자 내리고, 조직 내에서 만든 해결책도 BTG라는 딱지를 붙여서 창고에 보관한다. 그런 페이스북이 사회적 인프라가 되는 세상은 저커버그가 지배하는 독재사회라고 해도 과언은 아닐 거다.