트위터는 일론 머스크가 인수한 직후부터 롤러코스터를 타고 있다. 직원의 절반을 이메일 통지로 해고했는데, (아마도 큰 걸 보여주고 싶었던 탓에) 지나치게 서둘렀는지 해고한 직원들에게 다시 돌아올 수 있겠느냐는 연락을 하고 있다고 한다.

이에 대한 내부 반발도 크지만 사실 더 심각한 것은 트위터에 광고를 싣는 기업들의 반발이다. 그동안 “트위터에서 발언의 자유를 강화하겠다”라고 공언해온 머스크가 사령탑에 올라서자 많은 기업이 트위터에서 광고를 빼기로 했다. 이유는 간단하다. 극우 성향 가짜뉴스와 혐오 발언이 판치는 플랫폼에 광고하는 것은 기업에 큰 리스크이기 때문이다. 하지만 트위터는 광고비로 운영되기 때문에 광고주를 잃는 것은 치명타. 머스크는 “트위터는 콘텐트 관리 정책을 바꾸지 않았다”라며 깨끗한 콘텐트 유지를 공언했지만, 이번에 해고한 직원 중에는 콘텐트를 관리하고 가짜 계정을 잡아내는 작업에 직·간접적으로 관여하는 사람이 많이 있다는 얘기가 들리기 때문에 과연 트위터가 콘텐트 관리 능력이 있느냐는 의구심이 퍼지고 있다. 기업들은 이에 불안을 느낀 것이다.

하지만 우익 세력과 머스크는 광고주들이 떠난 이유가 시민단체와 진보 단체가 불매운동을 벌이겠다며 기업을 위협했다고 주장한다. 머스크는 심지어 이렇게 압력에 굴복한 광고주들을 전부 공개하며 “핵전쟁”마저 불사하겠다는 말까지 했다. 그간 기업의 자유를 주창해온 머스크가 이제는 기업들을 우익 세력의 표적으로 만들어 괴롭히겠다는 위협으로 광고주들을 묶어두려는 것으로, 이쯤 되면 진짜로 광고주를 위협하는 게 누구냐는 의문이 생긴다 (중앙일보).

그런데 지금 머스크가 하고 있는 건 이미 성숙한 소셜 미디어 기업들이 다 거쳐서 알고 있는 것들이다. 머스크는 트위터에 불만이 많겠지만, 트위터를 비롯한 소셜 미디어가 지금처럼 (즉, 머스크가 싫어하는 것처럼) 행동하고 운영되는 데는 그만한 이유가 있다. 하지만 그걸 이해하지 못한 머스크는 모든 걸 무너뜨린 후에 다시 처음부터 학습하는 과정을 겪고 있다. (이건 지난 4월 레딧 CEO였던 이샨 웡이 이미  예고한 바 있다. 이 내용은 오터레터에서 '일론 머스크의 착각'이라는 글로 소개했으니 읽어보시길 바란다.)

아래의 글은 소셜 미디어 기업이 '발언의 자유(freedom of speech)'를 보장한다는 게 어떤 의미인지를 기업들이 직접 겪은 일들을 이해하기 쉽게 사장과 직원의 대화 형태로 풀어쓴 것이다. 이 글은 테크더트(Techdirt)에 등장한 것으로 테크더트를 창업한 마이크 매스니크(Mike Masnick)가 쓴 것이다. 원문은 여기에서 읽을 수 있고, 제목은 "헤이, 일론, 내가 콘텐츠 관리법을 빨리 배울 수 있게 도와줄게 (Hey Elon: Let Me Help You Speed Run The Content Moderation Learning Curve)"이다.

소셜 미디어 네트워크가 반드시 겪게 되는 통과의례가 있다. 처음 나타나서는 정확한 의미도 이해하지 못한 채 "발언의 자유를 보장하는 플랫폼"이라고 주장한 후에는 곧 기초적인 것들을 발견하고 급하게 (많은 경우 엉성하게) 개선을 시도하다가... 약간의 차이는 있어도 결국에는 다들 비슷한 모습을 띠게 된다. 나도 이 과정을 겪었다. 초기에는 나도–내가 운영하는 사이트를 포함해–웹사이트가 콘텐츠 관리를 하면 안 된다고 주장했었다. 하지만 결국에는 나도 학습을 하게 되었고, 팔러(Parler)나 게더(Gettr), 트루스 소셜(Truth Social)도 마찬가지다. (글쓴이가 든 세 개의 소셜 미디어는 발언의 자유를 강조하는 극우 플랫폼들이다–옮긴이)

하지만 일론 머스크는 좀 다른 상황에 있다. 새로운 걸 시작하는 게 아니라 대형 플랫폼을 인수했기 때문이다. 머스크와 그의 친구들을 포함한 많은 사람들이 트위터가 이 부분에 특별히 취약하다고 생각하고 있고, 머스크는 자신에게 "발언의 자유를 회복시킬 수 있는" 특별한 아이디어가 있다고 믿는다. 하지만 사실은 그렇지 않다. 트위터는 콘텐츠에서 "우리는 발언의 자유를 지지한다"라고 주장할 수 있는 가장 성공적인 플랫폼이다. 트위터는 세월을 거치면서 발언의 자유가 가지는 미묘한 의미와 이를 위해 균형을 잡는 법을 배웠다.

나는 일론 머스크가 성공하기를 바라고 트위터가 의미 있는 소셜 미디어로 남아있기를 바라기 때문에 그가 대부분의 신규 사업자들이 부딪히는 콘텐츠 관리의 기본적인 사항들을 빠르게 학습했으면 한다. 아래에 나오는 단계별 등장 순서나 심각성의 수준은 시간이 지나면서 바뀔 수 있고, 모든 단계가 어떻게 맞물리는지는 조금 다를 수 있다. 하지만 모든 소셜 미디어 플랫폼은 결국 이런 똑같은 상황에 처하게 된다. (트위터는 머스크가 트위터를 뜯어고쳐서 새롭게 시작해야 한다고 주장하던 때 이미 이 상황에 있었다.)

1단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다. 뭐든지 쓰셔도 됩니다!"

좋아. 좋아. 이제 새는 자유다! 모든 사람들이 환호한다.  

"사장님, 죄송한데요, 아동성착취 사진과 영상들이 저희 사이트에 올라왔다는 보고가 들어오고 있어요."

이런. 그런 건 내려야겠군.

2단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다. 단, 아동성착취물만은 안됩니다!"

좋아, 우리 사이트에서 코미디는 합법이다. 모든 사람이 환호한다. 사람들은 나를 좋아해.

"어, 사장님. 헐리우드에서 이메일을 엄청 보내고 있어요. 디지털 밀레니엄 저작권법(DMCA, 저작권을 주장하는 사람이 온라인사업자에게 자신의 저작물이 허락 없이 올라가 있다는 사실을 소명하면 온라인 사업자는 그 소명을 진정한 것으로 생각하고 즉각 해당 저작물을 삭제해야 한다)에 따라 삭제해야 한다는데요?"

아, 맞다. 저작권 침해는 나쁜 거지. 인턴 하나 더 채용해서 그런 거 발견하면 전부 내리라고 해.

3단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다! 단, 아동성착취물과 저작권 침해는 안됩니다!"

권력을 대중에게 돌려주자. 자유는 위대하다!

"음, 사장님께서 자꾸 자유를 말씀하시니까 많은 사람들이 다른 사람에게 온갖 욕설과 비방을 하며 괴롭힐 '자유'가 있다고 해석하는 것 같아요. 그런 일이 일어나니까 사람들이 저희 사이트를 떠나고 광고주들이 광고를 빼는데요."

그건 안 좋지. 어서 직원들 시켜서 증오발언(hate speech)을 금지하는 규칙을 만들게 해.

4단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다! 단, 아동성착취물과 저작권 침해, 그리고 증오발언은 안됩니다!"

자유를 되찾아오는 건 힘든 작업이네. 하지만 모든 일이 잘 되고 있어. 사람들이 이제 나를 좋아하겠지?

"어, 사장님, FBI가 찾아왔는데요? 18 USC 2258A인가 뭔가 하는 걸 얘기하면서 NCMEC(국립 아동 실종, 학대 방지센터)에 아동성착취물을 모두 신고하게 되어있다고 합니다."

아, 맞다. 인턴 하나 데리고 가서 그 이미지들을 모두 전달하게 해. 우리는 모든 법을 준수한다!

5단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다! 단, 아동성착취물과 저작권 침해, 그리고 증오발언은 안됩니다. 우리는 모든 법을 준수합니다!"

이런 법들은 좋은 거야. 우리는 법을 지킨다. 소셜 미디어를 운영하는 건 하나도 어렵지 않아.

"또 말씀드려서 죄송한데요, 사장님. 우리 사용자들이 또 화가 났어요. 이분들이 헐리우드 영화에 나온 장면을 가지고 짤(meme)을 만들었나 봅니다. 그걸 본 영화사에서 디지털 밀레니엄 저작권법 통지서를 보내왔어요. 그래서 사장님이 지시하신 대로 인턴을 시켜서 내리게 했죠. 그랬던 사람들이 사장님이 검열을 한다고 화를 내고 있어요."

문제가 복잡해보이는데. 우리가 내리기 전에 인턴을 시켜서 문제의 짤들을 외부 감독위원회에 보내서 공정 사용(fair use)에 해당하는지 심사해달라고 할 수 있나?

6단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다. 아동성착취물 없고요, 저작권 침해도 없고요, 저작권 침해 콘텐츠는 삭제하지만 공정 사용에 해당하는 건 예외입니다. 우리는 법을 준수해요!"

짤은 마음껏 유통되어야 한다! 공정 사용 만세! 여러분, 저를 사랑해주세요!

"좋습니다, 사장님. 짤 좋아요, 그런데, 음, 뉴욕타임즈 기자가 전화를 걸어왔어요. 이 기자 얘기에 따르면 우리가 아동성착취물을 다 잡아내지 못하고 있다고 합니다. 그래서 우리 플랫폼이 어떻게 소아성애자들이 모이는 허브로 변했는지를 설명하는 기사를 발행한다네요."

이건 문젠데... 이런 걸 해결하는 솔루션이 있을 거 같은데? 누가 마이크로소프트에 전화해서 걔네들이 만든 '포토 DNA' 라이선스를 좀 얻어와. 그러면 해결되지 않겠어?

7단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다. 아동성착취물과 증오 발언, 저작권 침해를 없애기 위해 최선을 다하고 있고, 모든 법을 준수합니다!"

좋아, 드디어 일이 제대로 진행될 거 같네.

"죄송합니다만, 사장님, 사용자들이 스팸이 쏟아진다고 불평해요. 스팸 때문에 사람들이 플랫폼에서 떠나고 있어요."

스팸은 나쁘지! 스팸은 모두가 싫어하지! 내가 모든 법을 준수해야 한다고 말하지 않았나? 스팸은 당연히 불법인데 왜 아직도 막지 않고 있었나?

"그게 말이죠, 저희 변호사들이 그러는데 사실 대부분의 스팸은 불법이 아니랍니다."

좋아, 그럼 우리 회사의 최고급 엔지니어들에게 스팸 필터를 만들어내라고 해야지. 일주일 안에 못 만들면 해고야.

8단계

"우리는 발언의 자유를 최우선시하는 플랫폼입니다. 아동성착취물과 증오 발언, 저작권 침해, 그리고 스팸을 없애기 위해 최선을 다하고 있고, 모든 법을 준수합니다!"

자, 이제 스팸을 막아버렸으니 사람들이 나를 좋아하겠지!

"사장님, 좋은 저녁 시간 보내시는데 방해해서 죄송합니다만, 이번에 만든 스팸과 아동성착취물 필터가 아무런 문제가 없는 콘텐츠도 막고 있다고 합니다. 그것 때문에 사람들이 화가 났어요."

그거 만든 엔지니어들 다 해고해! 그리고 일 똑바로 하는 새 엔지니어들을 데려와. 그리고 이런 일들을 좀 나눠서 해줄 수 있는 사람을 고용해야 할 것 같네. 그리고 그 사람을 "신뢰 책임자(Director of Trust)"라고 부르면 어떨까. 괜찮네!

9단계

"우리는 발언의 자유를 최우선시하는 신뢰할 수 있는 플랫폼입니다. 아동성착취물과 증오 발언, 저작권 침해, 스팸을 없애기 위해 최선을 다하고 있고, 모든 법을 준수합니다!"

신뢰. 좋은 표현이잖아! 이제 우리에게 신뢰 책임자가 있으니 모두가 우리 플랫폼을 신뢰하겠지!

"죄송합니다, 사장님. 말레이시아의 정부 관료들이 긴급한 이메일을 보내왔어요. 누군가 저희 플랫폼에 말레이시아의 법에 저촉되는 얘기를 포스팅한다고 합니다. 그런데 확인해보니 그냥 말레이시아 정부의 부패를 비판하는 내용이었어요. 사장님께서 모든 법을 준수하라고 하셨잖아요. 그럼 말레이시아 정부의 요구를 따라야 할까요?"

어허. 국민은 권력을 상대로 진실을 말해야 하지! 그 콘텐츠는 삭제하지 말고 놔둬!

"네, 사장님. 그랬더니 말레이시아가 저희 사이트를 차단했습니다."

소셜미디어의 20단계 ②에서 이어집니다.