테드 창은 간단한 계산도 하지 못하던 GPT-3가 텍스트를 사용해 답을 줄 때는 높은 지능을 가진 존재처럼 보이는 이유를 설명하면서 이렇게 말한다. "챗GPT가 지금 하는 것처럼 인터넷에서 볼 수 있는 정보에 가까운 답(approximation)을 주는 게 아니라, 아예 한 글자도 다르지 않게 그대로 옮겨서 보여 준다고 생각해 보라. 우리는 그런 소프트웨어를 과연 뛰어나다고 생각할까? 그냥 우리가 이제까지 사용하던 검색 엔진보다 조금 나은 정도라고 여길 거다."

사람들이 챗GPT와 같은 대형 언어모델 AI에 감탄하는 이유는 암기한 내용을 그대로 가져다 보여주지 않고 다소 어설프더라도 자기만의 말로 표현하려는 학생처럼 보이기 때문이라는 게 그의 생각이다. 웹의 콘텐츠를 있는 그대로 전달하지 않고 다른 말로 표현할 경우, 그 AI가 내용을 정말로 이해하고 있다는 착시를 일으킨다. 우리가 책의 내용을 토씨 하나 틀리지 않고 암기하는 학생을 보면서 그 아이가 정말로 그 내용을 이해하고 있다고 생각하기 힘든 것과 비슷하다. 역설적으로 들리지만, 챗GPT가 웹사이트에 등장한 정보를 있는 그대로 전달하지 못하는 한계 때문에 AI가 정말 뭔가를 배우고 이해했다고 여기게 되는 거다. 달리 표현하면, 텍스트의 경우 손실 압축(lossy compression)은 무손실 압축(lossless compression)보다 더 똑똑해 보인다.

그런 수준의 글쓰기를 하는 AI가 인간 작가의 창작을 도울 수 있을까? 분명한 건 세상의 모든 글이 창의적인 게 아니라는 사실이다. 우리가 접하는 많은 글이 다른 곳에서 쉽게 찾아 볼 수 있는 뻔하고 진부한 표현을 반복한다. 그렇다면 진부한 글쓰기는 AI에 맡겨 놓고 인간은 정말로 창의적인 작업에만 매달리면 되지 않을까? 챗GPT가 등장한 후로 자주 듣게 되는 이런 주장에 대한 테드 창의 생각은 흥미롭다:

"당신이 작가라면, 당신만의 독창적인 작품을 쓸 수 있게 되기 전까지 독창적이지 않은 글을 많이 쓰게 될 거다. 하지만 그렇게 진부한 글을 쓰는 데 소비한 시간은 낭비가 아니다. 오히려 그 반대다. 독창적이지 않은 글을 많이 써봐야 나중에 독창적인 글을 쓸 수 있게 된다. 정확한 표현을 찾고, 문장의 순서를 바꾸면서 많은 시간을 소비한 후에야 글을 통해 의미를 전달하는 법을 배울 수 있다. 학교에서 학생들에게 에세이를 쓰게 하는 이유는 단순히 배운 것을 이해하게 하려는 것만이 아니라, 자기의 생각을 정확하게 표현하는 경험을 하게 하려는 것이다. 만약 학생들로 하여금 누구나 다 읽어봤을 법한 에세이(즉, 진부한 글—옮긴이)를 쓰게 만들지 않으면, 아무도 읽은 적이 없는 에세이(즉, 독창적인 글—옮긴이)를 결코 쓸 수 없다."

테드 창은 더 나아가, "초고(first draft)는 독창적이지 않은 생각을 분명하게 쓴 게 아니라, 독창적인 생각을 분명하지 않게 표현한 것"이며, 작가는 그렇게 쓴 초고와 자기가 말하고자 했던 것의 차이에서 느껴지는, 콕 집어 말할 수 없는 불만 때문에 원고를 계속해서 다듬게 된다고 말한다. 그런 작업을 통해서만 작가의 독창적인 생각이 표현되는데, AI의 도움을 받아—완벽해 보이는—원고를 쓰기 시작하면 그 작업은 애초에 불가능하다. 창은 작가들이 AI의 도움을 받아 좋은 작품을 쓸 수 있을 것으로 생각하지 않는다. 언젠가는 정말로 창의적인 글쓰기를 할 수 있는 AI가 등장할 수도 있겠지만, 우리가 당장 예측 가능한 미래의 일은 아니다.

그런데 테드 창의 글은 꽤 많은 사람들이 반박하고 싶은 말로 끝난다. 그는 AI가 독창적인 글쓰기를 하는 세상이 오기 전까지 단순히 웹/인터넷을 "흐릿한 이미지"로 복제하는 AI가 무슨 쓸모가 있겠느냐고 물으면서, 우리가 웹을 더 이상 사용하지 못하게 된다면 AI에 의존해야 하겠지만, 원본(웹)이 사라지지 않는다면 굳이 복사본(AI)의 필요를 느끼지 못할 거라고 주장한다. 과연 그럴까?

그 말에 동의하지 않을 대표적인 사람이 찰리 워즐(Charlie Warzel)일 거다.

인터넷을 먹어 치우는 AI

찰리 워즐이 애틀랜틱에 쓴 글의 제목—This Is What It Looks Like When AI Eats the World (AI가 세상을 먹어 치우면 이런 모습이 될 것이다)—은 실리콘밸리의 전설적인 투자자 마크 앤드리슨(Marc Andreessen)이 2011년에 했던 말, "소프트웨어가 세상을 먹어 치운다(Software is eating the world)"에서 가져온 것이다. 앤드리슨이 당시 소프트웨어 기업들이 경제의 많은 부분을 장악할 것을 예측했던 것처럼, 이제는 AI 기업들이 비슷한 일을 할 것을 예측하고 있기 때문에 워즐이 사용한 전제("AI가 세상을 먹어치우면")를 부정할 사람은 많지 않다. 워즐의 글은 그런 일이 일어났을 때 세상은 어떤 모습을 하게 될 것인지를 이야기한다.

소프트웨어 혁명 때부터 줄곧 테크 기업들은 소비자들이 바라는 것과 무관하게 앞으로 다가올 세상을 자기들이 개발한 제품을 중심으로 재구성해 왔고, 2024년 현재 그들이 밀고 있는 제품은 AI다. 물론 세상은 당장 AI로 갈아탈 의향도 없고, 준비도 되어 있지 않은 것 같지만 테크 기업들의 바람몰이와 이에 놀란 다른 (비테크) 기업들의 공포로 인해 세상은 빠르게 AI를 받아들이고 있다. 문제는 그렇게 하는 것이 우리 모두에게 도움이 될지 해가 될지 아직 아무도 모른다는 사실이다. 하지만 기업들은 AI 혁명이 사회에 순손실이 될 가능성을 진지하게 논의하기보다는 "일단 저지르고 용서를 구하는 것이 허락을 구하는 것보다 낫다" 실리콘밸리의 격언을 따르고 있는 듯하다.

글에서 찰리 워즐이 특히 걱정하는 건 콘텐츠 기업들이다. 알다시피 1990년대 이후로 사람들을 웹/인터넷 세상으로 끌어들인 건 이들이다. 이 기업들이 광고 기반의 무료 모델로 사람들을 웹사이트로 불러 모았고, 구글, 네이버 같은 인터넷 기업들은 이들에게 트래픽을 몰아 주면서 성장했다. 이렇게 주고 받는 게 분명한 공생관계를 바탕으로 인터넷이 흥행할 수 있었다. 하지만 이제는 구글마저 '콘텐츠 검색-트래픽-광고'라는 기존의 모델을 AI로 대체하려는 듯 보인다. 거기에서 새로운 비즈니스 모델을 찾아서가 아니라, 챗GPT를 내세워 치고 나가는 오픈AI의 독주를 손놓고 볼 수 없기 때문이다.

그렇게 다들 "패러다임이 바뀐다"고 말하지만, 사실은 아무도 정답을 모르는 상태에서 다들 서두르고 있다는 게 찰리 워즐의 경고다. 뉴욕타임즈와 같은 콘텐츠 기업은 자기 콘텐츠를 가져다가 AI 모델을 훈련시킨 후 거꾸로 자기들을 위협하고 있는 오픈AI를 상대로 소송을 진행하고 있지만, 결과가 어떻게 나올지 알 수 없는 대규모 소송전을 벌일 수 있는 콘텐츠 기업은 많지 않다. 따라서 대부분의 콘텐츠 기업이 할 수 있는 일은 AI 기업과 합의하고 그들에게 콘텐츠를 제공하는 일이다. (그런데 우리는 콘텐츠 기업들이 거대 플랫폼에 이름 없는 공급자로 전락했을 때 어떤 일이 벌어지는지 한국의 언론매체와 네이버의 관계를 통해서 이미 알고 있다).

테드 창은 원본(웹)이 사라지지 않는다면 굳이 복사본(AI)의 필요하지 않을 거라는 낙관적인 태도라면, 찰리 워즐은 지금 당장 그 원본이 무너지고 있다고 개탄한다. 구글의 검색엔진은 웹사이트에 트래픽을 몰아줬고, 콘텐츠 기업은 그렇게 들어온 사람들에게 광고를 보여 주며 돈을 벌어 글을 쓴 사람에게 월급을 줬는데, 구글의 AI가 대신 답을 주면서 그 트래픽이 증발하는 일이 지금 현재 벌어지고 있다. 언젠가는 AI가 던져주는 답만으로 만족하는 세상이 될 수도 있겠지만, 당장 AI가 그런 훌륭한 콘텐츠를 만들지 못하고 있는 상황(이에 대해서는 워즐과 창의 의견이 다르지 않다)에서 콘텐츠 생산의 기반, 혹은 인터넷의 정보 흐름이 먼저 무너진다는 것이다.

찰리 워즐은 스카이넷(Skynet, 영화 '터미네이터'에서 인류를 파괴하는 인공지능)이 완성되어야만 세상이 망가지는 건 아니라고 말한다. 잘 알려진 것처럼, 디지털 카메라가 필름 카메라 산업을 무너뜨린 건 디지털 사진의 화질이 필름 사진에 아직 미치지 못했던 시점에 일어난 일이다. 마찬가지로 인간 수준의 AI, 혹은 인공일반지능(AGI)이 완성되어야 세상이 뒤집어지는 건 아니다. 반복하지만, 테드 창은 원본(웹)이 사라지지 않는 한 걱정할 필요가 없다고 말한다면, 워즐은 그 원본이 망가지고 있다고 경고하는 것이다. "사람들이 새로운 걸 창작해서 먹고 살 수도 없다면 그들에게 어떤 인센티브가 있어서 창작 활동을 계속하겠는가?"

물론 세상에는 금전적인 인센티브가 없어도 뭔가를 쓰고, 만들어내는 사람들이 많다. 가령, 위키피디아나 레딧 같은 사이트가 돌아가고 유지되는 건 대부분 금전적 보상을 받지 않는 개인들의 노력 때문이다. 하지만 그런 세상은 100년 전의 올림픽과 비슷한 모습이 될 거다. 먹고 사는 데 별 지장이 없는 소수의 사람들이 취미로 만드는 콘텐츠와 거대한 산업 시스템 안에서 재능을 가진 사람들이 몰려들어 경쟁을 통해 만들어지는 콘텐츠는 차원이 다르다.

지난주에는 뉴욕타임즈의 칼럼니스트 데이비드 브룩스(David Brooks)가 AI를 두려워 할 필요가 없다("Many People Fear AI. They Shouldn't")는 제목의 칼럼을 썼다. 브룩스가 인간의 뇌와 사고에 관해 좋은 글을 쓰곤 했기 때문에 짬을 내어 읽어 봤다. 그는 컴퓨터 과학자들이 사람의 뇌를 "뛰어난 컴퓨터"로 이해하는 것에 동의하지 않는다. 컴퓨터를 연구하는 사람들은 "사람처럼 생각하는 기계를 만들겠다"고 노력하지만, 정작 뇌를 연구하는 사람들은 "그렇게 할 수 있으면 좋겠지만, 우리는 인간이 어떻게 생각하는지도 아직 모른다"고 말한다는 것이다. 인간이 두뇌의 작동법을 아직 모르면서 인공의 두뇌를 만들 수는 없다는 게 그의 생각이다.

브룩스도 다가올 변화에 관해 알지 못한다는 걸 인정하지만 그는 테드 창보다 더 낙관적이다. 이미 AI가 지루하고 뻔한 업무용 이메일과 광고 문구의 작성을 돕고 있다는 얘기를 하고, 아이들의 교육을 돕는 훌륭한 선생님 역할을 할 수 있을 거고, 어쩌면 AI가 세상을 지금보다 평등하게 만들 수도 있을 거라고 했다. "만약 당신이 새로운 언어를 사용해야 하는 이민 노동자라면 AI가 당신의 글쓰기 실력을 평균적인 노동자 수준으로 만들어 줄 수 있다. 우리를 지금보다 훨씬 더 생산적이고 부유하게 만들어 줄 가능성이 크다."

그의 주장을 읽으면서 같은 신문의 칼럼니스트인 토머스 프리드먼(Thomas Friedman)이 1990년대에 세계화에 대해 지극히 낙관적 태도로 썼던 책과 칼럼들을 떠올리게 된다. 프리드먼의 낙관적인 태도를 이어받은 브룩스가 AI 시대용 버전을 내놓는 걸까? 아서 클라크가 말한 과학 제1법칙("어떤 뛰어난, 그러나 나이 든 과학자가 무언가가 가능하다고 하면 사실일 가능성이 크다. 그러나 그가 무언가가 불가능하다고 말한다면, 그의 말은 틀릴 가능성이 크다")과 비슷한 법칙이 나와야 하지 않을까, 하는 생각이 든다.

나이 든 저자들이 AI의 미래를 낙관적으로 본다면 과연 그들의 예측은 맞을까, 아니면 틀릴까? 🦦