신뢰성이 중요하지 않은 콘텐츠라면 AI를 활용하는 게 좋을 수도 있다. 맞춤형 비디오 게임이나 어린이용 프로그램, 노래 모음, 이미지 생성은 사용자의 관심을 사로잡을 수 있다. 그렇게 되면 새로운 형태의 즐거움과 관심 끌기가 우리를 찾아온다. 우리는 아직 준비된 것 같지 않지만, AI 친구, AI 연인, AI 반려인이 사회에 널리 퍼지는 시점은 코 앞에 다가왔다는 게 내 생각이다. 하지만 신뢰성이 중요한 영역–가령 의료와 관련한 답을 주는 AI, 의사와 환자 사이의 대화를 요약하는 AI를 생각해보라–에서는 관리, 감독의 비용이 엄청날 것이기 때문에 도입에 어려움을 겪게 될 것이다. 문제는 경제 성장의 측면에서는 이런 영역 중요하다는 사실이다.

나의 두 번째 우려는 버즈피드의 의장인 마르셀라 마틴(Marcela Martin)이 투자자들에게 했던 이야기에 잘 드러난다. "1분 동안 10개의 아이디어를 (사람이) 생각해 내는 대신, AI를 사용하면 1초 안에 100개의 아이디어를 만들어 낼 수 있습니다." 마틴은 그렇게 하는 게 좋다는 의미로 한 말이지만, 정말로 좋은 일일까? 마틴의 생각이 경제 전역에 걸쳐 적용되는 걸 상상해 보자. 어디에선가, 누군가는 그 모든 정보를 처리해야 할 거다. 그게 생산성에 어떤 영향을 가져올까?

디지털 시대가 우리에게 가르쳐 준 교훈이 하나 있다면, 그건 더 많은 게 항상 더 좋은 걸 의미하지 않는다는 사실이다. 더 많은 이메일, 더 많은 보고서, 더 많은 슬랙(Slack) 메시지, 더 많은 트윗, 더 많은 비디오, 더 많은 뉴스기사, 더 많은 발표 슬라이드, 더 많은 줌(Zoom) 회의는 훌륭한 아이디어를 더 많이 만들어 내지 않았다. 마크 교수는 "우리는 더 많은 정보를 만들어 낼 수 있지만, 그 말은 우리가 처리해야 할 정보가 더 많아진다는 얘기다. 우리(인간)의 처리 능력이 병목 구간이 된다."    

경제 전반에 걸쳐 널리 사용되고 있는 이메일과 (슬랙과 같은) 챗이 좋은 비유가 된다. 둘 다 처음에는 생산성을 높이는 도구라고 홍보되었다. 이들을 사용하면 더 많은 소통이 더 빨리 이뤄진다는 것이다. 사용해 본 사람들은 알겠지만 생산성이 증가하는 면이 분명 존재해도 지나치게 많은 소통에 파묻히게 되어 발생하는 비용이 더 크다. 그렇게 해서 만들어지는 메시지들은 상당 부분 불필요한 쓰레기에 불과하다.

지루한 파멸

대형 언어 모델이 가진 마술은 사용자가 최소한의 노력만으로 문서를 원하는 길이, 원하는 스타일로 만들어 낼 수 있다는 것이다. 하지만 그렇게 만들어진 문서가 그 문서를 읽고 대응해야 하는 사람들에게 발생시킬 비용에 대해 생각해 본 사람은 많지 않다. 내가 가장  좋아하는 예는 이코노미스트(The Economist)에서 발행한 기사에 등장하는 님비(NIMBY) 집단–반드시 님비가 아니라 어떤 이익집단을 대입해도 상관없다–이 GPT-4를 이용해 새로 개발하는 단지에 반대하는 1,000페이지짜리 탄원서를 만들어 내는 상황이다. 그런 일이 일어나면 새로운 주택을 건설하는 작업이 빨라질 수 있을까?

"그렇게 긴 탄원서를 읽어야 할 의원들을 위해 빠르게 요약해 주는 AI를 사용하면 되니까 큰 문제가 아니다"라고 반박할 수도 있다. 우리가 필터를 사용해 스팸 이메일을 (어느 정도는) 해결한 것처럼 말이다. 모자이크(Mosaic)ML의 수석 연구원이자 하버드 대학교의 컴퓨터 공학자인 조너선 프랭클(Jonathan Frankle)은 AI와 관련해서 인류가 "지루한 파멸(boring apocalypse)"를 맞이하는 시나리오를 들려줬다. "챗GPT를 사용해 긴 이메일과 문서를 만들면, 그걸 받은 사람이 다시 챗GPT를 사용해 몇 개의 핵심만 추출해낸다. 그 과정에서 엄청난 양의 정보가 오가지만, 전부 다 거품일 뿐. 우리는 AI로 콘텐츠를 부풀리고, 압축하기만 반복하게 된다."

프랭클과 그 이야기를 나누던 중, 그가 100페이지짜리 대법원 문서를 대형 언어 모델에 넣어서 핵심만 추려낸 요약본을 만드는 얘기를 했다. 프랭클은 그렇게 만들어진 게 과연 좋은 요약일지 궁금하다고 했다. 챗GPT에게 글을 써 보라고 해본 사람이 많이 있을 거다. 그렇게 해서 단 몇 초 만에 내놓은 깔끔한 결과물을 보면 마치 마술을 보는 것 같다.

나의 세 번째 우려는 AI를 그런 용도로 사용하는 것과 관련 있다. AI가 내놓는 요약과 작문이 상당히 좋다고 해도 우리가 AI에게 아웃소싱을 하는 과정에서 잃는 게 생긴다. 내가 대법원 판결문의 요약문을 만들어 내야 한다면, 그 작업에는 100페이지짜리 문서를 읽는 것과 요약문의 어설픈 초고를 쓰는 것이 포함되어 있다. 물론 AI에 그 일을 맡긴다면 훨씬 더 빨리 일을 끝낼 수 있지만, 효율성이 증가하는 대가로 새로운 아이디어나 더 깊은 통찰을 얻는 건 포기해야 한다.

사회 전체가 속도와 효율성에 집착한 결과, 우리는 인간의 인지(認知)에 관해 잘못된 생각을 갖게 되었다. 나는 이를 "(영화) 매트릭스식 지식이론"이라 부른다. 우리는 그 영화에 나오는 것처럼 머리에 잭을 꽂고, 이를 통해 책에 든 지식(혹은 영화 속에 나오는 것처럼 쿵후 기술)을 단번에 다운로드해서 머리에 담고 있기를 바란다. 하지만 그런 비유를 사용하면 우리가 긴 시간에 걸쳐 책을 읽는 과정에서 일어나는 일을 이해하지 못하게 된다. 중요한 것은 우리가 그 책 안에서 보내는 시간이다. 그 시간 동안 우리는 우리가 알고 있는 것과 책의 내용을 연결하고, 책이 아니었으면 하지 않았을 생각을 하게 되기 때문이다.

마크 교수는 이렇게 말한다. "보고서와 이메일을 쓰는 걸 좋아하는 사람은 없지만, 정보에서 분리되는 걸 원하는 사람도 없다. 우리는 정보를 두뇌 깊숙이 처리하는 과정에서 학습을 한다. 그 과정에서 자신을 분리해버리면 우리는 모든 것을 GPT에 맡기게 된다. AI가 요약하게 하고, 우리 대신 보고서를 쓰게 하면 우리는 정보에서 분리된다."

이걸 학생들에게 적용해보면 직관적으로 이해할 수 있다. 위대한 문학작품의 줄거리 요약본을 읽는 게 그 책 전체를 읽는 것과 별 차이 없다고 생각하는 사람은 없다. 학생들이 챗GPT를 사용해서 숙제를 하는 것을 두고 학생들의 생산성이 향상되었다고 생각하는 사람은 없다. 그들은 배울 기회를 잃었을 뿐이다. 물론 사무실에서 하는 업무는 학교에서 이뤄지는 학습과는 다르다. 회사의 업무 중에는 자동화해서 직원들이 좀 더 창의적인 업무에 더 많은 시간을 사용하도록 할 수 있는 것들이 많이 있다. 하지만 인지와 창작 과정을 지나치게 자동화하는 것이 수반하는 위험은 분명히 존재한다.  

이런 우려는 물론 새로운 것이 아니다. 소크라테스는 글쓰기가 과연 도움이 될지 의심하면서 (아이러니하게도 그의 우려는 플라톤이 받아 적는 바람에 우리에게 전해질 수 있었다) "만약 사람들이 글 쓰는 법을 배우면 망각하는 습관이 생길 것이다. 글로 적은 것에 의존하면서 암기하는 연습을 하지 않게 되면, 기억은 자기 자신이 아닌 바깥에서 오게 된다"고 했다. 글을 쓰는 게 나의 직업이니 그럴 수도 있지만, 나는 인간의 기억력이 떨어진다고 해도 글은 쓸 만한 가치가 있다고 생각한다. 하지만 잃는 것은 잃는 것이다. 인간은 과거에 갖고 있었던 기억 능력을 정말로 상실했다.  

인공지능이 우리에게 한 약속을 지키려면 인류의 지능을 향상해 주어야 한다. 그렇게 하려면 우리는 인간을 압도하거나, 정신을 산만하게 만들거나, 약화시키지 않는 방법으로 AI를 만들고, 그 AI를 중심으로 작업 흐름(workflow)과 사무 환경을 구성해야 한다. 우리는 인터넷이 등장했을 때 그렇게 하는 데 실패했다. AI에서는 실패를 반복하지 말자.