아래는 뉴욕타임즈의 에즈라 클라인(Ezra Klein)이 'Beyond the Matrix Theory of the Mind'라는 제목으로 오피니언란에 게재한 글을 번역한 것이다. 이 제목을 굳이 번역하자면 우리의 머리가 영화 매트릭스에 등장하는 것처럼 작동할 거라는 착각을 넘어서자는 얘기다. 우리가 인터넷과 모바일 시대에 들어오면서 잃어버린 집중력에 관한 이야기로 시작하지만, 거기에서 얻은 교훈으로 인공지능 시대를 바라본다.

평소 에즈라 클라인의 팬이라면 놓치고 싶지 않을 글이고, 에즈라 클라인에 대해 잘 몰랐다면 앞으로 관심 작가에 올리게 될, 그런 글이다.

내가 1970년에 놀라운 도구를 하나 만들어 내겠다고 선언했다고 상상해 보라. 이 도구는 인류의 대부분이 사용할 수 있게 될 것이고, 이걸 사용하면 세상의 어느 누구와도 빠르게 소통하며 함께 작업할 수 있게 된다. 인류 지식, 사고의 결과를 거의 모두 이 도구에 저장하게 되고, 모든 내용의 검색과 분류가 가능해질 뿐 아니라, 들고 다닐 수도 있게 된다고 생각해 보라. 글은 한 언어에서 다른 언어로 즉각적으로 번역되고, 뉴스는 전 세계 모든 곳에서 실시간으로 전해진다. 연구자가 15년 전에 한 과학 저널에 게재된 논문 하나를 다운로드 받는 데 걸리는 시간은 최신 저널에 게재된 논문을 펼치는 데 걸리는 시간과 차이가 없어진다.

당신이 1970년에 살면서 이 설명을 들었다면, 이런 정보와 통신, 협업의 혁명이 인류에 무엇을 가져다줄 것이라고 상상했을까? 인류의 경제는 얼마나 빨리 성장할 거라 생각했을까?

이번에는 내가 사악한 도구를 하나 만들어 내겠다고 선언했다고 상상해 보라. (나는 이 얘기를 하면서 혼자서 웃고 있다.) 사람들이 이 도구를 사용하면 한 일에 집중할 수 있는 시간(attention span)이 짧아진다. 왜냐면 이 도구는 사람들의 생각의 초점을 끊임없이 바꾸면서 집중력을 약화시키고, 차분하게 생각(contemplation)하는 능력을 떨어뜨리기 때문이다. 이 도구는 사람들에게 당신이 가장 눈을 떼기 힘든 게 뭔지를 찾아서 보여주게 된다. 그건 아마도 당신이 사는 세상을 위협하는 어떤 것일 거다. 당신이 반대하는 정치 집단이 품고 있는 사악한 계획부터 사회에 깊이 뿌리내린 불공정까지, 당신이 눈을 떼지 못하게 만드는 이슈 말이다.

게다가 그 도구는 주머니 안에 쏙 들어가는 크기다. 밤에는 침대 옆에서 빛을 발하고, 절대 조용해지지 않는다. 사람들은 쌓이는 메시지와 경고, 그리고 확인하지 않으면 안 되는 업무에서 한순간도 벗어나 있다고 느낄 수 없게 된다.

당신이 1970년에 살면서 이 설명을 들었다면, 이렇게 정신 산만, 사회 분열, 인지 분산을 만들어 내는 기계가 인류에 무엇을 가져다줄 거라고 상상했을까?

생산성 증가율 둔화의 수수께끼

인터넷을 위와 같은 식으로 생각해 보면 우리 경제가 가진 수수께끼 하나를 푸는 데 도움이 된다. 인류의 생산성(=동일한 양의 노동력, 공장, 토지를 사용해 얼마나 더 많이 생산할 수 있는가) 향상과 관련한 부끄러운 사실은 생산성은 20세기에 오히려 지금보다 더 빠르게 증가했다는 거다. 현재 우리의 생산성 증가율은 1950, 60년대의 절반 수준에 그친다. 그 결과, 소득은 증가하지 않고, 경제는 느리게 돌아가고, 정치는 우리가 만들어낸 부와 놀라운 발전을 어떻게 분배하느냐 대신, 우리가 가진 것을 두고 싸우는 데 집중하고 있다.

인터넷이 생산성을 향상할 수 있었다면 두 가지 방법이 있었을 것이다. 우선 첫 번째 방법은 누구나 쉽게 생각할 수 있는 거다. 우리가 이미 하고 있던 일을 더 쉽고, 더 빠르게 하도록 하는 것이다. 그건 이루어졌다. 대략 1955년부터 2005년 사이에 생산성 증가율이 눈에 띄게 가파르다. 기업들이 업무를 디지털화하면서 가능했던 일이다. 하지만 더 중요한 건 두 번째 방법이다. 인터넷은 인류를 지구상의 거의 모든 정보와 연결함으로써 인류 전체를 더 똑똑하고, 더 능력 있는 존재로 만들 수 있었다.

나는 그게 반드시 불가능한 꿈이었다고 생각하지는 않는다. 이 글을 쓰고 있는 나만 해도 그렇다. 글을 쓰면서 필요한 정보를 찾아내고, 연구 결과를 뒤지고, 전문가에게 연락하는 작업은 놀라울 만큼 빠른 속도로 가능해졌다. 하지만 그렇다고 해도 내가 1970년의 환경에서보다 이 글을 더 빠르게 썼는지는 모르겠다. 이 글을 쓰면서 나는 나를 산만하게 하고, 분노하게 하고, 즐겁게 해주도록 고안된 디지털 환경 안에서 생각의 끈을 놓치지 않기 위해 부단하게 노력해야 했다. 나만 이러는 게 아니다.

캘리포니아 대학교 어바인의 정보학 교수이자 'Attention Span'의 저자이기도 한 글로리아 마크(Gloria Mark)는 사람들이 2004년에 컴퓨터를 사용하던 방식을 찾아 연구했다. 컴퓨터 사용자들이 한 화면을 보는 시간은 2.5분이었다. 그보다 훨씬 길었을 거라고 생각했던 마크 교수는 충격을 받았다고 한다. 하지만 그건 시작에 불과했다. 마크와 동료 연구자들이 발견한 바에 따르면 2012년에 사람들이 한 가지 일에 집중하는 시간이 75초로 떨어졌다. 지금은? 47초에 불과하다.

이건 인간의 인지에 치명적이다. 멀티태스킹(multitasking)은 대부분 신화에 불과하다. 우리는 한 번에 한 가지 일에만 집중할 수 있다. 마크 교수는 "우리의 머리속에 화이트보드를 갖고 있는 것과 비슷하다"고 말한다. "한 가지 업무를 하고 있다면, 내가 필요로 하는 모든 정보가 그 화이트보드 위에 있다. 그러다가 이메일을 확인하는 순간, 나는 화이트보드 위에 적힌 것들을 모두 지우고, 그 자리에 이메일을 처리하기 위한 정보를 적어 넣는다. 그런데 실제 화이트보드가 그렇듯, 지운다고 깨끗하게 지워지는 게 아니라서 이전 작업물이 희미하게 남아있다. 앞서 했던 작업 세 개 정도가 그렇게 남아있다고 보면 된다."

그런 대가로 단순히 업무능력만 희생되는 게 아니다. 마크 교수를 비롯한 연구자들이 실험 참여자들의 혈압과 심장 박동수, 그리고 혈액 내 물질을 측정했더니 업무가 자주 바뀌는 경우 사람들이 예민해지고 스트레스가 증가한다는 사실을 발견했다. 사실 실험을 해보지 않아도 다들 경험으로 알고 있지만, 실험으로 확인되었다니 우울할 뿐이다.

인공지능의 잘못된 방향

그렇다면 인공지능은 어떨까? 우리가 지금 사용하는 오픈AI의 GPT-4, 구글의 바드(Bard)처럼 대형 언어 모델(LLM)을 이용한 인공지능 말이다. 이런 시스템들이 하는 일의 대부분은 이미 학습한 정보를 요약하고, 그걸 닮은 콘텐츠를 만들어 내는 거다. 이렇게 말하면 인공지능을 무시하는 것처럼 들릴지 모르지만 그렇지 않다. 인간이 하는 일의 대부분도 그와 다르지 않다.

벌써 AI 덕분에 프로그래머와 고객응대 서비스 종사자의 생산성이 증가한다는 이야기가 들린다. 어떤 CEO는 직원의 직무 평가에 챗GPT를 활용하려는 계획을 갖고 있다. 하지만 나는 이런 식의 초기 과대광고에 회의적이다. 이는 AI로 인한 손실을 계산하지 않고 잠재적 이득을 측정하는 것이기 때문이다. 우리는 인터넷이 등장할 때 똑같은 실수를 했다.

나는 우리가 최소 3가지 면에서 잘못된 방향으로 나아가고 있다고 생각한다.

첫째는 우리가 집중하는 걸 도와주기보다는 우리의 정신을 분산시키고 즐겁게 해준다는 점이다. 현재 대형 언어 모델들은 정보의 환각(hallucination) 현상을 일으키는 경향을 보인다. AI에 복잡한 질문을 던져 보면 자신 있고, 유식해 보이는 답을 내놓는데, 그 안에 들어간 중요한 팩트나 인용은 거짓으로 만들어 낸 경우가 종종 있다. AI 업계에서는 크게 걱정하지 않는 것처럼 보여도 나는 이런 단점 때문에 중요한 산업에서 AI 도입을 주저하게 될 거라고 생각한다. 이건 자율주행차량의 도입이 늦어지는 이유와 비슷하다. 꽤 괜찮은 정도가 아니라 완벽하게 신뢰할 수 있기 전에는 사용을 꺼리게 되는 거다.

따라서 대형 언어 모델에 관한 질문은 '(정보의) 신뢰성이 중요하지 않은 분야가 어디인가?' 이다. 바로 그런 영역에서 AI의 도입이 가장 빠를 것이기 때문이다. 미디어에서 AI를 활용한 사례는 많은 것을 보여준다는 게 내 생각이다. 테크 웹사이트인 씨넷(CNET)은 이 모델의 AI를 조용히 도입해서 기사를 쓰고 있었다. AI가 쓴 기사를 인간이 편집하는 식으로 작업했다. 하지만 그런 작업 방식은 실패했다. AI가 만들어 낸 77개의 기사 중 41개에서 인간 편집자가 놓친 오류가 발견되었고, 공개적으로 망신을 당한 씨넷은 이런 기사 생산 방식을 포기했다. 최근 뉴스 사업을 접은 버즈피드(BuzzFeed)의 경우, AI를 사용해서 퀴즈와 여행 가이드를 만들어내는 데 속도를 높이고 있다. 버즈피드가 그렇게 만들어 낸 글도 품질이 떨어지는 것들이 많지만 그다지 중요하지는 않다.

버즈피드에서 읽는 퀴즈는 신뢰성이 중요한 게 아니라 그렇다.

'지루한 파멸 ②'에서 이어집니다.