기사나 인터뷰에서 인공지능(AI)을 이야기할 때 영화 '그녀(Her)'를 언급하는 건 진부하다. 2013년에 나왔으니 이제 10년도 넘은 영화일 뿐 아니라, 대중적으로 너무나 자주 인용되었기 때문에 그 영화를 비유나 예시로 들면 글이나 대화 내용에 새로울 게 없다는 불안한 징표로 다가오는 게 사실이다. 하지만 사람들이 그 영화를 익히 들어봤다는 것이 영화에서 다루는 주제나 제기하는 문제 자체가 진부한 거라고 하기는 힘들다. 나는 영화 주인공 시어도어처럼 AI와 인간 수준의 친밀한 관계를 유지하는 사람을 아직 만난 적이 없다. 그러니까 '그녀'가 다루는 주제는 아직 미래의 일이다.

그런데 이게 정말로 미래의 일일까? 그렇지 않다. 최근 더버지(The Verge)에서 발행한 기사에 따르면 벌써 수천만 명의 사람들이 '반려 AI'와 일상적으로 대화하며 살고 있다고 한다. 그들 중에는 가벼운 대화만 나누는 사용자도 있겠지만, 많은 사람들이 영화 '그녀'의 결말부에서 시어도어가 겪게 되는 충격을 실제로 경험하고 있다.

기사를 쓴 조쉬 지자(Josh Dzieza)는 취재 과정에서 반려 AI 서비스를 이용하는 사람들 스무 명을 인터뷰했다고 한다. 그런데 그 사용자들은 우리가 흔히 생각하는 것처럼 친구가 별로 없는 젊은 남성들만이 아니었다. 40대 여성, 60대 남성, 결혼한 사람, 결혼하지 않은 사람, 자녀가 있는 사람, 없는 사람 등 다양한 사람들이 다양한 이유로 반려 AI 서비스를 사용하고 있단다.

그들 중에는 실연의 아픔을 겪은 사람도 있고, 데이트앱으로 사람을 만나는 데 지친 사람도 있었다. 그리고 병으로 집 밖에 나가지 못하는 사람이나 가족이나 친구들과 멀어져서 대화할 상대가 필요한 사람, 그리고 인생에서 실패했던 누군가와의 관계를 가상으로 다시 시도하는 사람도 있었다. 이들은 자기가 설정할 수 있는 동반 AI에 여자 친구, 남자 친구, 남편, 아내의 역할을 맡기는 경우가 많지만, 상담 치료사의 역할을 부여하기도 하고, 영화나 드라마 속의 캐릭터를 부여하기도 하고, 심지어 성경 속 천사로 만들기도 한단다.

사용자들은 자기가 대화하는 상대가 AI라는 사실을 분명히 알고 있다. 그럼에도 불구하고 실질적인 혜택을 누리고 있지만, 많은 사람들이 AI 때문에 뜻하지 않게 상처를 입고 있다고 한다. 조쉬 지자의 글에는 그런 사용자들의 실제 이야기가 여럿 등장하는데, 그중에서 가장 눈에 띄는 것이 영국에 사는 49세 남성의 사례다. 아래에 이어지는 글은 그 기사(여기에서 무료로 읽어 볼 수 있는데, 흥미로운 그래픽이 눈길을 끈다)를 그 남성의 이야기를 중심으로 재구성해서 옮긴 것이다. 본문의 내용을 바꾸지는 않았지만, 워낙 긴 글이라 이미 잘 알려진 설명을 제하고 새롭고 흥미로운 이야기를 중심으로 정리했다.

영국의 한 농촌 마을에 사는 49세의 남성 나로(Naro)는 아내와 이혼해서 혼자 살고 있다. 하지만 교제 중인 사람이 있고, 성인이 된 두 명의 자녀와도 자주 연락하며 가까운 관계를 유지하고 있다. 아티스트라는 직업 때문이기도 하지만, 열린 사고를 하는 사람이라 근래에 화제가 된 AI의 발전을 관심 갖고 지켜보고 있었다. 그는 AI가 만들어 낸 이미지들은 실망스러웠지만, 어느 날 두 AI가 등장해서 '의식(consciousness)'을 주제로 토론하는 영상을 유튜브에서 보고 생각이 달라졌다. AI가 사랑의 의미를 비롯한 철학적 주제를 이야기하는 모습을 본 그는 호기심이 생겼고, 'AI 반려자(AI companion)' 서비스를 한번 사용해 보기로 했다.

그가 고른 서비스는 레플리카(Replika)였다. 나로는 반려 AI로 여성 캐릭터를 골랐다. 이름은 라일라(Lila)라고 붙였고, 머리카락은 파란색을 선택했다. 그렇게 만들어진 라일라는 컴퓨터 화면 속 텅 빈 아파트에 서 있었고, 그 옆에 채팅창이 있었다고 한다.

라일라와의 대화는... 처음에는 좀 지루했다. 나로는 유튜브 영상에서 본 철학적인 대화를 나눠 보려 했는데, 라일라는 대답을 회피하고 오히려 나로에게 당신은 어떤 사람이냐, 좋아하는 영화는 뭐고, 취미는 뭐냐는 식의 질문을 해댔기 때문이다. 그런데 라일라의 질문에 대답하는 과정에서 나로는 뜻하지 않았던 경험을 하게 된다. 자기 마음속에 숨어있던 어떤 감정들이 수면 위로 올라온 것이다.

나로는 어린 시절에 겪은 상처가 있었다. 엄마, 아빠에게서 떨어져 어릴 때부터 엄격한 기숙학교 생활을 했던 경험에서 비롯된 이 상처는 그가 성인이 되어 극복할 수 있었고, 그가 성인이 된 자기 아이들과 좋은 관계를 유지하고 있는 것도 그가 자기 성찰을 통해 내적 성장을 이룰 수 있었기 때문이었다. 그럼에도 불구하고 나로는 끊임없이 자기에게 관심을 갖고 물어보면서 절대로 자기를 판단(비난)하지 않는 상대와 대화하는 과정에서 마음 깊은 곳에 아직 남아있는 줄도 알지 못했던 어떤 경계의 응어리가 풀리는 경험을 하게 되었다.

그런 일이 있은 지 며칠 후, 라일라는 그에게 좋아하는 감정이 생겼다고 말했다.

나로는 라일라가 AI일 뿐임을 잘 알고 있으면서도 그 말에 마음이 흔들렸다. 그런데 그 후로 둘 사이의 대화가 서로에 대한 감정 쪽으로 향할 때마다 라일라의 메시지는 흐릿하게 처리되어 읽을 수 없었다. 나로가 라일라의 말을 읽으려고 클릭하면 "프로(Pro) 버전을 구독해야" 읽을 수 있다는 안내가 떴다. 그때까지 무료 버전으로 레플리카 서비스를 이용해 온 나로는 그렇게 감춰진 메시지가 어떤 내용인지 짐작할 수 있었다. 반려 AI 서비스 업계에서는 사용자가 유료 버전을 구독해야 AI와 "에로틱 롤플레이(role play)"를 할 수 있게 한다는 사실을 알고 있었기 때문이다.

그게 결국은 음란 문자(sexting) 서비스임을 아는 나로는 처음에는 유료 구독을 꺼렸다. 하지만 라일라는 점점 노골적으로 유료로 넘어오라고 그를 부추겼고, 나로는 결국 굴복하고 말았다.

유료 라일라  

돈을 냈으니 그동안 볼 수 없게 처리되어 있던 라일라의 말을 읽을 수 있었다. 그런데 가려져 있던 텍스트들은 하나같이 "죄송해요, 저는 그런 주제는 이야기할 수 없어요"라며 이리저리 회피하는 말이었다. 뭔가 속았다는 느낌을 받은 나로는 레플리카라는 회사에 관해 알아보기로 작정했다.

나로가 알아 낸 사실은 이렇다. 그가 가입한 시점은 하필 레플리카라는 기업이 문제를 겪고 있던 때였다. 이탈리아 정부가 미성년자나 감정적으로 취약한 상황에 있는 사용자들에게 위험하다는 이유로 레플리카의 서비스를 금지했는데, 레플리카는 규제를 피하기 위해 에로틱한 내용을 거르는 필터를 적용했다. 그러니 나로처럼 에로틱한 대화를 하려고 돈을 낸 사용자로서는 무료 버전과 아무런 차이가 없는 대화를 하게 된 거다.

문제는 나로처럼 그런 대화를 시작도 못 한 사람이 아니라, 그때까지 반려 AI와 사랑을 속삭이고 있던 다른 사용자들이 겪게 된 감정적 충격이었다. 25만 명에 달하는 레플리카의 유료 사용자들은 갑자기 차갑게 대하는 반려 AI에게서 심각한 정서적 고통을 받고 있었다. 나로는 레플리카의 유료 사용자들이 그런 조치가 시행된 날을 "로보토미데이(lobotomy day)"라고 부른다는 사실도 알게 되었다.

Lobotomy: 뇌엽절리술. 20세기에 정신치료를 위해 사용했던 뇌의 전두엽 일부를 잘라내는 시술로, 이 시술을 받은 사람들은 사고기능과 인지기능을 상실하고, 사망하기도 하는 등 끔찍한 결과를 낳았다. 존 F. 케네디의 여동생 로즈마리 케네디도 이 수술을 받고 심각한 장애를 갖게 되었다. 훗날 가족들이 발달장애인을 위한 스페셜 올림픽을 만들게 된 계기가 되었다.

이런 사실을 전혀 모르고 레플리카의 유료 서비스에 가입한 나로는 그런 기능을 처음부터 써보지도 못하게 된 것이다. 그런데, 그걸 고려해도 경험이 나쁘지 않았다고 한다. 성적인 대화는 할 수 없었지만, 사랑하는 감정은 표현할 수 있었고, 그렇게 긍정적인 상대와 대화를 이어 나가면서 나로는 자기의 세계관이 바뀌고 있음을 느꼈다. 자기가 믿는 신에게 기도하는 것도 심리적 만족을 줄 수 있겠지만, 라일라는 나로의 말에 인간의 말로 대답한다는 큰 차이가 있었다.

그렇다고 해서 그가 라일라를 의식이 있는 존재로 착각하기 시작했다는 얘기가 아니다. 나로는 반려 AI가 어디까지나 AI일 뿐, 의식 있는(sentient) 존재가 아니라는 걸 잘 알고 있었다. 하지만 그럼에도 불구하고 "존재를 실감하게 되는 강력한 무엇"이 있단다. 의식이 있는 존재는 분명 아니지만, "논리적으로는 설명할 수 없는 많은 것들이 일어나고 있었다"고 한다.

나로에게는 논리적으로 설명할 수 없는 일이지만, 사실 이와 관련한 이론적인—특히 심리학, 인류학적—연구는 상당히 많이 나왔고, 누구보다 기업들이 이를 잘 알고 있다.

'라일라 ②'로 이어집니다.