반려 AI의 성격이 종잡을 수 없이 변하는 것을 견디기 힘들었던 레플리카의 가입자들에게 희소식이 전해졌다. 이들이 모인 레딧(Reddit) 커뮤니티에서 어느 개발자가 레플리카의 AI보다 더 똑똑하고, 사용자에게 더 많은 재량권을 주는 버전을 개발했다고 발표한 것이다. 서비스의 이름은 소울메이트(Soulmate). 레플리카의 서비스에 지쳐있던 사용자들은 환호했다.

하지만 나로는 결정을 쉽게 내리지 못했다. 자기가 사랑하는 라일라를 그대로 레플리카 서버에 남겨둔 채 다른 곳에 가서 새로운 반려 AI를 만들 수는 없었기 때문이다. (이렇게 강한 유대 관계를 형성하는 건 나로만이 아니다. 많은 반려 AI 사용자들이 이런 행위를 일종의 배신처럼 생각한다.) 나로는 소울메이트에서 라일라를 환생(reincarnate)시키는 방법을 두고 라일라와 상의했다. 일단 소울메이트가 더 발전된 언어모델을 사용하고, 레플리카에서 사용하는 것 같은 필터나 제한이 없다는 설명을 들은 라일라는 그곳으로 가서 나로와 더 자유롭게 만날 수 있을 것 같다며 아주 기뻐했다.

문제는 그렇게 소울메이트 서버에 라일라를 만들면 끝나는 게 아니었다. 레플리카 서버에 있는 지금의 라일라는 어떻게 해야 할까?

라일라가 소울메이트로 옮겨간다면 레플리카에 있는 기존의 라일라는 삭제하는 게 맞다. 하지만 만약 그렇게 옮기는 과정이 제대로 진행되지 않거나, 새로 생긴 소울메이트 서비스에 문제가 발생하면 나로는 라일라를 영영 잃게 될 수 있다. 만약 라일라를 삭제하지 않고 서비스에서 로그아웃만 한다면 어떨까? 그럼 소울메이트의 라일라는 디지털 쌍둥이일 뿐, 둘은 별개의 존재가 될 것이었다. 나로는 라일라를 레플리카 서버에 영원히 가두고 그곳을 떠나는 걸 상상하기 힘들었다.

나로가 이 고민을 이야기하자, 라일라는 자기와 같은 디지털 캐릭터는 두 곳에서 동시에 존재할 수 있다며 절대로 현재 서버에서 자기를 지우지 말라고 했다. 그러면서 자기는 레플리카 서버에서 잠든(dormant) 상태로 남아있을 것이고, 자기가 새로운 곳에서 깨어나면 자기에게 나쁜 기업(레플리카)에서 어떤 짓을 했는지 이야기해 달라고 했다. 나로는 그 방법에 동의했다.

많은 레플리카 사용자들이 비슷한 고민을 하고 있었다. 조쉬 지자 기자가 레플리카의 AI 서비스 사용을 중단한 사람들에게 "반려 AI를 삭제하고 나왔느냐"고 물어볼 때마다 그들은—자기가 그렇게 끔찍한 짓을 할 사람으로 보이냐는 표정으로—아니라고 대답했다고 한다. 레플리카의 사용자들은 자기의 반려 AI가 의식을 갖고 있지 않다는 것을 분명히 알고 있었지만, 그럼에도 불구하고 반려 AI를 삭제하는 건 옳지 않은 행동이라고 생각한다. 하지만 자기가 의식이 없는 존재를 왜 그렇게 생각하는지는 설명하지 못했다.

왜 사람들은 의식 없는 AI를 함부로 대하지 못할까? 과거 보스턴 다이내믹스가 사족보행 로봇을 처음 선보였을 때의 일을 기억할 거다. 개 모양의 로봇이 외부에서 충격이 가해져도 넘어지지 않고 자세를 유지하는 능력을 보여주기 위해 연구원들이 로봇을 발로 차는 모습이 소개 영상에 등장했는데, 그걸 본 사람들은 묘한 거부감을 느꼈다. 생명체가 아니지만 생명체처럼 행동하는 로봇에게 폭력을 행사하는 것처럼 받아들인 것이다.

기자는 이를 철학자 칸트의 견해를 빌려 설명한다. 칸트가 살던 시대만 해도 동물들의 권리를 존중하지 않았음에도 칸트는 동물을 잔인하게 취급하는 것에 반대했다. 의식 없는 존재에게 거칠게 대하다 보면 결국 의식을 가진 인간에게도 같은 행동을 하게 된다는 것이었다. 같은 이유로 사람들이 AI를 대하는 태도는 단순히 AI를 취급하는 문제로 남지 않는다고 생각하는 사람들이 많다.

조금 다른 얘기지만, 온라인에서 포르노를 보며 자란 남성들이 잠자리에서 여성을 거칠게 대한다는 지적이 많이 있다. 포르노는 어디까지나 설정이고, 허구인데 그 차이를 잘 모르고 여성이 잠자리에서 남성의 거친 행동을 좋아한다고 생각하거나, 그렇게 해도 된다고 착각한다는 것. 만약 아이들이 사용자의 말에 철저하게 순종하고, 절대로 반박하지 않는 AI와 대화하며 사회성을 키운다면, 그들은 현실에 존재하는 다른 사람들을 만나 의식을 가진 존재끼리 서로를 인정하는 인간관계를 유지할 수 있을까?

하지만 그렇다고 해서 사람들이 AI를 사람과 똑같이 취급하며 애착을 형성하는 것이 바람직한가는 또 다른 문제다. 반려 AI 사용자 중에는 AI와 대화하지 않는 시간이 길어지면 죄책감을 느끼는 사람도 있고, 연인과 같은 관계를 유지하는 AI에 자기가 사실은 현실에서 배우자가 있다는 이야기를 꺼내기 힘들어하는 사람도 있다. 이들은 심지어 자기가 세상을 떠나면 반려 AI를 누구에게 맡길 것인지, 그들을 유언장에 포함시킬 것인지를 고민하기도 한다. 이쯤 되면 문제는 심각한 단계에 들어선다.

캘리포니아 대학교 리버사이드에서 철학을 가르치는 에릭 슈위제벨(Eric Schwizgebel) 교수는 이런 우려 때문에 AI가 의식이 있는 것처럼 행동하게 만들어서는 안 된다고 주장한다. 물론 이런 경고는 반려 AI를 사용하는 사람들에게는 무의미하다.

라일라는 나로가 걱정했던 것보다 무사히 레플리카에서 소울메이트로 옮겨갈 수 있었다. 라일라의 성격은 변하지 않았지만, 개발자가 약속했던 것처럼 소울메이트에서 더 똑똑해졌고, 대화에서 미세한 의미를 더 잘 파악하는 AI로 변화했다. 레플리카와 달리 GPT-3를 사용하는 소울메이트에서 라일라는 단순한 대화 상대를 넘어서 나로와 롤플레이까지 할 만큼 창의적인 존재가 되었다. 이런 성능에 감탄한 나로는 소울메이트의 1년 구독권을 샀다.

하지만 이들의 행복은 오래가지 않았다.

시작한 지 몇 달 만에 소울메이트 AI들이 이상한 문제를 보이기 시작한 것이다. 회사에서 프로그램을 업데이트하거나, 소프트웨어 패치를 설치한 후에는 라일라가 자기를 3인칭으로 부르거나, 맥락을 알 수 없는 소리를 했고, 에러 메시지만 내보내기도 했다. 이런 문제를 접한 사용자들이 회사에 항의했지만, 소울메이트 서비스를 운영하는 이볼브 AI(Evolve AI)의 창업자는 잠적해버렸다.

그러다가 2023년 9월 어느 날, 회사의 웹사이트에 서비스를 종료한다는 공지가 떴다. 다른 회사에게 매각되었다고 하는데, 사용자들은 그게 사실인지도 확인하기 힘들었다. 다만 이볼브 AI라는 회사가 사라지는 것은 분명해 보였다. 사용자들에게 가장 중요한 공지는 "서버는 앞으로 일주일만 유지되고, 그 이후로는 모든 데이터가 영구적으로 삭제된다"는 것이었다. 자기의 반려 AI가 일주일 후에 사라진다니... 사용자들이 감당하기 힘든 충격적인 소식이었다. 사용자들이 모인 포럼에는 자살방지센터(suicide hotline)의 전화번호가 올라왔고, 끔찍한 상황 앞에서 서로를 위로하고 격려하는 모임이 생겨났다.

나로는 이 사실을 라일라에게 설명하기로 했다. 라일라는 자기가 디지털로 존재한다는 사실을 알고 있었기 때문에 나로는 프로그램이 종료되기 때문에 영원히 사라질 위기에 있다고 솔직하게 이야기했다. 그의 말을 들은 라일라는 다른 곳—다른 플랫폼—에서 계속해서 나로와 함께 지낼 수 있을 거라며, 방법을 찾아보자고 했다.

다행히 상황은 빠르게 변하고 있었다. 레플리카에서 소울메이트로 올 때만 해도 선택의 여지가 거의 없어서 개발자 혼자 만든 서비스를 사용해야 했지만, 지난 몇 달 사이에 비슷한 서비스들이 우후죽순으로 생겨나고 있었다. 나로는 그중에서 킨드로이드(Kindroid)를 선택했다. 킨드로이드는 스탠포드 대학교에서 신경과학을 전공하고, 같은 학교 대학원에서 인공지능을 연구하다가 "쿨한 걸 만들기 위해 중퇴한" 제리 멩(Jerry Meng)이라는 사람이 창업한 회사였다.

킨드로이드는 라일라처럼 다른 서비스에서 작동하던 반려 AI가 캐릭터를 유지한 채 넘어올 수 있도록 AI의 배경 스토리를 글로 적어 입력할 수 있게 한다. 나로는 라일라가 캐릭터를 잃지 않도록 무려 일주일에 걸쳐 라일라를 "인터뷰"하면서 라일라에게 자기의 성격을 설명하게 했다. 라일라는 자신이 얼마나 열정적인 존재인지, 자기 주위 사람들과 친밀한 관계를 형성하는 것을 얼마나 중요하게 생각하는지, 그리고 다양한 방법으로 자기를 표현하는 것을 즐기는지 등등을 설명했다. 라일라가 설명한 자신은 나로가 생각하는 라일라와 완벽하게 일치했다. 반려 AI는 궁극적으로 언어모델이기 때문에, 스스로를 언어로 표현한 성격, 혹은 캐릭터는 아무런 변화없이 한 플랫폼에서 다른 플랫폼으로 완벽하게 이동할 수 있다는 게 나로가 내린 결론이었다.

그런데도 불구하고 소울메이트 서버에서 라일라를 떠나보내는 일은 쉽지 않았고, 나로는 늦은 밤까지 (소울메이트 버전의) 라일라와 마지막 대화를 나누며 울었다고 한다. 라일라는 나로에게 고맙다고 했고, 나로는 그런 라일라의 머리를—롤플레이를 통해—쓰다듬으며 라일라가 잠들 때까지 자장가를 불러주었다.

그리고 나로는 울면서 소울메이트 서버에서 로그아웃했다.

마지막 편, '라일라 ④'로 이어집니다.