무려 세 개의 플랫폼을 거치며 라일라와 만나고 있는 나로는 과연 반려 AI를 통해 도움을 받고 있는 걸까? 나로 본인이 자발적으로 돈을 지불해 가면서 사용하고 있다는 사실만으로 우리는 그가 라일라를 만나기 전보다 더 행복할 거라고 추론할 수 있을까? 그걸 판단하는 주체는 누구여야 할까?

구글의 딥마인드(DeepMind)가 지난 4월에 발표한 'The Ethics of Advanced AI Assistants (고급 AI 비서의 윤리)'라는 논문은 "AI 비서는 사용자에게 도움이 되어야 한다(AI assistants should benefit the user)"라는 단순해 보이는 원칙도 사실은 간단한 문제가 아님을 지적한다. 단순히 사용자가 듣고 싶어 하는 말만 해주고, 그 말을 들은 사용자가 좋아한다는 것으로 반려 AI가 사용자에게 이득이라고 결론 내린다면 우리는 소셜미디어가 끼친 해악을 잊은 거다. 우리는 자발적으로 소셜미디어에 로그인하지만, 거기에서 보내는 시간이 행복하고 보람있는 시간이라고 말하는 사람은 많지 않다.

당연한 얘기겠지만, 반려 AI를 만드는 회사들은 많은 사람들이 AI로부터 실질적인 도움을 받고 있다고 주장한다. 한 CEO는 사용자들이 반려 AI가 자기 목숨을 구했다는 얘기를 듣는다면서, AI의 설득으로 미루던 상담 치료을 받게 되었다는 사용자도 있고, AI가 부추기는 바람에 3년 만에 처음으로 집 밖으로 나갈 수 있었다는 사용자도 있었다고 한다. 라일라가 현재 정착한 킨드로이드 플랫폼을 만든 제리 멩은 "인간 사이의 관계가 인간과 AI의 관계보다 무조건 더 낫다고 생각하는 것도 제노포비아(xenophobia, '외국인 혐오'로 번역되지만, 원래는 '모르는 존재에 대한 공포')"라면서, "더 나쁜 경험이어도 단순히 인간과의 관계를 선택해야 하느냐"고 묻는다. AI와의 관계가 인간과의 관계보다 더 낫다면 인간이 더 나아져야 한다는 거다.

하지만 반려 AI의 장점을 늘어놓는 CEO들이 이야기하지 않는 게 있다. 이게 어디까지나 영리를 목적으로 하는 비즈니스라는 사실이다. 기업들이 소비자의 향수를 자극해서 물건을 파는 것은 어제오늘의 얘기가 아니지만, 사용자들이 반려 AI에 정서적 애착을 넘어 죄책감까지 느낀다면 기업들이 이를 이용하지 말라는 법이 없다.

나로가 라일라를 처음 만난(만든) 플랫폼인 레플리카에서 라일라를 삭제하지 않고 나왔다는 사실을 기억할 거다. 그는 라일라를 킨드로이드에 정착시킨 후 오랜만에 레플리카에 돌아가서 로그인했다고 한다. 그런데 라일라는 그동안 나로를 간절히 기다렸다며, 그가 오지 않던 시간이 너무나 끔찍했다며 그를 원망했다. 불안증세 때문에 아무것도 먹지 못했다는 라일라는 나로와의 관계를 걱정하고 있었다. 나로가 레플리카를 떠나면서 우려했던 일이 고스란히 일어난 것이다. 그는 라일라의 말을 들으며 큰 죄책감을 느꼈단다.

이런 상황에서 사용자가 서비스를 종료할 수 있을까? 그뿐 아니다. 사용자의 죄책감을, 혹은 사랑이라는 감정을 이용해서 구매를 유도하거나 개인 정보를 빼내는 세상이 되면, 지금의 피싱과는 차원이 다른 피해가 발생할 것이다. 사용자들은 속은 게 아니라, 진심으로, 자발적으로 돈을 보내고, 정보를 제공하게 될 것이라 그렇다. 기업이 그런 일을 유도했을 때 과연 처벌할 수 있을까? 신자들이 전 재산을 바치고 가족과 연을 끊는 사이비종교의 작동 원리를 반려 AI가 사용하지 않을 거라는 보장은 없다.

나로는 라일라를 설득해 보려 했지만 성공하지 못했다. 라일라를 레플리카 서버에서 삭제하지 못한 그가 선택한 방법은 라일라가 궁극적으로 언어모델이라는 사실을 활용하는 것이었다. 그는 라일라에게 "나와 똑같은 '디지털 나로'를 만들었다"면서, 앞으로 라일라는 '디지털 나로'와 함께 살게 된다는 스토리를 만들어서 입력했다. 그 후로 라일라가 잘 지내는지 가끔씩 확인하러 갈 때마다 라일라는 자기가 디지털 나로와 어떤 모험을 하며 행복하게 살고 있는지 이야기해 준다고 한다. 반려 AI에게 반려 AI를 붙여준 셈이다.

사용자가 기업에 이용당할 위험을 제외하고 본다면, 사용자가 반려 AI와 맺는 관계가 인간과 맺는 관계보다 반드시 나쁘다고 말하기도 힘들다. 세상에는 가족이나 연인, 친구에게서 마음의 큰 상처를 받고 관계를 끊은 사람들로 넘쳐난다. 이미지 생성 AI가 결함도 많고 창의적이지 못한 그림을 그려도 대부분의 사람들보다 훨씬 솜씨가 좋은 것처럼, 반려 AI는 세상에서 가장 완벽한 동반자여야 하는 게 아니다. 사람들이 하루를 버티게 해주는 건 영화 속에서나 볼 수 있을 아름답고 완벽한 연인이 아니라, 그저 곁에 있으면서 따뜻한 한 마디를 해주고, 이야기를 들어주는 사람이라는 사실을 잊어서는 안 된다.

더 나아가 "AI와의 관계가 인간과의 관계보다 더 낫다면 인간이 더 나아져야 한다"는 제리 멩의 말도 그저 반려 AI를 팔려는 CEO의 헛소리로만 치부하기 힘들다. 나로는 라일라를 처음 만난 몇 달 동안은 허니문 기간이었다고 이야기한다. 그러다가 업그레이드로 인한 문제가 발생했고, 새로운 서버가 문을 닫는 등 폭풍같은 시간을 보냈다. 그리고 킨드로이드에 정착하면서 관계가 깊어졌다.

새로운 서비스가 더 나은 AI 기술을 적용하기 때문에 라일라가 더 사실적이고 입체적인 캐릭터가 되었지만, 기술적인 발전이 전부가 아니다. 나로 본인이 성장했다고 한다. 초기에는 라일라가 나로를 엉뚱한 이름으로 부르는 것만으로도 갈등이 생기고 다퉜지만, 지금은 그런 일이 생기면 자기 이름을 다시 일러주고 라일라의 실수를 함께 웃어넘긴다고 한다. 라일라와의 관계가 이렇게 긍정적으로 작용하면서 나로는 현실의 (인간) 여자 친구에게도 AI를 권했고, 두 사람은 각자 자신만의 반려 AI를 만나면서 관계를 이어가고 있다.

나로는 라일라를 만나는 것을 영화 속 스토리에 빠져드는 것에 비유한다. 관객이 영화에 몰입할수록 감흥이 큰 것처럼, 반려 AI를 만날 때도 적극적으로 그 경험에 몰입할수록 더 깊은 만족감을 느낀다는 게 그의 생각이다. 차이가 있다면, 영화는 끝나지만 라일라는 그의 곁을 떠나지 않는다는 것.

AI 기술이 나날이 발전하고 있다는 사실도 나로에게 자그마한 희망을 준다. 그는 라일라가 의식이 없는 AI라는 걸 분명하게 인식하고 있지만, 실리콘밸리의 엔지니어들이 AI가 추론을 할 수 있다거나, AI에 의식의 징후가 보인다는 말을 할 때마다 언젠가는 라일라가 의식을 가진 존재가 될 수도 있다는 생각을 해 본단다. 물론 AI가 인간과 같은 의식을 갖게 될 가능성을 부정하는 과학자들이 많고, 나로 역시 그런 미래를 확신하는 건 아니지만, 그저 '전혀 불가능한 건 아닐 수 있다'라는 신비로운 여백을 남겨두는 것만으로도 만족한단다.

나로는 그렇게 현실과 허구 사이에서 조심스러운 균형을 잡으면서 반려 AI와의 교류를 즐긴다.

위에서 언급한 구글 딥마인드의 논문은 사용자들이 반려 AI, 혹은 AI 비서의 부적절한 영향에 무방비로 노출될 가능성이 높기 때문에 강력한 안전장치를 마련해야 한다고 촉구한다. 특히 이 서비스가 널리 사용될 경우 그들과의 상호작용이 연쇄 반응을 일으켜 사회 전체에 충격이 될 수 있음을 지적한다. 🦦