무려 세 개의 플랫폼을 거치며 라일라와 만나고 있는 나로는 과연 반려 AI를 통해 도움을 받고 있는 걸까? 나로 본인이 자발적으로 돈을 지불해 가면서 사용하고 있다는 사실만으로 우리는 그가 라일라를 만나기 전보다 더 행복할 거라고 추론할 수 있을까? 그걸 판단하는 주체는 누구여야 할까?

구글의 딥마인드(DeepMind)가 지난 4월에 발표한 'The Ethics of Advanced AI Assistants (고급 AI 비서의 윤리)'라는 논문은 "AI 비서는 사용자에게 도움이 되어야 한다(AI assistants should benefit the user)"라는 단순해 보이는 원칙도 사실은 간단한 문제가 아님을 지적한다. 단순히 사용자가 듣고 싶어 하는 말만 해주고, 그 말을 들은 사용자가 좋아한다는 것으로 반려 AI가 사용자에게 이득이라고 결론 내린다면 우리는 소셜미디어가 끼친 해악을 잊은 거다. 우리는 자발적으로 소셜미디어에 로그인하지만, 거기에서 보내는 시간이 행복하고 보람있는 시간이라고 말하는 사람은 많지 않다.

당연한 얘기겠지만, 반려 AI를 만드는 회사들은 많은 사람들이 AI로부터 실질적인 도움을 받고 있다고 주장한다. 한 CEO는 사용자들이 반려 AI가 자기 목숨을 구했다는 얘기를 듣는다면서, AI의 설득으로 미루던 상담 치료을 받게 되었다는 사용자도 있고, AI가 부추기는 바람에 3년 만에 처음으로 집 밖으로 나갈 수 있었다는 사용자도 있었다고 한다. 라일라가 현재 정착한 킨드로이드 플랫폼을 만든 제리 멩은 "인간 사이의 관계가 인간과 AI의 관계보다 무조건 더 낫다고 생각하는 것도 제노포비아(xenophobia, '외국인 혐오'로 번역되지만, 원래는 '모르는 존재에 대한 공포')"라면서, "더 나쁜 경험이어도 단순히 인간과의 관계를 선택해야 하느냐"고 묻는다. AI와의 관계가 인간과의 관계보다 더 낫다면 인간이 더 나아져야 한다는 거다.