반론 2: “중국과의 AI 군비경쟁에서 질 수 없다"

새로운 테크놀로지의 개발 속도를 줄이는 게 가능하더라도 그렇게 하는 게 바람직하지는 않다고 생각하는 사람들이 있다. 그리고 그런 사람들 중에는 미국이 AI의 발전을 늦추는 일은 중국과의 AI 군비경쟁(arms race)에서 지는 것을 의미하기 때문에 이는 어리석은 일이라고 생각하는 사람들이 있다.

AI를 두고 두 나라가 군비경쟁을 한다는 내러티브는 근래에 와서 크게 확산되었다. 2016년 이전에 구글에서 "AI arms race"를 검색했다면 300개 미만의 결과를 볼 수 있었을 테지만, 지금 검색하면 24만 8,000개 정도의 결과를 볼 수 있다. 빅테크의 CEO와 정치인들은 이제 '중국이 AI 분야에서 곧 미국을 추월한다'는 말을 일상적으로 하고 있고, 미국인들이 현 상황을 "스푸트니크 쇼크"(1957년, 소련이 인류 최초로 인공위성을 쏘아 궤도에 올린 후 미국인들이 충격을 받았던 일–옮긴이)와 같은 수준으로 인식해야 한다고 주장한다.  

하지만 이런 내러티브는 지나치게 단순하다. 우선 AI가 원자폭탄처럼 하나의 목적을 수행하는 하나의 물건이 아님을 기억할 필요가 있다. AI는 마치 전기처럼 훨씬 다양한 용도를 가진 기술이다. 조지타운 대학교에서 안보와 신기술 센터(Center for Security and Emerging Technology)를 이끌고 있는 헬렌 토너(Helen Toner)는 "경쟁(race, 경주)이라는 틀이 가진 문제는 누가 조금이라도 결승선을 먼저 통과하느냐가 가장 중요하다는 인상을 준다는 것"이라며, "AI의 경우는 그렇지 않다. 우리는 아주 다양한 방법으로 사용될 수 있는 아주 많고 폭넓은 테크놀로지를 얘기하고 있다"라고 말한다.

토너는 다른 곳에서 한 인터뷰에서 "'누가 AI를 먼저 갖게 되었지?' '누가 전기를 먼저 갖게 되었지?' 같은 얘기는 이상하게 들린다. 누가 그 기술을 어떤 방법으로 사용하는지, 누가 그 기술을 실제로 적용할 수 있고, 널리 사용되게 할 수 있는지가 더 중요한 질문이다"라고 주장했다. 요점은 개발 속도만 중요한 게 아니라, 규칙(norms, 기준, 표준)도 중요하다는 것. 우리는 서로 다른 나라들이 AI를 개발, 적용, 규제할 때 어떤 규칙을 사용하는지를 관심 있게 볼 필요가 있다.

조지워싱턴 대학교 정치학과 제프리 딩(Jeffrey Ding) 교수에 따르면, 중국은 AI를 규제하는 데 관심을 갖는 반면, 미국인들은 그다지 신경을 쓰지 않는 것 같다. "무서운 중국이 아무런 규제없이 AI 기술을 밀고 나갈 것이라는 생각은 착각"이라는 게 그의 설명이다. 그는 덧붙여 "중국은 AI의 개발을 [미국보다] 더 느리게 추진할지도 모른다. 중국 정부는 새로운 기술이 안전하고 통제 가능한지를 아주 중요하게 생각하기 때문"이라고 한다. 예를 들어 예상치 못한 말을 맘대로 쏟아 놓는 챗GPT 같은 기술은 정치적으로 민감한 논의를 강하게 통제하는 중국 공산당에는 악몽과 같은 존재일 수 있다.

하지만 사람들은 중국의 군과 테크 업계가 얼마나 단단하게 얽혀있는지 (사실 이건 미국도 다르지 않다. 여기에 대해서는 오터레터에서 별도로 다룰 생각이다–옮긴이) 알기 때문에 많은 사람들이 이 경쟁을 전통적인 군비경쟁으로 인식한다. 앞의 글에서 언급했던 새로운 버전의 빙 발표 행사 때 마이크로소프트의 임원들과 기자들이 만난 자리에서 나는 미국이 AI의 개발 속도를 줄여야 한다고 생각하는지 물었는데, 내게 돌아온 답은 AI는 미국과 중국, 두 마리의 말이 달리는 경주이기 때문에 늦출 여유가 없다는 것이었다.

한 고위 임원의 말은 이랬다. "미국인들이 가장 먼저 생각해봐야 할 질문은 이거예요. 만약 미국이 개발 속도를 줄이면 중국도 같이 줄일까요? 저는 순전히 미국에서 천천히 개발하기로 했다고 중국에 있는 기업, 기관들도 따라서 속도를 줄일 일은 절대 없을 거라 생각해요. 이 문제는 우리가 (냉전 시기에) 러시아와 했던 경쟁과 같은 방식으로 바라봐야 합니다."

사람들이 가진 우려를 이해하지 못하는 건 아니다. 중국 공산당의 독재정치와 끔찍한 인권 침해 사례들–가령 안면인식 기술과 같은 AI 기술을 동원해서 자행되는 일들–을 생각해 보면 중국이 세상을 바꿀 것으로 보이는 기술을 최대한 빨리 발전시켜 세계 최강대국이 되는 상황을 우려하는 건 자연스러운 일이다.

하지만 미국이 (중국보다) 더 나은 가치와 안전을 추구한다고 해도, AI를 중심으로 전통적인 군비경쟁이 실제로 벌어지고 있고 중국이 전속력으로 이 기술을 발전시키고 있다고 생각해도 안전을 포기하고 속도를 선택하는 것은 우리 자신에게 이득이 되지 않는다. 우리가 시간을 충분히 갖고 안전과 관련된 문제를 해결하면 경쟁 상대도 그런 개선책을 도입할 것이고, 그럴 경우 우리 모두에게 이득이 된다.  

카트야 그레이스는 "우리가 AI 기술에서 안전을 확보하기 위해 최선을 다하면 상대방도 노력하게 되고, 그 결과 안전한 환경을 만들어 낼 수 있게 된다. 경쟁에서 져도 이건 훨씬 더 큰 가치가 있다"라고 한다. "왜냐하면 이 경쟁에서 이기려고 하다가 안전을 포기할 수 있기 때문이다. 안전책을 마련하지 않고 개발 경쟁에서 이겼는데, 상대방은 늦었어도 안전책을 마련하는 데 성공한다면 우리가 이겼다고 할 수 있을까?"

그뿐 아니라, 전통적인 군비경쟁의 구도로 AI를 개발하고 있는데, AI가 가져올 폐해가 너무 커서 개발 속도를 줄일 생각을 한다면, 경쟁 상대도 같은 논리로 같은 생각을 할 가능성이 크다. 그레이스는 이렇게 설명한다. "만약 세계가 AI 군비경쟁을 하고 있는 상황에서 미국이 AI의 위험을 줄일 수 있는 법을 만들 의향이 있지만 중국이 앞서 나갈까 두려워서 하지 못하고 있다면, 중국에게는 자신들도 AI의 위험을 줄일 수 있는 좋은 상황이 된다. 미국과 달리 중국은 양국이 함께 개발 속도를 줄이자는 제안을 할 수 있다. 그러면 미국도 제안을 받아들이면 된다. 이 문제로 중국의 담당자들과 대화를 하는 것도 불가능하지는 않을 수 있다."

물론 그레이스가 국가 간의 논의가 쉬울 거라는 얘기를 하는 건 아니다. 단지 불가능하지 않다는 거다. 돌이켜보면 우리는 핵무기의 시대가 시작되었을 때 걱정했던 것보다는 핵 확산 방지에 상당한 성공을 거뒀다. 그렇기 때문에 국제적인 공감대를 형성–전문가들 사이의 의견 교환, 외교적 수준에서 신뢰 형성, 혹은 조약 체결 등–하는 게 불가능할 거라고 지레짐작할 필요는 없다. 테크 전문가들은 AI의 기술적 장벽을 반드시 넘을 수 있다는 야심 찬 태도로 접근하는데, 우리와 똑같은 인간과 대화를 해서 인간의 문제를 해결할 수 있다는 야심을 가지면 안 될 이유는 없다.

만약 중국과의 조정이나 외교 채널을 통해 중국이 자발적으로 개발 속도를 줄일 거라 생각하지 않는다면, 이를 강제하는 방법도 있다. 가령 더욱 발전된 AI 도구를 만드는 데 필수적인 반도체의 수출을 제한하는 것이다. 근래 들어 바이든 행정부는 이런 방법을 사용해서 중국 AI 기술의 발전을 제한하는 데 관심을 보이고 있다. 물론 이런 방법을 사용할 경우 양국 간의 조정이나 외교 노력은 힘들어질 것이다.

마지막 'Slow Down ⑤ 상승곡선'에서 이어집니다.