눈치가 빠른 언론에서는 지난달 열린 애플의 연례행사인 WWDC에서 애플의 AI 개발 총책임자가 등장하지 않은 것에 주목했다. 올해 WWDC에서 가장 화제가 된 건 애플이 발표한 새로운 서비스나 기능 변화가 아니라, AI 혁신이 보이지 않는다는 사실이었다. 작년에 애플이 약속한 '애플 인텔리전스' 기능이 나오지 않은 건 눈에 띄는 헛발질이었고, 모른 척하고 있을 수 없는 일이었다. 결국 경영진이 월스트리트저널과 따로 인터뷰를 해서 이유를 구구절절 해명하고 방어해야 했다.

2024년에 애플이 약속하고 사람들이 기다렸던 건 시리(Siri)가 사용자의 명령을 받아 아이폰과 같은 애플 기기의 기능을 통제하고, 더 나아가 사용자를 대신해 비행기표를 예매할 수 있는 진정한 'AI 에이전트'로 진화하는 것이었다. 애플은 올해 그걸 실현하지 못했음을 인정했다. 그렇다고 (2019년 에어파워 개발 포기 선언처럼) 시리의 에이전트화를 포기한다고 말한 건 아니다. 아직 그걸 출시할 만큼 애플이 원하는 수준에 도달하지 못했기 때문이라고 했다. 그럼, 언젠가는 그게 가능할 거라는 얘기 아닐까?

애플이 못하면 오픈AI나 앤트로픽 같은 다른 기업이라도 만들어 낼 수 있지 않을까?

AI는 아주 오래전부터 컴퓨터를 연구하는 사람들의 궁극적인 목표였기 때문에 특별히 새로울 게 없는 개념이다. 그랬던 AI가 우리의 일상에 깊이 들어오게 된 건 챗GPT의 등장, 즉 대형 언어 모델 기반의 생성형 AI가 등장하면서부터다. 우리는 생성형 AI의 성능에 감탄한 나머지, 우리가 꿈에 그리던 AI 세상이 코앞에 다가왔다고 믿게 되었다. 입사지원서를 대신 작성해 주고, 그림을 그려주고, 시도 쓰는 걸 보면서, 즉 우리가 힘들어하고 하기 싫어하는 작업들을 기가 막히게 해내는 걸 보면서 그렇다면 비행기표를 찾아 예매하는 것 같은 다른 작업도 해줄 수 있다고 생각하게 된 거다. 그리고 그런 미래가 바로 코 앞에 왔다고 믿는다.

에드 지트론은 동의하지 않는다. 정답에 아주 가까운 대답과 정답과의 차이는 아주 크기 때문이다. AI가 만들어내는 시와 그림은 아주 비슷하기만 하면 박수를 받는다. 하지만 큰 액수의 돈이 걸린 문제에서 오차는 아무리 작아도 용납되지 않는다. "결과물이 '꽤 괜찮다'는 걸로는 어림도 없습니다. 소프트웨어가 경제적 성공을 가져오는 것은 소비자와 기업들이 모두 사용할 때입니다. 그런데 대기업, 금융회사, 의료산업에서는 실수에 대한 허용치가 아주 낮습니다." 그러면서 그는 2012년 나이트 캐피털(Knight Capital) 사고를 언급한다.

나이트 캐피털은 월스트리트에서 큰 비중을 차지하고 있던 고속 자동화 거래(high frequency trading) 회사였다. 2012년 뉴욕증시(NYSE)가 새로운 시스템(RLP)을 도입하자 나이트 캐피털은 이에 대응하기 위해 자사의 거래 시스템에 새로운 알고리듬 코드를 추가했다. 그런데 그 과정에서 코드 배포를 담당한 엔지니어가 실수로 서버 8대 중 7대에만 배포하고, 한 대의 업데이트를 빠뜨렸다.

그것만으로는 큰 사고가 나지 않았겠지만, 문제는 나이트 캐피털의 일부 서버에 비정상적인 거래(비싸게 사고 싸게 파는 방식)를 반복하는 테스트용 코드가 남아있었다는 사실. 그런데 업데이트에서 누락된 서버가 이 테스트용 코드를 실행하면서 45분 동안 4억 주 이상의 비정상적인 주문을 한 것이다. 그로 인해 나이트 캐피털은 연간 수익의 몇 배에 달하는 4억 4,000만 달러의 손실을 냈고, 결국 다른 회사에 합병, 인수되었다.

우리는 챗GPT가 종종 헛소리(hallucination)를 한다는 걸 잘 안다. 하지만 우리는 AI의 답을 읽으면서 틀린 말을 걸러낸다. 하지만 에이전트는 다르다. 인간이 개입하지 않고 실행하게 하는 게 AI 에이전트의 목표다. 내 신용카드 정보를 모두 건네주고 알아서 구매하라고 맡겼을 때, 말도 안 되는 주문이라도 하면, 인간인 내가 심각한 금전적 피해를 입을 수 있다. 그런데 그게 개인이 아니라 금융회사라면? 나이트 캐피털 같은 일이 벌어지는 것이고, 의료산업에서 실수가 일어나면 사람의 목숨이 왔다 갔다하는 문제가 된다.

문제의 핵심은 이거다. AI는 학습을 통해 답을 낼 수 있게 되었지만, 우리는 생성형 AI가 어떻게 작동하고, 어떻게 결정하는지 완벽하게 알지 못한다. 애플은 그런 AI에 사용자의 정보가 모두 담긴 아이폰의 조작을 맡길 수 없었던 거다. AI 에이전트를 아직 만들지 못했다고 인정하면 주가가 잠시 떨어지겠지만, 완벽하지 않은 AI 에이전트가 사용자 정보를 함부로 사용하다가 대형 사고를 낼 경우 물어내야 할 배상액은 말할 것도 없고, 애플의 가장 큰 자산인 '신뢰'가 무너지게 된다. 애플은 오래 고민하지 않고 전자를 선택한 것이다. 당연한 결정이었다.

지트론은 최근 AI 열풍과 관련해서 실리콘밸리에는 진정한 경쟁이 없었다고 주장한다. 앤트로픽과 오픈AI는 경쟁하는 사이지만, 아마존과 마이크로소프트 같은 빅테크의 지원으로 매년 수십억 달러의 현금을 태우면서 돈이 더 필요하다고 손을 내밀고 있다. 만약 그렇게 큰손 기업들의 묻지마 투자가 없었다면 딥시크(DeepSeek) 같은 게 중국이 아니라 실리콘밸리에서 나왔을 거라는 게 지트론의 생각이다.

미국의 AI 기업들은 그런 노력을 할 필요가 없었다. 더 많은 GPU를 사서 퍼붓기만 했을 뿐이다. 딥시크가 드러낸 건 미국이 혁신을 원하지 않고, 진정한 경쟁도 하지 않는다는 현실이었다. 하지만 딥시크의 등장으로 "막대한 자금이 없으면 불가능하다"는 말을 반복해 온 샘 올트먼과 다리오 아모데이(Dario Amodei, 앤트로픽 CEO)의 말이 근거를 잃게 되었다.

실리콘밸리 마인드

그럼에도 불구하고 AI를 하겠다는 기업들이 묻지마 투자를 받을 수 있는 이유는 "똑똑한 사람들에게 엄청난 돈을 주고 기다리면 큰돈이 나온다는 게 실리콘밸리의 작동 방식이기 때문"이라는 게 지트론의 말이다. 이런 방식은 작동했다. 우리는 실리콘밸리에서 스마트폰 열풍과 클라우드 컴퓨팅 열풍이 불었던 것을 기억한다. 많은 기업이 그 가능성을 외쳤고, 월스트리트는 큰 투자로 응답했다.

실리콘밸리가 경험한 가장 큰 실패로 꼽는 '닷컴 버블' 붕괴도 거품이 꺼진 후에는 아마존 같은 단단한 기업을 탄생시켰다. 닷컴 버블의 핵심인 전자상거래 자체가 틀린 게 아니라, 거품이 문제였을 뿐이다. 아마존이 거액의 투자를 받으면서 수익을 내지 못하고 7년을 보냈다고 하지만, 아마존은 그 돈으로 물류창고부터 트럭, 화물기까지 거대한 유통 인프라를 구축하고 있었다. 더 중요한 것은 아마존은 어느 시점부터 수익을 낼 수 있는지 분명한 계획을 갖고 있었다는 사실이다.

막대한 돈을 들여서 유통망을 만들고 경쟁자를 없애는 전략을 비판할 수는 있지만, 적어도 아마존은 시장의 1위가 된 후에는 돈을 쓸어 담을 수 있다는 확신이 있었다. 비슷한 방식으로 우버는 택시 시장을 빼앗았지만, 소비자 입장에서는 우버 앱을 사용할 분명한 이유가 있었다. 실제로 존재하는 승객의 고충(pain point)을 해결해 줬기 때문이다. 사람들은 그것 때문에 우버에 돈을 준다.

지금 실리콘밸리의 AI 기업들은 다르다. 일단 묻지마 투자로 돈을 퍼붓고 새로운 아이디어가 나오는지 보겠다는 태도다. 지트론은 이런 태도가 무조건 규모를 키우면 된다는 사고방식에서 나왔다고 비판한다. 챗GPT에서 수익이 나지 않으면 더 많은 컴퓨팅 파워를 쏟아부으면 된다고 생각하고 더 많은 투자를 받으려 한다는 것이다.

이 모든 투자는 오픈AI가 큰 수익을 내는 비즈니스 모델을 찾아낼 거라는 막연한 기대에 의존하고 있다. 하지만 오픈AI도, 앤트로픽도, 구글도 아직 구독료 외에는 특별한 비즈니스 모델이 없고, 그 구독료는 투자금을 사용해 인위적으로 낮춘 것이다. 우리는 매일 AI를 사용하고 있지만, 우리가 사용하는 기능을 위해 한 달에 200달러, 아니 그 이상을 지불할 만큼 AI가 우리 생활에 필수적이지는 않다.

실제로 작동하는 웨이모(Waymo) 같은 자율주행 기술은 분명히 존재한다. 하지만 웨이모는 생성형 AI가 아니다. (지트론은 생성형 AI를 진정한 '인공지능'으로 보지 않는다.) 샘 올트먼 같은 사람의 능력은 AI를 잘 모르는 사람들에게 이 모든 걸 뒤섞어서 생성형 AI가 마치 대단한 작업을 해낼 거라고 믿게 하고 투자를 받아내는 데 있다. 미국 의회에 나가서 "AI가 인간의 직업을 빼앗아 갈 것"이라고 경고하면서 "의회가 대책을 마련해야 한다"고 말할 때마다 사람들은 챗GPT가 정말로 엄청난 가치를 창출할 AI라고 생각하게 되고, 오픈AI는 더 많은 투자를 유치할 수 있다.

지트론은 AI가 가져오는 문제는 올트먼의 경고처럼 세상을 바꾸는 게 아니라, 엄청난 전력을 흡수하고 데이터센터를 유지하면서 환경을 파괴하는 것이라고 비판한다. 챗GPT의 최신 모델인 O3는 복잡한 작업에 한해 10분 사용에 1,000달러가 든다는 말도 나온다. 이는 단순한 시간 기준이 아니라 쿼리 복잡도와 처리 자원에 따른 추정치지만, 그만큼 전력 소비가 심각하다는 뜻이다. (비용은 시간 당 정해지는 게 아니기 때문에 시간 단위 비용으로 단정짓기는 힘들다. 하지만 복잡한 작업의 경우 한 번에 1,785kWh를 사용할 수도 있다. 평균 미국 가정이 두 달 동안 사용하는 전력량이다.)

더 큰 문제는 모든 기업은 무조건, 끊임없이 성장해야 한다는 실리콘밸리의 마인드다. 가령, 페이스북은 광고 수익을 꾸준히 창출하는, 사업을 잘하는 기업이다. 그 회사가 왜 더 커져야 할까? 지구의 크기가 커지고, 인구가 무한하게 증가하는 게 아닌 이상 지구 위에 있는 어떤 것도 무한하게 성장할 수는 없다. (지트론의 표현을 빌리면, "세상에 성장을 멈추지 않는 것은 암밖에 없다.") 하지만 실리콘밸리에서는, 아니 미국식 자본주의에서는 모든 기업이 성장을 멈추면 안 된다고 믿는다.

저커버그는 소셜미디어로 더 뽑아낼 돈이 보이지 않자, 메타버스라는 환상적인, 그러나 환상에 불과한 아이디어를 가져와서 팔았지만, 큰 손해를 보고 사실상 포기한 상태다. "구글도 돈을 찍어내다시피 버는 회사입니다. 그냥 잘 운영하기만 해도 엄청난 돈을 쓸어 담아요. 하지만, 투자자들은 더 커져야 한다고 생각합니다."

하지만 그렇게 기대하는 것과, 기술이 실제로 그 기대에 부응하는 건 전혀 다른 얘기다.

만약 실리콘밸리의 기업들이 AI가 미래에 유망할 수 있지만, 그렇다고 해서 수조 달러(수천 조 원)를 벌어들일 비즈니스는 아니라고 생각했다면 상황은 달랐을 수 있다. 우선 GPU를 사는 데 그렇게 돈을 쏟아붓지 않았을 것이다. 그리고 딥시크가 했던 것처럼 좀 더 효율적인 방법을 탐구했을 것이다. 하지만 그렇게 한다고 해도 비즈니스 모델은 다른 얘기다. 돈을 벌 방법을 찾지 못하고, 비용을 감당할 수 없으면 거품은 꺼질 수밖에 없다.

지트론은 AI의 거품이 꺼지는 것 자체는 걱정하지 않는다. 하지만 많은 사람들의 투자, 특히 연금 투자가 AI의 열풍에 올라타고 있다는 것을 생각하면, 그 파급효과는 심각할 수 있다. 그럼, 샘 올트먼 같은 사람들은?

"그 사람은 아무 문제 없을 거예요. 수십억 달러를 챙겼고, 하이퍼카도 있잖아요." 🦦