테드 창은 간단한 계산도 하지 못하던 GPT-3가 텍스트를 사용해 답을 줄 때는 높은 지능을 가진 존재처럼 보이는 이유를 설명하면서 이렇게 말한다. "챗GPT가 지금 하는 것처럼 인터넷에서 볼 수 있는 정보에 가까운 답(approximation)을 주는 게 아니라, 아예 한 글자도 다르지 않게 그대로 옮겨서 보여 준다고 생각해 보라. 우리는 그런 소프트웨어를 과연 뛰어나다고 생각할까? 그냥 우리가 이제까지 사용하던 검색 엔진보다 조금 나은 정도라고 여길 거다."

사람들이 챗GPT와 같은 대형 언어모델 AI에 감탄하는 이유는 암기한 내용을 그대로 가져다 보여주지 않고 다소 어설프더라도 자기만의 말로 표현하려는 학생처럼 보이기 때문이라는 게 그의 생각이다. 웹의 콘텐츠를 있는 그대로 전달하지 않고 다른 말로 표현할 경우, 그 AI가 내용을 정말로 이해하고 있다는 착시를 일으킨다. 우리가 책의 내용을 토씨 하나 틀리지 않고 암기하는 학생을 보면서 그 아이가 정말로 그 내용을 이해하고 있다고 생각하기 힘든 것과 비슷하다. 역설적으로 들리지만, 챗GPT가 웹사이트에 등장한 정보를 있는 그대로 전달하지 못하는 한계 때문에 AI가 정말 뭔가를 배우고 이해했다고 여기게 되는 거다. 달리 표현하면, 텍스트의 경우 손실 압축(lossy compression)은 무손실 압축(lossless compression)보다 더 똑똑해 보인다.