진화는 테크놀로지의 발전을 설명하는 메타포가 되지 못한다. 단지 테크 기업이라고 해서 예외가 될 수는 없다.
인공지능은 인류를 멸망시키려는 의도가 전혀 없이도 인류 사회를 파괴할 수 있다. '불일치의 문제' 때문이다.
우리는 인류 문명에 대한 통제를 잃을 위험을 각오하면서 인공지능 개발을 서둘러야 하는가?
"우리는 언어 모델이 가진 한계를 알고 있다. 이를 사람들에게 알려서 기대 수준을 조정해야 한다. 이건 완성된 제품이 아니다."
AI가 만들어낸 글을 구분하기 힘든 이유는 AI의 수준이 뛰어나서가 아니라 인간의 창의력이라는 게 대단하지 않기 때문이다.
