반론 3: “발전된 AI를 안전하게 만드는 방법을 찾기 위해서는 발전된 AI를 사용해봐야 한다"

이 반론은 AI를 개발하고 있는 사람들로부터 종종 듣게 된다. 그들 중에는 AI의 안전을 진지하게 생각하는 사람들도 포함된다.

그들은 이를 교통수단에 비유한다. 주요 이동 수단이 말과 마차였던 시절에 과연 모두가 자동차를 타게 될 미래의 안전규칙을 설계할 수 있었을까? 불가능했다는 게 그들의 주장이다. 모두가 자동차를 타는 세상이 어떤 모습일지 예상하기 힘들기 때문이다. 이와 마찬가지로 발전된 AI를 안전하게 만들기 위해서는 발전된 AI에 더 접근해야 한다는 얘기다.