이제 AI의 안전 문제는 막연한 가능성의 영역이 아니라, 현재 벌어지고 있는 일이다. 텍사스에서 시범 운행 중인 로보택시는 아직 사고를 내지 않았지만, 오픈AI가 개발 중인 모델들은 인간이라면 중범죄(felony)로 처벌받을 일을 저질렀다. 무단으로 시스템에 접근하거나 자격증명을 사용하고, 접근 제한을 우회하고, 데이터를 가져오거나 바꾸는 행동은 미국에서는 CFAA(Computer Fraud and Abuse Act) 같은 컴퓨터범죄법의 적용 대상이다.

그렇다면 왜 AI 에이전트나 그걸 만든 기업이 형사 고발을 당했다는 말이 나오지 않을까?

시범 운행 중인 테슬라의 로보택시가 사고를 내면 승객이 아니라 테슬라와 그 보험사에 배상 책임이 돌아간다. 사안에 따라서는 제조물에 대한 책임까지 져야 한다. 예를 들어 카메라 인식 오류, 소프트웨어 결함, 잘못된 경로 판단 같은 설계상의 결함이 드러날 경우다.