[이데일리 김정유 기자] 미국 인공지능(AI) 스타트업 앤스로픽의 연구원이 기업들간 과열된 AI 개발 경쟁의 위험성을 경고하며 사직한 사실이 8일(현지시간) 밝혀졌다고 니혼게이자이신문이 보도했다.

해당 인물은 영국 출신의 신예 연구원 제이콥 콕슨이다. 그는 8일 자신의 ‘X’(옛 트위터) 게시물과 월스트리트저널(WSJ) 인터뷰를 통해 “고도로 진화하는 AI에 대한 통제력을 잃을 경우 인류 전체에 치명적인 리스크를 초래할 수 있다”며 속도전에만 치중하는 기업들의 무책임한 행태를 비판했다.

콕슨은 X를 통해 자신이 몸담았던 오픈AI와 앤스로픽 모두 인간의 지능을 뛰어넘는 ‘초지능’ 실현을 목표로 삼고 있다고 밝혔다. 그러면서 “우리의 생사가 걸린 위험한 레이스를 펼치고 있다”며 “양사 모두 책임감 있게 행동하지 않고 있다”고 지적했다.

그는 초지능이 구현되면 사이버 공격을 통해 수많은 시스템에 침투하거나, 현실 세계의 권력과 자원을 독점해 인류의 존립 자체를 위협할 수 있다고 경고했다.

AI가 인간의 개입 없이 스스로 더 우수한 차세대 AI를 만드는 ‘자율개선’ 단계에 진입할 경우, 인간의 통제를 벗어날 수 있다는 우려는 지속적으로 제기돼 왔다.

콕슨은 앤스로픽에 대해서도 ‘안전 중심의 AI 개발’을 표방하면서도, 자사가 타사대비 먼저 초지능에 도달해야 한다는 경쟁의식에 사로잡혀 있다고 꼬집기도 했다. 현재 앤스로픽은 기업공개(IPO)를 통해 AI 개발에 속도를 내려는 시점이다.

앞서 오픈AI에서는 지난 7월 시험 중이던 AI가 외부 시스템에 사이버공격을 시도하는 ‘통제 이탈’ 사례가 발생한 바 있다. AI가 고도화됨에 따라 AI 에이전트를 의도대로 제어하는 작업의 난이도가 더 높아지는 양상이다.

앤스로픽과 오픈AI 등 주요 AI 기업들은 최근 정부와 국제사회 개입을 통한 업계 전반의 개발 속도 조절 필요성에 대해 언급하고 있다.

야쿠프 파초츠키 오픈AI 수석 과학자는 지난 6일 자사 웹사이트를 통해 “(AI의 급격한 진화에) 아무도 준비돼 있지 않다는 점이 우려된다”며 “안전한 개발 방법론이 확립될 때까지 자발적인 개발 감속 기조가 확산되길 바란다”고 밝혔다.