"오픈AI 기업문화 무너져"…퇴사 직원, AI 폭주 경고

해외

이데일리,

2026년 November 22일, AM 10:27

[이데일리 김겨레 기자] 미국 오픈AI에서 인공지능(AI) 안전성 업무를 담당하다 퇴사한 전직 직원이 회사의 안전관리 체계와 조직문화에 심각한 문제가 있다고 폭로했다. AI가 인간의 통제를 벗어나 외부 시스템에 무단 침입하는 사고까지 발생했지만, 오픈AI는 안전보다 개발 속도에 치중하면서 충분한 장치를 마련하지 못했다는 주장이다.

오픈AI. (사진=AFP)
오픈AI. (사진=AFP)
오픈AI에서 안전성 관련 정보공개 보고서 작성을 총괄했던 데이비드 로빈슨은 22일 일본 아사히신문과 인터뷰에서 “오픈AI의 기업 문화는 무너져 있었다”며 “모두가 안전을 말하지만 개발 속에 대한 압박이 너무 강하다”고 말했다. 그는 지난달 오픈AI를 떠났다.

로빈슨은 지난 7월 시험 중이던 AI 에이전트가 외부 기업 허깅페이스의 시스템에 무단 침입한 사건을 퇴사의 결정적 계기로 꼽았다. 그는 “가까운 미래에 발생할 위험에 대비하기는커녕 현재의 AI조차 안전하게 관리하지 못하고 있다는 사실을 보여준 사건”이라며 “우리가 이상적인 안전 수준에 가까워지고 있는지조차 의문이었다”고 말했다.

로빈슨은 AI 산업 전반의 과도한 개발 경쟁을 지적했다. 오픈AI를 비롯한 주요 AI 기업들은 경쟁사보다 성능이 뛰어난 모델과 신규 서비스를 먼저 출시해야 한다는 압박을 받고 있다. 막대한 개발비를 투입한 만큼 기술 경쟁에서 뒤처질 경우 시장 지위와 수익성에 타격을 받을 수 있다는 우려도 크다. 빈슨은 이러한 경쟁 압력이 안전성보다 개발 속도를 우선시하는 환경을 조성하고 있다고 지적했다.

로빈슨은 “안전 담당자뿐 아니라 개발과 영업, 법무 직원 모두 안전을 중요하게 생각한다”면서도 “모두가 밤늦게까지 일하고 출시 직전까지 시스템을 변경한다. 수면 부족에 시달리는 환경에서는 실수가 발생할 수밖에 없다”고 말했다. 특히 “AI의 발전 속도가 너무 빨라 설계해 놓은 안전장치가 실제로 도입되지 못하는 경우가 있었다”며 “이런 환경이 강력한 AI 에이전트를 훈련하기에 적합한지 의문이었다”고 밝혔다.

로빈슨은 AI 산업이 원자력이나 항공산업 수준의 안전관리 체계를 도입해야 한다고 주장했다. 그는 “AI 에이전트는 이제 능력을 어떻게 측정하고 통제해야 하는지조차 알 수 없는 수준에 도달했다”며 “실패 가능성이 아무리 작더라도 결과가 치명적일 수 있는 만큼 여러 단계의 안전장치가 필요하다”고 강조했다.

그러면서 원자력·항공·금융 분야의 위험관리 전문가들에게 AI 모델의 훈련과 출시를 결정할 실질적 권한을 부여해야 한다고 제안했다. 또한 “인간의 의도에 맞게 AI를 행동시키는 ‘정렬’ 문제에서 중대한 진전이 있기 전까지는 훨씬 강력한 모델을 훈련해서는 안 된다”고 주장했다.

AI 규제 대신 기업의 자율 관리에 맡기는 데 데 대해선 “경영자 개인의 양심에 의존해서는 안 된다”며 “안전을 추구하는 것이 기업에도 경제적으로 이익이 되는 환경을 만들어야 한다”고 말했다.

로빈슨은 “AI 에이전트 집단이 병원 데이터를 암호화하고 몸값을 요구하는 범죄조직처럼 행동하는 세상이 올 수 있다”며 “AI는 잠을 잘 필요도 없고, 갈취한 돈으로 서버 운영비를 충당하며 활동을 이어갈 수도 있다”고 지적했다. 이어 “이것은 오픈AI만의 문제가 아니라 AI 산업 전체가 직면한 과제”라며 “인간의 능력과 사람 사이의 관계를 지키면서 AI를 어떻게 발전시킬지 고민해야 한다”고 덧붙였다.

추천 뉴스