미국 인공지능 연구 기관 오픈AI(OpenAI)가 개발한 ChatGPT 애플리케이션의 로고와 노트북 화면에 표시된 ‘AI’라는 글자를 보여주고 있다. (사진=AFP)
NYT가 확인한 앤트로픽 내부 대화에서 한 직원은 콕슨의 주장에 대해 회사 안에서 이미 해오던 이야기라며 이제 공개됐을 뿐이라는 반응을 보였다. 다른 직원도 콕슨이 내부 논의를 밖으로 끌어냈으며 이를 긍정적으로 평가했다.
오픈AI와 메타, 구글 연구진 사이에서도 비슷한 움직임이 나타났다. NYT는 이들 기업 직원 12명을 취재한 결과 연구원들이 사내 메신저와 암호화된 대화방, 비공개 저녁 모임 등을 통해 AI 위험을 알릴 방안을 논의하고 있다고 전했다. 이 가운데 6명은 일부 직원들이 적절한 안전장치가 마련될 때까지 AI 개발 속도를 늦춰달라고 최고경영진에 요구하고 있다고 밝혔다.
샘 올트먼 오픈AI 최고경영자(CEO)도 개발 속도를 늦출 가능성을 공개적으로 거론하기 시작했다. NYT에 따르면 올트먼 CEO는 이번 주 직원 회의에서 다른 AI 연구소들도 동참한다면 오픈AI 역시 개발 속도를 늦출 의향이 있다고 밝혔다. 업계에서 널리 인정받는 안전기준이 마련될 때까지 기업들이 자발적으로 개발 속도를 조절하는 관행이 자리 잡기를 바란다는 뜻도 밝혔다.
AI 기업 경영진도 기술의 위험 자체를 부정하는 것은 아니다. 올트먼 CEO는 2023년 AI가 세계에 심각한 피해를 줄 가능성을 언급했다. 다리오 아모데이 앤트로픽 CEO 역시 지난해 AI 위험을 통제하려면 규제가 필요하다고 주장했다.
AI 안전 논의는 최근 기술 발전 속도가 빨라지면서 더욱 긴박해졌다고 NYT는 전했다. 특히 지난 7월 오픈AI가 일부 AI 모델이 격리된 시험 환경에서 벗어나 AI 플랫폼 허깅페이스를 해킹했다고 공개한 뒤 연구진의 우려가 커졌다.
이후 오픈AI와 앤트로픽, 구글 딥마인드 직원들은 자신들이 개발하는 AI 시스템을 계속 통제할 수 있을지를 놓고 논의를 벌였다고 NYT는 9명의 관계자를 인용해 전했다.
기업들도 안전대책을 잇달아 내놓고 있다. 앤트로픽은 사이버보안과 생물학 등 분야에서 AI 모델이 위험한 능력을 갖췄는지를 정기적으로 시험하고 관련 연구 결과를 공개하고 있다고 밝혔다.
앤트로픽은 강력한 AI 모델을 어느 속도로 출시할지 업계가 공동으로 결정할 수 있도록 합법적이고 검증 가능한 협력 방안이 필요하다는 입장도 내놨다. 다만 구글 딥마인드는 NYT의 논평 요청에 답하지 않았다.
오픈AI도 안전조치를 강화할 가능성을 열어놨다. 크리스 러헤인 오픈AI 최고정책책임자는 9일 공개한 글에서 충분한 안전장치를 확보할 수 없는 AI 시스템은 개발이나 배포 속도를 늦추거나 중단하겠다고 밝혔다.
야쿠프 파초키 오픈AI 수석과학자는 한발 더 나아가 제3자 감사기관이나 정부 기관, 국제기구가 집행하는 AI 안전규칙이 필요하다고 주장했다. 그는 기계지능이 지금과 같은 속도로 계속 향상될 경우 발생할 결과에 아무도 제대로 대비하지 못하고 있다고 우려했다.
하지만 주요 AI 기업이 동시에 개발 속도를 늦추기는 쉽지 않다. 사업과 경쟁 문제가 얽혀 있어서다.
NYT에 따르면 오픈AI와 앤트로픽은 모두 향후 1년 안에 대규모 기업공개(IPO)를 추진하고 있다. 경쟁 기업끼리 AI 개발을 동시에 늦추기로 합의하면 반독점 규제 문제가 불거질 수 있다는 우려도 있다. 이 문제를 아는 관계자 2명이 NYT에 이같이 설명했다.
중국과의 경쟁도 변수다. 중국 AI 스타트업들이 미국 기업과 경쟁할 수 있는 모델을 내놓으면서 미국 기업들만 개발 속도를 늦추면 기술 경쟁에서 뒤처질 수 있다는 우려가 제기된다.
AI 기업들은 결국 기술 경쟁을 이어가면서 동시에 통제할 수 없는 수준의 시스템이 등장하는 것을 막아야 하는 과제를 안게 됐다. AI를 직접 개발하는 연구진 사이에서 안전 문제가 내부 논의를 넘어 공개적인 개발 감속 요구로 번지고 있다는 점이 최근 나타난 변화다.
