더 걱정스러운 것은 이런 위험을 검증할 시간을 시장이 허락하지 않을 수 있다는 점이다. AI 안전과 경쟁의 관계를 연구해온 최재필 미국 미시간주립대 석좌교수는 최근 이데일리와의 인터뷰에서 AI 기업들이 안전의 중요성을 몰라서가 아니라 안전보다 속도를 보상하는 경쟁구조가 문제라고 짚었다.
AI 시장에서는 먼저 이용자를 확보하면 데이터가 쌓이고 성능이 개선돼 다시 이용자를 끌어들인다. 최 교수는 이런 선점 경쟁이 안전성이 충분히 검증되지 않은 AI의 조기 출시를 유도하는 ‘바닥을 향한 경쟁(race to the bottom)’으로 이어질 수 있다고 경고했다. 안전을 중시하는 기업도 예외이기 어렵다.
더 큰 문제는 속도전이 국가 간 경쟁으로 번지고 있다는 점이다. 미국이 중국의 추격을 이유로 규제를 풀고 중국도 개발을 서두르면 양쪽 모두 원했던 것보다 낮은 안전기준을 택할 수 있다. 사이버 공격과 생물학적 위험, 허위정보의 피해는 국경에서 멈추지 않는다.
그렇다고 AI 개발을 늦추자는 얘기는 아니다. 문제는 속도 경쟁 자체가 아니라 경쟁에 밀려 필요한 안전 검증마저 뒷전으로 밀리는 상황이다. 필요한 것은 경쟁을 멈추는 규제가 아니라 속도전에서도 넘지 말아야 할 안전선을 만드는 일이다. 중요한 행동에는 인간의 최종 승인을 거치게 하고 사고의 책임도 분명히 해야 한다. AI 경쟁의 승자를 가르는 기준이 ‘얼마나 빨리 출시했느냐’뿐이라면 안전은 계속 뒤로 밀릴 수밖에 없다. 더 빠른 AI를 만드는 경쟁만큼 더 안전한 AI를 만드는 경쟁도 필요하다.
사진=AFP
