[뉴욕=이데일리 성주원 특파원] 인공지능(AI)의 잠재적 위험을 이유로 개발 속도를 늦춰야 한다는 ‘속도조절론’이 확산하는 가운데 젠슨 황 엔비디아 최고경영자(CEO)가 이를 정면으로 반박했다. AI의 안전성과 빠른 기술 발전은 양립할 수 있으며 새로운 법이나 규제 없이도 시장의 힘을 통해 기업들이 스스로 안전성을 확보할 수 있다는 주장이다. 다리오 아모데이 앤스로픽 CEO 등이 AI의 통제불능 위험을 경고하며 개발 속도를 늦춰야 한다고 주장한 것과 대비된다.

15일(현지시간) 블룸버그통신에 따르면 황 CEO는 이날 세일즈포스 행사에서 “AI 산업에는 새로운 법이나 규제가 필요하지 않다”고 밝혔다. AI 개발을 빠르게 진행하는 것과 안전성을 확보하는 것 가운데 하나를 선택해야 한다는 주장에 대해서도 “잘못된 선택(false choice)”이라고 일축했다.

그는 세일즈포스의 마크 베니오프 CEO와의 대담에서 “두 가지를 동시에 가질 수 있다”며 “시장에 내놓을 제품을 사람들이 받아들일 것이라는 확신이 들 때까지 스스로 속도를 조절하면 된다. 시장의 힘은 이미 작동하고 있다”고 말했다. 기업들이 위험하다고 판단한 AI 제품을 출시하지 않는 방식으로 스스로 안전성을 관리할 수 있다는 설명이다.

◇AI 위험론 확산에…황 “새 규제 필요 없다”

황 CEO의 발언은 최근 실리콘밸리에서 AI 안전성 논쟁이 다시 불붙은 가운데 나왔다.

특히 아모데이 CEO가 최근 3800단어 분량의 글을 통해 AI가 인간의 통제를 벗어날 가능성을 경고하고 개발 속도를 늦출 필요가 있다고 주장하면서 논쟁이 확산했다. 앤스로픽의 한 직원이 회사를 떠나면서 앤스로픽과 경쟁사 오픈AI가 인류를 위협할 수 있는 기술을 개발하며 “우리의 생명을 걸고 도박하고 있다”고 주장한 것도 AI 위험론에 불을 붙였다.

황 CEO는 이 같은 속도조절론에 선을 긋고 있다. 세계 최대 AI 가속기 제조업체인 엔비디아를 이끄는 황 CEO는 AI 데이터센터 투자 확대의 핵심 수혜자인 동시에 AI 산업의 빠른 발전을 옹호하는 대표적인 인물이다.

그가 강조하는 것은 ‘속도’와 ‘안전’이 반드시 충돌하는 것은 아니라는 점이다. AI 개발 자체를 늦추거나 새로운 규제를 만드는 대신 기업들이 시장에 제품을 내놓는 과정에서 위험성을 점검하고 출시 여부를 판단할 수 있다는 논리다.

이는 AI 기술이 빠르게 고도화하면서 업계 내부에서도 안전을 확보하는 방법을 둘러싼 시각차가 뚜렷해지고 있음을 보여준다. 한쪽에서는 기술이 인간의 통제를 벗어나기 전에 개발 속도를 늦추고 안전장치를 마련해야 한다고 주장하는 반면, 다른 쪽에서는 과도한 규제가 혁신을 저해할 수 있으며 기업과 시장의 자율적인 통제가 가능하다고 보고 있다.

◇아모데이 “현재 AI 가치 5~10%만 활용”

흥미로운 점은 AI 위험성을 강하게 경고하는 아모데이 CEO 역시 AI의 경제적 잠재력에 대해서는 낙관적인 전망을 내놓고 있다는 것이다.

아모데이 CEO는 이날 베니오프 CEO와 함께 세일즈포스의 연례 행사인 ‘드림포스’에 참석해 현재 AI 기술이 가진 가치 가운데 실제 경제 전반에서 활용되고 있는 것은 불과 5~10%라고 밝혔다. AI 기술의 능력이 실제 기업과 경제에 아직 충분히 확산하지 않았다는 의미다.

이는 그의 속도조절론이 AI 기술 자체에 대한 비관론과는 거리가 있다는 점을 보여준다. AI가 가져올 경제적·사회적 효과는 막대하지만 그만큼 통제불능 위험을 관리하면서 개발해야 한다는 게 아모데이 CEO의 입장이다.

실제 대기업의 AI 도입 속도는 기술 발전 속도를 따라가지 못하고 있다. 세일즈포스와 앤스로픽은 지난달 앤스로픽의 AI 모델 ‘클로드’를 세일즈포스 제품에 통합하기 위한 파트너십 확대를 발표했다. 현재 세일즈포스 내부에서는 직원 7000명이 클로드와 통합된 회사의 AI 도구를 사용하고 있다.

베니오프 CEO는 기업들의 AI 도입 과정에서 “상당한 불균형(unevenness)이 나타나고 있다”며 “고객들이 이러한 전환을 가속할 수 있도록 우리가 더 많은 일을 해야 한다”고 말했다.

AI 개발 속도가 다소 느려지는 것을 오히려 긍정적으로 보는 시각도 있다. 패트릭 스톡스 세일즈포스 사장은 전날 기자들과 만나 프런티어 AI 모델 개발 속도가 늦춰지는 것과 관련해 “개발자 입장에서 그들이 조금 느려지는 것은 일종의 좋은 소식”이라며 “우리가 따라잡아야 할 것이 많기 때문”이라고 말했다.

그는 세일즈포스의 역할에 대해 “AI 모델 자체를 둘러싼 시스템과 인프라, 기능을 성숙시키는 것”이라고 설명했다. 최첨단 모델의 성능 경쟁만큼 이미 개발된 AI를 실제 기업 현장에 적용하는 작업도 중요하다는 의미다.

최근 AI 업계에서 불붙은 논쟁은 AI의 잠재력 자체보다는 그 잠재력을 얼마나 빠르게 현실화할 것인지, 그 과정에서 발생할 위험을 누가 어떤 방식으로 통제할 것인지에 집중되고 있다. 아모데이가 위험을 이유로 개발 속도 조절 필요성을 제기한 반면 젠슨 황은 기업과 시장이 안전성과 혁신 속도를 동시에 관리할 수 있다고 맞서면서 AI 개발의 적정 속도와 규제를 둘러싼 논쟁은 더욱 치열해질 전망이다.