[이데일리 김정유 기자] 영국 국왕 찰스 3세(사진)가 글로벌 인공지능(AI) 분야의 핵심 인물들을 만나 개발자들이 계속 기술을 통제할 수 있을지에 대한 확답을 요구할 예정이다.

17일(현지시간) 블룸버그통신에 따르면 찰스 3세는 이날 스코틀랜드에서 열리는 왕실 주재 회담에서 “인간성과 도덕적 가치를 중요하게 여기는 이들은 우리 인류의 운명에 대한 통제력을 잃지 않을 것이란 확신을 간절히 바라고 있다”고 연설할 계획이다. 찰스 3세는 이번 행사에서 AI 기술을 사회와 자연에 유익한 방향으로 활용하는 방안을 논의할 것으로 보인다.

이번 행사에는 데미스 허사비스 구글 딥마인드 공동 창업자를 비롯해 엔비디아, 오픈AI, 앤스로픽 등의 고위 관계자들이 참석할 것으로 보인다. 최근 AI 업계의 뜨거운 화두인 ‘기술 통제력’에 대해 논의되는 만큼 관심을 키우고 있다.

AI 기술 논쟁은 최근 다리오 아마데이 앤스로픽 최고경영자(CEO)가 최첨단 모델 개발의 속도 조절을 촉구하는 글을 기고하면서 촉발됐다.

샘 올트먼 오픈AI CEO도 해당 기고문에 동의를 표했고, 허사비스 공동 창업자 역시 “올바른 방향”이라고 평가했다. 하지만 젠슨 황 엔비디아 CEO는 AI 개발 속도 조절이나 추가 규제에 대해 반대 입장을 밝혔다.

특히 지난주 구글 딥마인드와 앤스로픽 소속 AI 연구원 2명이 기술 개발 경쟁의 심화가 인류에 치명적일 수 있다고 주장하며 사직하기도 하는 등 관련 논쟁이 커지는 양상이다.

이 같은 AI 확산에 대한 우려는 전 세계 국가 지도자들과 대중들에게 불안감을 키우고 있다. 실제 앤디 버넘 영국 총리는 여당인 노동당 의원들로부터 국가 AI 정책에 대해 보다 명확한 입장을 밝히라는 압박을 받고 있다.

중국 또한 최근 아마데이 CEO의 주장을 “공포 조성”이라고 일축하면서도, AI의 위험성에 대해서는 경고를 남겼다.

도널드 트럼프 미국 대통령은 AI 개발 속도 조절에 반대하고 있지만, 미 여야 의원들은 AI 안전 대책을 제안하고 있는 상황이다. 중간선거를 앞둔 상황에서 미 유권자들의 우려도 점차 커지는 추세다.

찰스 3세는 이번 회동에서 AI 업계 경영진에게 두 가지 핵심 질문을 던질 예정이다. 안전을 중심에 두고 AI의 이점을 어떻게 활용할 것인지, 어떠한 국가도 소외되지 않고 인류의 미래를 지킬 수 있도록 국제적 협력과 합의를 어떻게 구축할 것인지 등이다.

앞서 찰스 3세 2023년 영국에서 열린 AI 안전정상회의 당시에도 AI의 위험성에 긴급히 대응할 필요가 있다고 강조한 바 있다. 그는 기후변화에 지속적으로 목소리를 내왔는데, 대형 IT기업들의 탄소배출량은 데이터센터 구축 등으로 급증 추세다.