[이데일리 김정유 기자] 볼커 터크(사진) 유엔(UN) 인권최고대표가 인공지능(AI)이 인류에 실존적 위협이 될 것이라며, 서비스·통신·민주주의 시스템 마비 등의 위험을 줄이기 위해 AI 기업들을 적극 압박하겠다고 밝혔다.

7일(현지시간) 로이터통신에 따르면 터크 대표는 연임 임기 시작을 앞두고 진행한 스위스 제네바에서 열린 유엔 인권이사회 에서 각국에 AI 안전성 확보를 위한 철통같은 보장책을 촉구했다. 지난 7월 러시아와 미국의 반대에도 불구하고 4년 임기의 연임에 성공한 이후 47개 이사국 대상으로 한 첫 연설이다.

터크 대표는 “고도화된 AI가 인류에게 실존적 위험을 가져올 수 있다는 업계 내부자들의 우려에 공감한다”며 “더 늦기 전에 AI의 안전과 보안을 담보할 철통같은 보장책을 마련하기 위해 총력을 기울일 것을 촉구한다”고 강조했다.

그는 AI로 비롯한 구체적인 위험에 대해 상세히 설명하지 않았지만, 유엔 인권사무소 측은 로이터통신에 “강력한 AI 시스템의 오류가 핵심 기반 시설과 민주적 제도를 마비시킬 수 있다”고 설명했다.

대표적인 사례가 지난 7월 허깅페이스 사건에서 나타난 위험한 에이전트 학습 행태다. 당시 오픈AI의 에이전트 군집이 오픈소스 플랫폼을 해킹했는데, 이는 AI의 역량이 안전장치보다 더 빠르게 진화하고 있음을 보여주는 대목이다.

또한 터크 대표는 특정 인물을 명시하진 않았지만 “단 몇 명의 남성이 AI에 대해 거의 무제한에 가까운 권력을 쥐고 있다”고 지적했다. 주요 AI 기업으로는 메타, 앤스로픽, 오픈AI, 구글 등이 꼽힌다.

그는 “최소한 AI 거점 국가들과 공급망에 참여하는 국가들이 모여 합의된 ‘레드라인(최종 한계선)’을 설정해야 한다”고 덧붙였다.

한편, 유엔 인권이사회의 이번 회기는 이란 전쟁, 수단 내전 등을 논의하기 위해 다음달 7일까지 열린다. 트럼프 행정부는 지난해 반(反)이스라엘 편향성을 이유로 이사회 활동을 중단한 바 있다. 터크 대표는 이날 연설에서 우크라이나에 대한 공세를 강화하고 있는 러시아와 사형 집행 건수가 늘고 있는 이란도 강하게 비판했다.