과학기술정보통신부는 17일 한국전자통신연구원 서울사무소에서 AI안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약을 체결했다. 사진 왼쪽부터 오픈AI 이상현 아시아태평양 지역 정책 총괄-AI안전연구소 김명주 소장. (사진=과학기술정보통신부)
과학기술정보통신부는 17일 한국전자통신연구원(ETRI) 서울사무소에서 인공지능안전연구소와 오픈AI 간 고위험 분야 AI 안전 협력 강화를 위한 업무협약(MOU)을 체결했다고 밝혔다.
이번 협약은 지난해 10월 과기정통부와 오픈AI 간 MOU 체결을 통해 구축한 AI 협력기반을 AI 안전 분야까지 확대하기 위한 것이다. 올해 두 차례 류제명 과기정통부 2차관과 오픈AI 고위관계자와의 면담 등에서 논의된 AI 안전 협력 방안을 토대로, 양 기관은 실질적인 협력을 본격화하기로 했다. AI안전연구소와 오픈AI는 업무협약 체결 이후에 실무 협의를 거쳐 구체적인 협력 과제와 일정을 확정해 나갈 예정이다.
이번 협약을 통해 양 기관은 고위험 분야별 안전 평가 방법론과 벤치마크에 관한 지식과 모범사례를 공유하고, 한국어와 한국의 사회·맥락을 반영한 평가 체계 개발을 위한 기술 정보를 교환하며, 국제적으로 적용 가능한 AI 안전 평가 체계 마련을 위해 지속적으로 협력해 나가기로 하였다. 오픈AI가 각국의 AI안전연구소와 업무협약을 체결한 것은 미국, 영국, 일본에 이어 이번이 네 번째다.
이진수 과기정통부 AI정책기획관은 “고성능 AI, 자율형 에이전트 AI 등 최첨단 AI 모델의 안전성 확보를 위해, 글로벌 선도기업과의 협력을 강화하고 AI 안전성 평가 체계를 고도화해 나갈 시점”이라며 “이번 협약을 계기로 양 기관이 급변하는 글로벌 AI 기술과 이용 환경에 대응해 최첨단 AI의 안전 확보에 적극 협력하길 기대한다”고 밝혔다.
김명주 AI안전연구소장은 “AI가 국가 핵심 인프라와 안보에 미치는 영향이 커질수록 고위험 분야에 대한 엄밀한 안전 평가는 선택이 아닌 필수가 되고 있다”며 “이번 협약을 통해 AI안전연구소는 오픈AI와 함께 최첨단 AI의 위험을 과학적으로 검증하고, 국제적으로 통용되는 평가 체계를 만드는 데 기여하겠다”고 전했다.
이상현 오픈AI 아시아태평양 지역 정책 총괄은 “한국은 AI기술의 활용과 혁신이 빠르게 이루어지고 있는 중요한 나라이며, AI안전연구소는 책임있는 AI 발전을 위한 국제 논의에 중요한 역할을 하고 있다”며, “이번 협력을 통해 고위험 분야 AI 안전성 평가에 대한 지식과 모범 사례를 공유하고, 신뢰할 수 있는 AI 개발과 안전한 이용 환경 조성에 함께 기여하게 돼 뜻깊게 생각한다”고 말했다.
이번 협약은 최근 글로벌 AI 시장을 강타한 미국 정부의 규제 기조 속에서 더욱 주목받고 있다. 블룸버그 통신 등 외신 보도에 따르면, 하워드 러트닉 미국 상무부 장관은 최근 앤스로픽 측에 서한을 보내 최상위 AI 모델인 ‘페이블 5(Fable 5)’와 ‘미토스 5(Mythos 5)’ 모델에 대해 외국인 접근을 전면 차단하라는 지침을 하달했다.
미 상무부는 이번 조치를 자국 수출관리규정에 따른 수출 제한 조치의 일환으로 진행했으며, 러트닉 장관은 이들 모델이 외국인에게 제공될 경우 국가 안보 및 정보기관의 기술 유출 우려가 있다는 점을 강조하며 위반 시 형사 및 민사 처벌 가능성까지 경고한 것으로 알려졌다.
미국 정부는 앤스로픽 모델 내에서 사이버 보안 가드레일을 우회하는 ‘제일브레이크(jailbreak)’ 취약점을 발견한 것을 주요 이유로 내세웠다. 이에 앤스로픽 측은 “타사 모델에서도 나타날 수 있는 지엽적인 취약점일 뿐이며, 모델 전체를 차단하는 것은 과도한 처사”라고 반발했으나, 결국 해당 모델의 접속을 즉각 중단한 상태다.
