앤트로픽과 오픈AI가 인공지능(AI)의 안전성을 평가하는 외부 평가기관의 독립성을 보장하겠다고 약속했지만, 실제 협상에선 보고서의 정보 공개 범위를 두고 상당한 통제권을 확보하려 했다는 보도가 나왔다.

로이터 통신은 13일(현지시간) 협상 내용을 아는 관계자 2명을 인용해 앤트로픽과 오픈AI가 외부 평가기관의 보고서 공개 내용에 엄격한 편집 통제권을 확보하려 했다고 보도했다.

평가 독립성 보장 약속과 영업비밀 보호를 위한 기업의 통제 권한 사이에 충돌이 드러난 것이다.

다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 외부 평가기관이 편집 통제 없이 주요 평가 결과를 공개할 권리를 가져야 한다고 밝혔다. 오픈AI도 평가기관이 편집 독립성을 보장받아야 한다고 말한 바 있다.

로이터에 따르면 두 회사는 이달 5일까지 엄격한 편집 통제권을 요구했지만, 8일에는 앤트로픽과 일부 평가기관의 협상에 변화가 나타난 것으로 전해졌다.

앤트로픽은 보고서에 대한 상당한 통제권을 요구했다는 설명이 독립 평가기관과의 모든 협의·협력을 정확히 반영하는 것은 아니라고 반박했다.

앤트로픽은 모델 작동 방식에 대한 이해를 높이고 협력 관계를 구축하는 동안 신규 평가기관의 보고서에 의견을 제시하고 이를 승인할 권한을 보유한다는 입장이다.

다만 기존 평가기관에 대해선 평가 방법론과 평가 기준, 결론과 공개 내용 등을 자체적으로 결정할 수 있다는 점을 분명히 했다고 밝혔다.

오픈AI는 평가기관이 작성한 보고서 전체에 대한 승인권을 요구하고 있지는 않지만, 회사가 기밀 정보를 삭제하는 것이 일반적인 관행이라 밝혔다.

이어 평가기관이 보고서에서 상당한 분량이 삭제됐는지 여부를 공개할 수 있다고 밝혔다.

로이터에 따르면 오픈AI와 앤트로픽은 이른바 '상주형 평가'의 일환으로 AI 기업 내부에서 일하는 평가기관 직원들이 독점 정보를 경쟁사에 넘길 것을 우려하고 있는 것으로 파악됐다.

평가기관이 모델의 위험성을 검증하는 과정에서 영업비밀과 독점 기술 정보가 외부에 유출될 가능성을 고려하고 있다는 설명이다.

AI 기업이 핵심 영업비밀로 간주하는 정보가 모델의 위험성을 평가하는 데 필요한 정보와 겹칠 수있다는 부도 쟁점이다.

이에 AI 기업들이 평가기관과 체결하는 일부 계약서엔 기업의 동의 없이 평가기관이 보고서에 기밀 정보를 공개하지 못하도록 하는 조항이 포함된 것으로 전해졌다.

전문가들은 평가기관이 AI 기업에 종속될 수 있다는 우려를 표했다.

AI 기업이 평가기관을 직접 선정하는 상황에서 평가기관의 정보 공개 범위에도 영향력을 행사할 수 있다면 외부 평가의 독립성을 실질적으로 보장할 수 없다는 것이다.

이에 전문가들은 독립 평가에 관한 합의된 기준과 법률이 필요하다고 주장하고 있다.

조 바이든 행정부에서 AI 담당 미국 과학특사를 지낸 루만 초드리 휴먼 인텔리전스 PBC 최고경영자는 합의된 평가 기준이 없으면 AI 기업들이 평가기관의 정보 접근 권한을 통제하고, 이를 통해 평가 결과 가운데 무엇을 공개할 것인지에 대해 영향력을 행사할 수 있다고 지적했다.

AI 위험 관리 연구·정책을 다루는 비영리단체 세이퍼 AI의 헨리 파파다토스 사무총장 역시 지난달 기업의 선의에 의존할 것이 아니라 평가기관의 독립성을 보장할 수 있는 제도적 규제가 필요하다고 밝힌 바 있다.

한편 AI 기업이 시행하는 독립 외부 평가는 지난달 29일 도널드 트럼프 미국 대통령과 주요 AI 기업 경영진이 서명한 백악관 '초지능 협약'에 담긴 네 가지 안전조치 중 하나다.다만 협약에는 외부 평가를 구체적으로 어떻게 수행할지 명시되지 않았다.

sumin02@news1.kr