[이데일리 한전진 기자] 미국 상원이 핵·생물무기 개발 등 중대한 위험을 초래할 수 있는 첨단 인공지능(AI) 모델의 출시를 연방정부가 막을 수 있도록 하는 법안을 논의하고 있다. 오픈AI와 구글, 앤트로픽 등 최첨단 AI 개발사가 규제 대상이 될 전망이다.

11일(현지시간) 로이터통신에 따르면 미 상원 협상단은 첨단 AI 개발사에 이른바 ‘주의 의무’(duty of care)를 부과하는 방안을 협의 중이다. AI 제품을 설계하는 단계에서 ‘재앙적 위험’이 발생하지 않도록 개발사에 예방 책임을 지우겠다는 취지다.

논의 중인 안에는 연방정부가 안전하지 않다고 판단한 일부 AI 모델의 출시를 차단할 수 있도록 하는 내용도 포함됐다. 정부 결정에 불복하는 기업은 연방법원에서 다툴 수 있도록 하는 방안이 검토되고 있다.

협상단은 악의적인 이용자가 AI를 활용해 핵·생물무기를 설계하는 경우 등을 재앙적 위험의 사례로 보고 있다. 최첨단 AI가 정교한 사이버 공격이나 대량살상무기(WMD) 개발을 지원할 수 있는지도 미 국립연구소 전문가들이 시험하도록 하는 방안이 논의되고 있다.

협상에는 공화당의 존 튠 상원 원내대표와 테드 크루즈 상무위원장, 민주당의 에이미 클로버샤 의원 등이 참여하고 있다. 클로버샤 의원은 AI 모델의 안전성을 확인하기 위해 개발사들이 정부 전문가들과 함께 모델을 검증·시험하도록 하는 내용이 법안에 담길 것이라고 밝혔다. 크루즈 의원도 생물·핵 위협과 관련한 재앙적 위험에 대응하기 위한 법안을 마련하고 있다고 설명했다.

다만 법안이 오는 11월 중간선거 전 처리될지는 불투명하다. 11월 3일 선거를 앞두고 표결이 가능한 회기가 상원은 3주, 하원은 1주가량밖에 남지 않았기 때문이다.