네이버(035420)가 인공지능(AI) 서비스에서 발생할 수 있는 위험을 110개 항목으로 세분화해 설계부터 출시까지 전 과정을 관리한다. 유해성과 함께 이용자에게 제대로 답변했는지도 평가해 사용성도 관리한다.

최근 AI가 인간의 통제를 벗어나 사이버 공격을 진행한 사례가 잇따르면서 글로벌 AI 업계에서는 안전성 관리가 주요 과제로 떠오르고 있다.

네이버는 자체 AI 안전성 체계 'ASF 2.0'이 실제 서비스에 적용되는 과정과 구체적인 실행 사례를 담은 'AI 세이프티 프로그레스 리포트'를 처음으로 발간했다고 16일 밝혔다.

리포트에는 ASF 2.0과 실행 체계 'CHEC 2.0'이 실제 서비스에 어떻게 적용되고 작동하는지 구체적인 사례도 담겼다.

ASF 2.0은 AI 모델의 성능·위험 수준과 이용자·서비스 보호를 포괄하는 네이버의 AI 안전성 관리 체계다. 네이버의 '온-서비스 AI' 전략과 글로벌 AI 생태계 및 정책·제도 환경의 변화를 반영했다.

설계부터 운영까지 전 과정에서AI 서비스에서 발생할 수 있는 위험을 찾아내 동일한 기준으로 관리하는 것이 목표다.

네이버는법률적·사회적·산업적 사례를 바탕으로 110개 세부 항목으로 분류한 AI 위험 분류·식별 체계 'N-ARTI'를 마련했다.

N-ARTI는 서비스별 특성을 반영하면서 전사적으로 일관된 안전 기준을 적용할 수 있도록 AI 위험을 체계적으로 식별·분류한다.

이를 토대로 생성형 AI 서비스가 제공하는 정보가 사전에 설정된 안전 기준을 벗어나지 않도록 관리하는 '가드레일'을 구축할 수 있다.

AI가 내놓은 답변의 안전성을 평가하는 도구도 내놓았다.'N-ASET'은 AI 서비스의 응답을 '유해성'과 '사용성'이라는 두 가지 관점에서 평가한다.

유해한 답변을 차단하는 데 그치지 않고 이용자의 질의에 적절하게 대응했는지, 필요한 면책 문구나 전문가 안내를 제공했는지까지 함께 살핀다. 안전성을 강화하면서도 AI 서비스의 유용성을 균형 있게 평가할 수 있다.

이 같은 안전성 체계는 실제 네이버 서비스에 이미 적용됐다.

지난 6월 선보인 'AI탭'은 CHEC 2.0을 기반으로 설계부터 출시까지 전 과정에서 AI 안전성을 점검했다.

AI 쇼핑 에이전트와 날씨 서비스에는 AI 활용 사실을 표시·고지해 이용자가 AI 서비스임을 인지할 수 있도록 했다.

네이버는 향후 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계 및 전문기관과 협력을 확대해 AI 서비스 위험을 예방·완화하기 위한연구를 이어갈 계획이다.

원성재 네이버 AI 세이프티 센터장은 "AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 적용할 것”이라고 말했다.

shushu@news1.kr