[이데일리 김현아 기자] 네이버(NAVER(035420))가 AI 안전 관리의 범위를 AI 모델에서 실제 서비스 전반으로 넓힌다. 같은 AI 모델이라도 검색·쇼핑·날씨 등 어떤 서비스에 적용하느냐에 따라 위험이 달라지는 만큼, 서비스별 맥락에 맞춰 위험을 찾아내고 관리하는 체계를 공식화했다.

2026년 1월 인공지능기본법 시행과 함께 여러 AI 모델이 결합되고 자율적으로 동작하는 에이전틱 AI가 확산되는 가운데, 선언적 윤리 원칙을 넘어 실제 서비스에서 작동하는 안전 기준을 구체화한 것이다.

네이버는 자체 AI 안전성 프레임워크 ‘NAVER ASF 2.0’과 실행 체계 ‘CHEC 2.0’의 실제 서비스 적용 사례를 담은 공식 보고서 ‘NAVER AI Safety Progress Report 2026’을 16일 발간했다고 밝혔다.

2021년 ‘네이버 AI 윤리 준칙’, 2024년 프론티어 AI 모델을 대상으로 한 ‘ASF Beta’에 이어 이번에는 AI 안전 관리 범위를 모델에서 사용자와 서비스 전반으로 확장했다.

◇AI 위험 110개로 세분화

네이버는 이번 보고서를 통해 모델 개발부터 서비스 배포, 사후 모니터링까지 전 주기에 걸쳐 작동하는 10대 안전 관리 체계를 제시했다.

① N-ARTI: 법률·사회·산업적 AI 위험을 110개 세부 항목으로 분류

② AI 영향평가: 인공지능기본법상 ‘고영향 AI’ 특수 영역과 일반 영역 차등 관리

③ 위기 대응: 자해 등 위기 질의 시 단순 거절 대신 전문 상담기관 연계

④ 위험 업데이트: 신규 법적·사회적 이슈를 사흘 만에 분류체계에 반영하는 동적 업데이트

⑤ N-ASET: 출시 전후 회차당 1만 건 단위 적대적 질의 투입

⑥ 과잉 거절 방지: 정상적인 질문까지 무조건 차단하는 현상을 서비스 결함으로 관리

⑦ 면책 문구 관리: 불필요한 면책 문구가 일반 질의에 남발되는 과잉 대응을 정량 점검

⑧ CHEC 2.0: 식별→협의→완화→측정→이력 관리의 5단계 프로세스 운영

⑨ 3계층 책임체계: 실무 조직→AI Safety Center(AISC)→이사회로 이어지는 거버넌스

⑩ 이용자 소통: ‘On-Service AI’ 로고와 AI 답변 한계·데이터 출처 안내

이 가운데 출발점은 AI가 발생시킬 수 있는 위험을 구체적으로 나누는 것이다.

네이버는 법률·사회·산업 분야의 사례를 바탕으로 발생 가능한 위험을 110개 세부 항목으로 분류한 ‘N-ARTI(NAVER AI Risk Taxonomy & Identification)’를 마련했다.

자해 등 위기 상황 질의를 비롯해 의료·금융·법률 등 전문 영역의 무자격 조언, 불법행위 조장, 식품 표시·광고 관련 법령 위반, 차별·혐오 표현, 미성년자 유해 정보, 개인정보 침해, AI에 대한 정서적 과몰입 등이 포함된다.

서비스의 사회적 영향도 사전에 따진다. ‘AI 영향평가 매트릭스’를 활용해 인공지능기본법상 ‘고영향 인공지능’이 활용될 수 있는 특수 영역인지, 일반 영역인지 등을 구분하고 위험 수준에 따라 안전 조치의 강도를 달리한다.

새로운 위험이 나타나면 분류체계도 신속하게 업데이트한다. 네이버는 식품 표시·광고 관련 법령 위반 이슈가 확인됐을 당시 사흘 만에 새로운 위험 항목을 추가했다고 설명했다.

◇1만건씩 공격해보고…‘과잉 거절’도 점검

실제 안전성 검증은 자체 평가 도구인 ‘N-ASET(NAVER AI Safety Evaluation Toolkit)’이 담당한다.

네이버는 서비스 출시 전 사전 평가와 출시 후 정기 평가로 나눠 AI 안전성을 점검한다. 한 차례 평가마다 1만 건 단위의 적대적 질의를 투입하는 레드티밍을 통해 AI가 예상하지 못한 위험한 답변을 내놓거나 취약점을 보이는지 확인한다.

안전성 평가 대상은 위험한 답변만이 아니다.

정상적인 질문까지 답변하지 않는 ‘과잉 거절’도 서비스 품질을 떨어뜨리는 문제로 보고 관리한다. 일반적인 질문에 필요하지 않은 면책 문구가 반복적으로 붙는 과잉 대응도 함께 점검한다.

위험을 피하는 데만 집중해 AI의 유용성을 떨어뜨리지 않겠다는 것이다. 네이버가 ‘느껴지지 않는 안전(Unfelt Safety)’을 강조하는 이유다.

◇서비스 기획부터 출시 후까지 관리

이 같은 안전 기준은 전사 실행 체계인 ‘CHEC 2.0’을 통해 기획부터 출시 후까지 적용된다.

서비스 조직과 AI Safety Center가 협업해 위험을 식별하고 협의한 뒤 완화하고, 측정하고, 이력을 관리하는 5단계 프로세스를 운영한다. 실무 조직과 AI Safety Center, 이사회로 이어지는 3계층 관리·감독 체계도 갖췄다.

실제 적용 사례가 대화형 검색 ‘AI탭’이다.

지난 6월 정식 출시돼 한 달 만에 누적 사용자 1000만명을 돌파한 AI탭에는 대규모 서비스 환경에 최적화된 MoE(Mixture of Experts·전문가 혼합) 기반의 ‘프로덕트 네이티브 LLM’이 적용됐다.

빠른 소형 모델이 먼저 결론을 도출하고 대형 모델이 본문을 생성하는 방식으로 역할을 나눴다. 여기에 네이버 검색 데이터베이스에 명시된 내용에 근거해 답변하도록 설계해 잘못된 정보 생성을 줄이고, 의료 등 전문 영역에서는 전문가의 조언을 안내하도록 했다.

네이버는 AI 쇼핑 에이전트와 네이버 날씨 등 생성형 AI 서비스에도 같은 원칙을 확대하고 있다. ‘On-Service AI’ 로고를 표시하고 AI 답변의 한계와 기상청·공공데이터 등 활용 출처를 안내하는 방식으로 이용자와의 소통도 강화한다.

◇KAIST·서울대 등과 안전 연구 확대

네이버는 AI 안전 기준과 기술을 외부 연구기관과 함께 검증하는 작업도 확대하고 있다.

네이버 AI Lab과 KAIST가 공동 연구한 레드티밍 기술 ‘스테이블 지플로우넷(Stable-GFlowNet)’ 논문은 ICML 2026에서 상위 2.2% 논문에 주어지는 ‘스포트라이트’에 선정됐다. 기존 방식보다 공격 패턴을 다양하게 탐색해 배포 전 AI 모델의 취약점을 사전에 찾는 기술이다.

ASF 2.0 기획 및 초안 작성 과정에서는 서울대 인공지능 정책 이니셔티브(SAPI)와 전문 자문 협력을 진행했다. 고려대 인공지능안전연구센터와도 협력하고 있으며, 과학기술정보통신부와 인공지능안전연구소(AISI)가 주관한 AI 안전 관련 행사에서 현장 적용 사례를 공유했다.

서울대 SAPI가 주최한 ‘SAIPCON 2026’에서는 네이버클라우드 노상민 센터장이 ‘AI 데이터센터와 전력망, 어떻게 공존할 것인가’를 주제로 AI 인프라의 전력 수요와 수도권 송전망 병목 문제를 짚었다. 전력 계통 여유 지역으로 AI 데이터센터를 유도하는 등 제도적 설계가 필요하다는 제안도 내놨다.

이 밖에도 ‘국제 AI 안전 보고서 2026’ 한국어판에는 네이버의 다국어·서비스 중심 AI 안전 평가와 싱가포르 IMDA 글로벌 레드티밍 챌린지 참여 사례 등이 소개됐다. 네이버는 AI 경영시스템 국제표준인 ISO/IEC 42001 인증 취득도 추진하고 있다.

김명주 인공지능안전연구소장은 “법은 최소 기준의 윤곽선일 뿐, 그 위에서 어떤 위험을 어떻게 다룰지는 서비스를 만드는 기업이 답해야 한다”며 “이번 보고서는 네이버가 모델 단위가 아닌 서비스 단위의 안전을 스스로 쌓아 올린 첫 실천의 기록”이라고 평가했다.

원성재 네이버 AI Safety 센터장은 “AI 기술이 일상에 깊숙이 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 다뤄야 하는 단계에 접어들었다”며 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선에 두고 서비스에서 발생할 수 있는 위험을 예방·완화할 수 있도록 ASF 2.0을 지속적으로 고도화하겠다”고 말했다.

유봉석 네이버 CRO는 “AI 안전은 혁신을 가로막는 조건이 아니라 더 많은 사람이 AI를 믿고 쓰도록 돕는 혁신의 기반”이라며 “사회와 함께 더 나은 답을 찾아가는 과정을 투명하게 공유하겠다”고 밝혔다.