[이데일리 김현아 기자] 인공지능(AI) 분석 기업 뉴엔AI가 정부 제품안전관리 고도화 사업에 참여하며 공공 안전 영역으로 사업을 확대한다.

뉴엔AI는 산업통상자원부의 ‘제품안전관리 기술 개발 및 실증 연구 사업’ 수행기관으로 선정돼 한국제품안전관리원(KIPS)과 공동 연구개발을 진행한다고 20일 밝혔다. 연구는 오는 5월부터 12월까지 약 8개월간 추진된다.

이번 사업은 제품 사고 발생 이후 대응하는 기존 사후 관리 체계를 넘어, 온라인상 소비자 반응 데이터를 AI로 실시간 분석해 사고 징후를 사전에 포착하는 ‘능동형 제품안전관리 체계’ 구축을 목표로 한다.

뉴엔AI는 △소비자 반응 데이터 수집 환경 구축 △AI 에이전트 개발 △위해 징후 사전 탐지 알고리즘 개발 등을 맡는다. 특히 SNS, 커뮤니티, 쇼핑몰 리뷰 등 비정형 데이터에서 ‘발열’, ‘연기’, ‘스파크’ 등 사고 관련 키워드를 추출해 위험 수준을 분석하는 기술을 적용할 계획이다.

생성형 AI의 한계로 지적되는 환각(할루시네이션) 문제를 보완하기 위해 분석 결과의 근거를 원문으로 확인할 수 있는 ‘데이터 역추적(Traceability)’ 기능도 구현한다. 이를 통해 분석 신뢰도를 높인다는 방침이다.

이와 함께 웹스크래핑과 자연어처리(NLP)를 활용한 데이터 수집·가공 기술, 불량 정보 필터링 및 민감 정보 보호 프로토콜 등을 적용해 데이터 품질과 보안을 동시에 확보할 계획이다. 자체 개발 모델인 ‘QuettaLLMs’와 멀티모달 모델 ‘QuettaLMM’도 활용한다.

류승완 뉴엔AI 이사는 “민간에서 검증된 비정형 데이터 분석 역량을 공공 안전관리 시스템에 접목한다는 점에서 의미가 크다”며 “사고 예방이 가능한 정교한 AI 알고리즘을 통해 국민이 안심할 수 있는 환경 조성에 기여하겠다”고 말했다.

뉴엔AI는 자체 언어모델 ‘QuettaLLMs’가 과학기술정보통신부와 한국지능정보사회진흥원(NIA)의 ‘K-AI 리더보드’에서 1위를 기록하며 기술력을 입증했다. 회사는 이를 기반으로 제품 안전 관리의 디지털 전환을 본격화한다는 계획이다.