[이데일리 한광범 기자] “먹을 것을 가져다줘.” 똑같은 요청을 받아도 채식주의자에게 고기를 가져다주거나 알레르기가 있는 사람에게 해당 음식을 건네면 제대로 일을 했다고 볼 수 없다. 국내 연구진이 로봇이 주어진 명령뿐 아니라 사람의 특성까지 고려해 행동하는지 평가하는 기술을 개발했다.

한국전자통신연구원(ETRI)은 사람과 인공지능(AI), 주변 환경을 함께 고려해 로봇의 작업계획 능력을 평가하는 기술 ‘트리니티(Trinity)’를 개발했다고 밝혔다. 로봇이 물건을 정확히 찾고 옮기는지를 넘어, 사용자에게 적절한 물건을 선택했는지까지 따지는 것이 핵심이다.

기존 로봇 AI 평가는 주변 환경을 이해하고 정해진 작업을 성공적으로 수행하는지에 집중했다. 그러나 가정이나 돌봄 현장에서는 같은 명령이라도 사람에 따라 다른 대응이 필요하다. 예컨대 음식을 가져오라는 요청에는 사용자의 알레르기나 식습관을 확인한 뒤 적절한 음식을 선택해야 한다.

연구진은 이를 위해 ‘사용자 특성을 고려한 작업계획(PHA)’이라는 평가 개념을 도입했다. 트리니티에는 채식 여부와 알레르기, 종교에 따른 식사 제한, 취미 등을 조합한 151가지 사용자 조건을 반영했다. 실제 가정과 비슷하게 구현한 가상 환경에 관련 물체 95종도 배치해 AI가 사람과 주변 상황을 함께 살피도록 했다.

이 같은 평가는 사람의 명령을 이해한 뒤 여러 행동을 스스로 정하는 AI 에이전트를 대상으로 한다. 연구진은 이용자 조건과 물체 선택을 함께 따져 기존 평가에서 놓치기 쉬운 오류를 드러내도록 했다.

로봇이 물체의 위치를 정확히 찾아 요청한 장소로 옮겼더라도 사용자에게 맞지 않는 물건을 골랐다면 작업에 성공한 것으로 보지 않는다. 연구 과정에서는 AI가 주변 환경과 작업 방법은 올바르게 파악하고도 채식주의자에게 적절하지 않은 음식을 선택한 사례가 확인됐다.

◇명령 수행에 성공해도 사람에게 안 맞으면 실패

트리니티는 결과뿐 아니라 로봇이 판단을 잘못한 이유도 구분한다. 사용자의 특성을 제대로 이해하지 못했는지, 주변 물체를 충분히 살피지 못했는지, 실제로 실행할 수 없는 행동을 계획했는지 등을 나눠 평가한다. 단순히 정답과 오답을 매기는 데서 그치지 않고 AI의 약점을 확인해 개선할 수 있도록 한 것이다.

연구진이 대표적인 대형언어모델(LLM) 기반 AI 에이전트들을 평가한 결과, 주변 환경을 이해하는 능력과 개인의 요구를 실제 행동에 반영하는 능력에는 차이가 있는 것으로 나타났다. 로봇이 물건을 잘 다루는 것과 사람에게 알맞은 서비스를 제공하는 것은 별개의 과제라는 의미다.

ETRI는 이 기술이 집안일을 돕는 로봇이나 노약자를 돌보는 서비스 로봇, 사람과 함께 생활하는 휴머노이드의 개발에 활용될 것으로 기대한다. 다만 트리니티는 로봇 자체의 성능을 높이는 기술이 아니라, AI가 사람에 맞춰 행동을 계획하는지를 시험하는 평가 도구다.

이번 연구는 과학기술정보통신부가 지원하는 자율행동체와 AI 에이전트 관련 연구사업 등을 통해 수행됐다. 연구진은 트리니티의 코드와 데이터를 공개했다. 앞으로 음식과 음료 중심의 평가 대상을 청소와 정리, 안전 등 생활 영역으로 넓히고 시간이 지나면서 달라지는 사용자의 요구도 반영할 계획이다. 연구 결과는 지난달 국제 자연어처리 학술대회 ‘EMNLP 2026 Findings’에서 발표됐다.

김도형 ETRI 소셜로보틱스연구실장은 “트리니티는 로봇의 행동이 서비스를 받는 사람에게도 적절한지를 함께 평가한다는 데 의미가 있다”며 “로봇이 사람마다 다른 특성과 요구를 이해하고 함께 생활할 수 있는 지능으로 발전하는 데 필요한 연구 기반이 될 것으로 기대한다”고 밝혔다.