카카오(035720)가 인공지능(AI)이 스스로 판단하고 행동하는 '자율형 AI 에이전트' 확산에 대응해 AI 윤리 원칙과 이행 가이드를 마련해 연내 적용한다. AI로 발생할 수 있는 위험을 사전에 점검해 인간의 통제권을 확보하기 위해서다.

카카오는 지난 13일 열린 개발자 콘퍼런스 '이프카카오26'(if(kakao)26)에서 새로운 AI 윤리 원칙 'SPIRIT'과 실행 체계 'NORMA'를 공개했다고 15일 밝혔다.

SPIRIT은 △안전(Safety) △프라이버시(Privacy) △포용(Inclusivity) △책임(Responsibility) △이용자 주체성(Individual Autonomy) △투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 원칙으로 구성됐다.

정부의 '대한민국 인공지능 윤리원칙'이 제시한 3대 가치와 7대 원칙을 바탕으로 카카오 서비스 특성에 맞게 구체화했다.

NORMA는 이 같은 원칙을 실제 서비스에 적용하기 위한 실행 체계다. 공동 책임을 바탕으로 복잡한 윤리 문제를 관리·실행 가능한 단계로 구체화한다는 의미를 담았다.

카카오는 자율형 AI 에이전트의 위험 요소를 △통제 주도권 △목표 △권한 △참조 자원 △상호작용 등 5개 영역으로 구분했다. 이를 바탕으로 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 통제 수단을 적용할 방침이다.

이를 위한 'AI 윤리 이행 체크리스트'도 마련했다. 서비스 속성 파악, 사전 위험 검토, 통제 항목 점검·판정 등 3단계로 구성되며 연내 적용할 예정이다.

아동·청소년 보호 기준도 강화한다. 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고해 AI 특유의 위험 요소를 새 체크리스트에 반영한다.

이번 원칙은 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 카카오 내부 관련 부서가 공동 검토해 이달 초 수립했다. 자문단은 국내외 규범과의 정합성을, 내부 부서는 실제 서비스 적용 가능성을 검토했다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.

Kris@news1.kr