“어떤 자율성 수준에서도 비상 정지권과 최종 지휘권은 사람이 가져야 합니.”
하진화 카카오 AI 세이프티 수석은 지난 4일 뉴스1과의 인터뷰에서 스스로 목표를 추구하고 행동하는 에이전틱 인공지능(AI) 시대의 안전 원칙을 이같이 설명했다. AI에 업무를 맡기더라도 이를 멈추고 최종적으로 지휘할 권한은 사람이 유지해야 한다는 것이다.

하 수석은 “AI가 빠르게 발전하는 만큼 인간도 진화해야 한다고 생각한다”고 말했다. 기술이 발전할수록 인간의 역할은 무엇인지, 어떤 가치를 지켜야 하는지 계속 질문해야 한다는 의미다.

“AI 자율성 커져도 인간 통제권 유지…안전이 장기 경쟁력”
유니세프에서 아동 정책관, 유엔개발계획(UNDP)에서 성평등 정책관을 지낸 하 수석은 2022년 카카오에 합류했다.

그는 ‘디지털 네이티브’인 아동들에게 디지털 생태계가 미치는 영향이 커지면서 IT 기업의 역할에 주목하게 됐다.

하 수석은 “아동은 성장 중인 권리 주체이기 때문에 특별한 시기에 있다”며 “같은 영향을 받아도 아동일 때와 성인일 때는 다를 수 있다”고 말했다.

아동기에 위험에 노출되면 이후 삶에도 영향을 미칠 수 있는 만큼 성인과 다른 특별한 보호가 필요하다는 설명이다.

하 수석은 에이전틱 AI의 행동을 판단할 때 되돌릴 수 있는지, 사람의 권리와 삶에 중대한 영향을 미치는지를 중요하게 본다고 설명했다. AI가 스스로 판단하고 행동하는 범위가 넓어져도 인간의 통제권을 확보해야 한다는 것이다.

전 세계적인 AI 개발 경쟁 속에서 안전을 강조하는 것이 기술 혁신의 걸림돌이 될 수 있다는 시각에는 선을 그었다.

하 수석은 “대립 관계로 보면 안 될 것 같다. 신뢰와 안전이 있어야 장기적으로 경쟁력도 있다고 생각한다”며 “사업적인 목표에 윤리와 안전을 위한 행동이 ‘브레이크’가 되는 건 아닌 것 같다”고 말했다.


AI 윤리 원칙 ‘SPIRIT’…기획부터 출시·운영까지 위험 점검
카카오는 AI 서비스가 사회에 미칠 영향을 살피고 기술을 안전하게 활용하기 위한 윤리 원칙을 마련했다.

지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 지난달 AI 윤리 원칙 ‘SPIRIT’을 수립했다.

SPIRIT은 △안전(Safety) △프라이버시(Privacy) △포용(Inclusivity) △책임(Responsibility) △이용자 주체성(Individual Autonomy) △투명성과 신뢰성(Transparency & Trustworthiness) 등 6개 원칙으로 구성된다.

하 수석은 “원칙 사이에 고정된 우선순위는 없다”며 “생명이나 안전, 기본권에 중대하거나 회복하기 어려운 피해가 예상되면 이를 먼저 완화해야 한다”고 말했다.

원칙을 실제 서비스에 적용하는 실행 방식은 ‘NORMA’로 정의했다. 복잡한 윤리 과제를 조직 차원에서 관리하고 실행할 수 있는 단계로 구체화한다는 의미다.

새로운 AI 서비스를 기획할 때는 먼저 서비스의 특성을 파악하고 체크리스트로 발생 가능한 위험을 선별한다.

하 수석의 설명에 따르면 이후 AI&기술윤리소위원회와 전사 리스크 관리(ERM) 체계 등을 통한 검토·승인 절차를 거쳐 서비스를 출시한다. 출시 이후에도 주요 기능이 변경되면 위험을 다시 점검하도록 했다.

카카오는 이달부터 새 윤리 원칙과 체크리스트를 실제 서비스에 시범 적용한다.

하 수석은 AI 윤리를 ‘살아 있는 정책’이라고 표현했다. 그는 “정해도 다음 날 또 달라질 수 있다”며 “실제 서비스에 적용하면서 부족한 점들을 모아 연말까지 한 번 더 업데이트할 생각”이라고 말했다.

shushu@news1.kr