[이데일리 김현아 기자] 인공지능(AI)이 사람의 개입 없이 더 오랫동안, 더 복잡한 일을 해내면 초지능에 가까워지는 것일까. 여러 AI 에이전트를 연결해 업무를 나누면 인간처럼 협력할 수 있을까.

노아 굿맨(Noah Goodman) 스탠퍼드대 심리학·컴퓨터과학 교수는 두 질문에 모두 ‘그것만으로는 충분하지 않다’고 답했다. AI의 자율성을 높이는 것도 초지능으로 가는 한 경로지만, 인간 사회에서 제대로 기능하려면 다른 사람의 생각과 의도를 이해하고 협력하는 능력도 필요하다는 것이다.

굿맨 교수는 오는 11월 12일 서울 JW 메리어트 동대문에서 열리는 제13회 이데일리 글로벌 AI 포럼(GAIF 2026)의 기조연설을 앞두고 진행한 사전 서면 인터뷰에서 “어려운 과제에서 AI의 자율성을 높이는 것은 초지능으로 가는 한 가지 경로”라면서도 “초지능은 하나의 개념이 아니며, 거기에 이르는 길도 하나가 아니다”고 말했다.

그는 AI에 기대하는 지능의 영역을 기술적 문제 해결에만 한정해서는 안 된다고 강조했다. 굿맨 교수는 “우리는 AI가 단순히 기술적인 문제뿐 아니라 사회적인 문제에 대해서도 지능적이기를 바란다”며 “상호작용과 교류 없이는 AI가 인간과 그들의 사회적 상황을 진정으로 이해하는 것이 불가능하다”고 지적했다.

이어 “고립된 천재를 원한다면 자율성에 집중하는 것이 맞지만, 우리 사회와 공동체에 합류할 AI를 원한다면 상호작용 속에서 AI를 개발하는 데 집중해야 한다”고 덧붙였다.

그가 이번 포럼에서 맡은 기조연설 주제도 ‘생각하는 AI에서 행동하는 AI로(From Thinking AI to Acting AI)’다. 인지과학과 심리학을 AI 연구에 접목해 온 굿맨 교수는 AI가 현실에서 행동하는 주체로 발전하려면 인간의 사고와 사회적 관계를 이해하는 능력이 중요해질 것으로 보고 있다.

◇AI 여러 개 연결해도 협업은 아니다

앤스로픽과 오픈AI, 구글 등 글로벌 기업에 이어 SK텔레콤·카카오·KT 등 국내 기업들도 스스로 계획을 세우고 복잡한 업무를 수행하는 AI 에이전트 개발에 속도를 내고 있다. 여러 에이전트가 정보를 주고받으며 각자 맡은 일을 처리하는 분산형 구조도 주목받는다. 하지만 굿맨 교수는 AI를 연결하고 업무를 나누는 것만으로 진정한 협업 지능이 만들어지는 것은 아니라고 지적했다.

그는 “인간은 서로에 대해 추론하는 데 많은 시간을 쓴다”며 “우리는 직접 관찰할 수 없는 상대의 정신 상태와 선호, 특성, 믿음 등을 추론한다”고 말했다.

상대가 무엇을 알고 있는지, 어떤 의도를 갖고 있는지, 왜 자신과 다른 판단을 내리는지를 이해해야 협력할 수 있다는 의미다. 이런 능력이 없는 AI는 공동 작업 환경에서도 다른 사람이나 AI를 독립적인 생각과 목적을 가진 주체로 이해하지 못할 수 있다.

굿맨 교수는 “AI를 공유된 환경에 넣어 놓는다고 해서 다른 AI나 인간에 대해 추론하는 방법을 저절로 알게 되는 것은 아니다”며 “그들을 풍부한 내면을 가진 존재가 아니라 물리적 세계의 일부처럼 취급할 수 있다”고 설명했다.

협업의 관건은 단순한 정보 교환이나 업무 분담이 아니다. 함께 일하는 상대의 생각과 상황을 파악하고, 서로 다른 목표와 관점을 조율해 공동의 결과를 만들어내는 능력이다.

◇“사람과 함께 있는 환경에서 AI 훈련해야”

그렇다면 AI에 인간의 사회적 맥락을 이해하는 능력을 어떻게 가르칠 수 있을까. 굿맨 교수가 창업한 AI 기업 humans&(휴먼스앤)는 사람과 다른 에이전트가 함께 존재하는 환경에서 AI를 훈련하는 방법을 택했다.

그는 “AI에 깊이 있는 협업을 가르치는 유일한 방법은 사람과 다른 에이전트가 있는 환경에서 훈련하는 것이라는 게 우리의 판단”이라고 말했다. 인간이 다른 사람들과 함께 생활하고 배우면서 사회적 능력을 익히듯 AI도 상호작용을 통해 협업 능력을 배워야 한다는 설명이다.

문제는 실제 사람을 AI 훈련 과정에 대규모로 참여시키기 어렵다는 점이다. humans&는 이를 보완하기 위해 실제 인간을 모사한 시뮬레이션 인물을 활용한다.

굿맨 교수는 “AI 시스템을 훈련하는 동안 실제 인간을 사용할 수 없는 경우가 많다”며 “대신 훈련 과정에서 좋은 대리 역할을 할 수 있는 시뮬레이션 인간이 필요하다”고 설명했다. 이어 “이 분야에서 최근 상당한 진전을 이뤘다”고 덧붙였다.

이 같은 방식은 AI가 개별 질문에 정답을 내거나 정해진 업무를 수행하는 데 그치지 않고, 여러 사람이 함께 있는 상황에서 상대의 의도를 파악하고 적절히 행동하도록 훈련하는 데 초점을 맞춘다.

◇기업 AI, 업무 자동화 넘어 조직의 조율자로

굿맨 교수가 협업형 AI의 가능성을 크게 보는 분야는 기업이다. 조직 규모가 커질수록 부서와 구성원 사이에 정보 격차와 소통의 장벽이 생긴다. 조직 전체의 맥락을 이해하는 AI라면 이런 마찰을 줄이고 구성원 사이의 협력을 촉진할 수 있다는 게 그의 전망이다.

그는 “조직 전체의 맥락을 이해하는 AI는 조직이 커지면서 필연적으로 생기는 마찰과 장벽을 낮출 수 있다”고 말했다.

구체적인 역할도 제시했다. 비슷한 일을 하는 사람들을 서로 연결하고, 특정 분야의 전문성을 가진 구성원을 필요한 사람에게 소개하는 식이다. 의견이 엇갈리는 토론을 중재해 합의된 계획을 도출하고, 조직 전체의 목표와 진행 상황을 점검하는 일도 가능하다.

AI가 개인의 업무를 대신하는 수준을 넘어 조직의 협업 구조를 개선하는 역할까지 맡을 수 있다는 얘기다. 이에 따라 성과를 평가하는 기준도 달라져야 한다고 굿맨 교수는 강조했다. 업무 속도와 정확도, 비용 절감만으로는 조직 전체에 미친 영향을 측정하기 어렵다는 것이다.

그는 AI의 가치를 평가하는 방식을 경영 컨설턴트에 비유했다. “개별 과제를 얼마나 잘 수행했는지를 평가하는 방식이 아니라, 조직을 정비하기 위해 투입된 컨설턴트가 얼마나 가치를 가져왔는지를 평가하는 방식으로 생각해야 한다”는 설명이다.

평가 기준으로는 세 가지를 제시했다. “AI와 상호작용한 결과 조직의 생산성이 높아졌는지, 조직 구성원들이 더 큰 만족감을 느끼는지, 조직이 새로운 도전에 더 성공적으로 나설 수 있게 됐는지를 살펴봐야 한다”고 말했다.

AI가 얼마나 많은 업무를 자동화했는지만 따져서는 조직에 가져온 변화를 온전히 파악할 수 없다. 사람과 사람을 연결하고 의사결정을 돕는 것은 물론, 조직이 새로운 문제에 대응하는 능력까지 평가해야 한다는 의미다.

AI가 인간보다 더 많은 일을 할 수 있는지를 겨루는 경쟁은 계속되고 있다. 굿맨 교수가 던지는 질문은 그 다음 단계에 있다. 더 많은 일을 스스로 처리하는 AI를 넘어, 인간의 생각과 관계를 이해하고 함께 일하는 AI를 어떻게 만들 것인가. 오는 11월 12일 GAIF 기조연설에서 그가 어떤 비전을 제시할지 관심이 쏠린다.

◇노아 굿맨(Noah Goodman)

스탠퍼드대 심리학·컴퓨터과학 정교수(언어학 겸임)이자 AI 스타트업 휴먼스앤드(humans&) 공동창업자. 미국 텍사스대 오스틴캠퍼스 수학 박사로, MIT 뇌인지과학과 연구과학자를 지냈다. 스탠퍼드 계산·인지 연구실(CoCoLab) 소장 및 인간중심 AI 연구소(HAI) 핵심 연구진으로 활동했다. 우버 AI 연구소 수석 과학자를 역임했으며, 오픈소스 확률적 프로그래밍 언어 파이로(Pyro)와 웹피피엘(WebPPL) 개발을 주도했다. 미국 인지과학회 글루시코상 등을 수상했다.