[이데일리 김현아 기자] 인공지능(AI)은 사람의 말을 이해하고 복잡한 문제를 해결하는 수준을 넘어 다른 사람의 의도와 감정을 읽고 여러 사람의 의견을 조율할 수 있을까. 노아 굿맨(Noah Goodman) 스탠퍼드대 교수는 AI가 인간 사회의 일원이 되려면 대화에 끼어들 때와 물러설 때를 구분하는 능력까지 갖춰야 한다고 봤다.

굿맨 교수가 2025년 9월 창업한 humans&(휴먼스앤)는 이듬해 1월 공식 출범했다. 전 xAI·앤스로픽 연구진 등이 공동 창업자로 참여했으며, 엔비디아와 제프 베이조스 등으로부터 4억8000만달러(약 6400억원)의 시드 투자를 유치했다. 당시 기업 가치는 44억8000만달러(약 6조원)로 평가됐다. 인간의 사회적 상호작용을 학습한 AI를 개발해 개인의 생산성을 높이는 데 그치지 않고 사람과 사람 사이의 관계까지 돕겠다는 것이 회사의 목표다.

굿맨 교수는 humans&를 세운 배경에 대해 “AI 모델의 인지 능력을 높이는 연구와 사회적 추론·상호작용을 다루는 인지과학 연구가 서로 다른 방향을 가리키고 있다는 점이 분명해졌다”고 설명했다. 수학과 코딩 문제를 잘 푸는 AI를 만드는 것만으로는 인간 집단의 역학을 이해하는 AI를 만들기 어렵다는 판단이었다. 이 아이디어를 사회에 실질적인 영향을 미칠 수준으로 확장하려면 막대한 연산 자원이 필요했고, 이를 위해 직접 연구 기업을 설립하게 됐다는 게 그의 설명이다.

◇가상 인간 수천 명과 수백만 일 분량 대화하며 훈련

사람의 사회성을 AI에 가르치는 일은 쉽지 않다. 실제 인간 수천 명을 AI 훈련 과정에 지속적으로 참여시키기는 어렵기 때문이다. humans&는 이를 해결하기 위해 가상 인간 모델 ‘퍼시몬(Persimmon)’과 시뮬레이션 피드백 기반 강화학습(RLSF)을 활용했다.

퍼시몬은 실제 사람처럼 서로 다른 성향과 반응을 보이도록 설계된 가상 인간 모델이다. 고집을 부리거나 어설픈 위로에 반발하고, AI가 무조건 동조하는 답변을 거부하는 등 다양한 반응을 보인다. 사람의 생각과 행동이 상황에 따라 달라지는 특성도 모사한다.

humans&는 가상 인물 수천 명이 참여하는 다자간 시뮬레이션을 통해 AI를 훈련했다. 수백만 일에 해당하는 가상 상호작용을 거치며 어떤 말과 행동이 합의를 이끌어내고, 어떤 대응이 갈등을 키우는지 학습시키는 방식이다.

이 과정을 거쳐 공개한 모델이 협업 특화 AI ‘앰퍼샌드(Ampersand v0.1)’다. 지난달 20일 API 형태로 공개된 이 모델은 여러 사람이 함께 대화하는 상황에서 공동의 목표와 각자의 입장을 파악하는 데 초점을 맞췄다.

◇무조건 대답하지 않는 AI…그룹 대화에서 ‘낄 때와 빠질 때’ 판단

앰퍼샌드의 차별점은 대화에 참여할지 말지를 스스로 판단한다는 점이다. 메시지가 올라올 때마다 답하는 일반적인 챗봇과 달리 ‘메시지 보내기’와 ‘넘어가기’ 중 하나를 선택하도록 설계됐다.

예를 들어 팀원이 금요일에 개인 일정으로 자리를 비운다고 미리 알렸다면 다른 대화에는 굳이 끼어들지 않는다. 하지만 이후 누군가 금요일 오전에 팀 전체 회의를 제안하면 앞서 공유된 정보를 바탕으로 일정 조정을 제안할 수 있다. 여러 사람의 대화 맥락을 기억하고 있다가 필요한 순간에 개입하는 것이다.

이런 협업 능력은 개발사가 공개한 자체 평가에서도 나타났다. humans&에 따르면 앰퍼샌드는 ‘협력적 지능 벤치마크’의 팀워크 평가에서 고도 추론 설정 기준 59.1%를 기록했다. 회사가 비교 대상으로 제시한 공개 오픈 웨이트 모델 중 가장 높은 점수인 49.8%를 웃돌았다.

앰퍼샌드의 기반 모델인 GLM 5.3과 비교하면 정보 공유 점수는 65%에서 89%로, 갈등 관리는 11%에서 30%로 높아졌다. 감성 지능은 25%에서 40%로, 팀의 업무 진행 상황을 유지하는 능력은 72%에서 83%로 개선됐다. 이는 humans&가 제시한 벤치마크와 평가 조건에 따른 결과로, 실제 조직에서의 협업 성과를 직접 입증한 것은 아니다.

앰퍼샌드를 기반으로 한 그룹 채팅용 AI 비서 ‘보바(Boba)’도 선보였다. 개인의 질문에 답하는 기존 AI 비서와 달리 가족·친구·동료 등 여러 사람이 함께하는 대화에서 각자의 선호와 공동의 목표를 파악하고 일정이나 계획을 조율하는 데 초점을 맞췄다. humans&는 이를 바탕으로 기업 조직의 협업을 돕는 제품군으로 사업을 확장할 계획이다.

초기 이용자 반응도 공개했다. humans&에 따르면 보바 이용자들은 100만 건 이상의 메시지를 주고받았다. 9월 19일 기준 설문 응답자는 290명으로, 설문 대상자의 29%가 답했다. 응답자 가운데 70%는 보바를 ‘매우 좋아한다’, 25%는 ‘좋아한다’고 평가했다. 개발사가 공개한 초기 이용자 설문 결과인 만큼 전체 이용자의 만족도나 독립적인 성능 평가와는 구분할 필요가 있다.

◇“AI와만 대화하면 덜 행복”…인간관계 지키는 설계

humans&가 내세우는 또 다른 원칙은 AI에 대한 과도한 의존을 막는 것이다. 사용자가 AI와 대화하는 시간을 늘리는 것만을 성과로 삼지 않겠다는 뜻이다.

굿맨 교수는 AI가 인간에게 주는 직접적인 효과로 ‘독립성’을 꼽았다. 강력한 도구가 있으면 다른 사람의 도움 없이도 많은 일을 해결할 수 있지만, 그만큼 사람 사이의 연결이 약해질 수 있다는 설명이다.

그는 “고립은 인간의 깊은 행복과 반대되는 것”이라며 “상호의존성을 최적화한다는 것은 다른 사람과 맺는 건강한 관계를 중요한 가치로 삼고, AI가 그런 관계를 유지하고 키우도록 돕는 것”이라고 말했다.

이 원칙은 보바의 행동에도 반영된다. 사용자가 다른 사람들과는 거의 대화하지 않고 보바와만 오랜 시간을 보내는 상황을 AI가 감지한다면, 대화를 계속 이어가는 대신 실제 사람들과 교류하도록 유도할 수 있다는 것이다.

굿맨 교수는 “그런 상황이 장기적으로 사용자를 덜 행복하게 만들 것이라고 판단한다면 보바는 의도적으로 덜 다정하게 반응하거나, 다른 사람들을 대화에 초대하자고 제안할 수 있다”고 설명했다.

사용자를 오래 붙잡아 두는 대신 실제 사람들과의 관계를 회복하도록 돕는 AI. 인간을 대신하는 기술이 아니라 인간과 인간을 연결하는 기술을 만들겠다는 것이 humans&의 목표다.

◇노아 굿맨(Noah Goodman)

스탠퍼드대 심리학·컴퓨터과학 정교수(언어학 겸임)이자 AI 스타트업 휴먼스앤드(humans&) 공동창업자. 미국 텍사스대 오스틴캠퍼스 수학 박사로, MIT 뇌인지과학과 연구과학자를 지냈다. 스탠퍼드 계산·인지 연구실(CoCoLab) 소장 및 인간중심 AI 연구소(HAI) 핵심 연구진으로 활동했다. 우버 AI 연구소 수석 과학자를 역임했으며, 오픈소스 확률적 프로그래밍 언어 파이로(Pyro)와 웹피피엘(WebPPL) 개발을 주도했다. 미국 인지과학회 글루시코상 등을 수상했다.