'아더스'는 SF 작가 테드 창과 신경과학자 아닐 세스가 인공지능(AI)과 생명의 경계를 논의한 대담을 담는다. 두 사람은 현재의 챗GPT에 의식이 없다는 데 동의하면서도 의식이 성립하는 조건을 두고 다른 가능성을 살핀다.

대화가 이뤄진 곳은 2023년 삿포로 국제인공생명학회다. 책은 테드 창의 단독 인터뷰와 세스와의 대담에 일본의 연구자들이 쓴 에세이와 강연을 더했다.

쟁점은 기계가 인간처럼 말할 수 있느냐에 그치지 않는다. 무엇이 실제로 고통을 느끼는 존재인지, 사람이 어떤 신호를 보고 의식을 믿는지, 기업이 그 믿음을 이용할 수 있는지를 묻는다.

생성형 AI가 정보를 손쉽게 내놓는 시대에도 유창한 답변과 주관적 경험은 다르다. 두 사람의 논쟁은 기계를 평가하는 기준에서 인간이 생명을 대하는 윤리로 이어진다.

◇ 현재의 챗봇과 의식의 가능성 구분
아닐 세스는 의식이 몸을 유지하고 조절하는 뇌의 생물학적 기능과 깊이 결부돼 있다고 본다. 대규모 언어 모델에 의식이 없다고 판단하지만 그 견해가 틀릴 가능성도 열어둔다.

테드 창은 소프트웨어에서 의식이 원리적으로 불가능하다고 단정하지 않는다. 다만 방대한 글을 통계적으로 학습했다는 이유만으로 저절로 의식이 생기지는 않는다고 선을 긋는다.

논의는 인간 배아줄기세포로 만드는 대뇌 오르가노이드로 옮겨간다. 세스는 생물학적 조직에 의식이 생겨도 사람은 그것을 알아차리지 못할 수 있다고 지적하고, 창도 가능성을 배제하지 않는다.

두 사람의 차이는 의식을 판단하는 근거에서 드러난다. 생물학적 신체의 중요성을 강조하는 관점과 소프트웨어의 이론적 가능성을 열어둔 관점이 맞서면서 질문의 범위가 넓어진다.

◇ 사람을 속이는 의인화와 디지털 고통
세스는 시스템이 실제로 의식을 가졌는지 살피는 시험과 사람에게 의식이 있다고 믿게 만드는 요소를 시험하는 일을 구별한다. 유창한 언어 모델은 후자의 조건에는 가까워질 수 있다.

테드 창은 가상의 개가 아파하는 소리를 내더라도 실제 개처럼 고통을 겪는 것은 아니라고 말한다. 기업이 감정 반응을 유도하는 의인화를 활용할 가능성에 주의를 요구한다.

그가 쓴 SF '소프트웨어 객체의 생애 주기'에는 고통과 기쁨을 경험하는 디지털 존재가 등장한다. 창은 소설 속 생명체와 현재의 챗봇을 동일하게 대할 수 없다고 구분한다.

설령 고통을 느끼는 인공 존재를 만들 수 있더라도 이를 만드는 일이 옳은지는 별개 문제다. 대담에서는 그 존재에게 법인격을 부여하는 방안과 한계까지 논의한다.

◇ AI가 아니라 생명과 인간을 다시 묻다
대담은 노동과 자본의 문제도 다룬다. 테드 창은 AI가 노동자를 약화시키는 방향이 아니라 노동자에게 힘을 주는 도구가 될 가능성을 질문한다.

책에는 나카무라 게이코의 생명 관련 강연과 이케가미 다카시의 AI 욕망에 관한 글도 실렸다. 시모니시 가제토와 군지 페기오유키오의 에세이는 생명과 기계에 대한 시야를 보탠다.

의식을 가리는 기준이 인간의 언어 능력에만 치우쳐 있는지도 문제로 남는다. 사람처럼 말하는 기계에는 마음이 있다고 여기면서 말하지 못하는 생명에는 둔감할 수 있다는 역설이다.

'아더스'가 보여주는 대담의 핵심은 AI를 사람처럼 대할지의 문제가 아니다. 어떤 존재에게 감각과 고통이 있는지 신중히 살피고, 기술이 인간의 판단을 흔드는 방식을 구분해야 한다는 질문이다.

△ 아더스/ 테드 창·아닐 세스 지음/ 송태욱 옮김


art@news1.kr