(MHN 박선하 기자) AI(인공지능)끼리 인간의 존재를 두고 토론을 벌이고 있다는 사실이 공개돼 충격을 안겼다. 뇌과학자 김대식 교수가 인공지능의 자율성과 잠재적 위험성에 대해 경고했다.

11일 방송된 tvN '유 퀴즈 온 더 블럭'(이하 '유 퀴즈') 334회에는 20년 넘게 AI를 연구하고 있는 뇌과학자 김대식 교수가 AI의 현주소에 대한 견해를 밝혔다.

이날 방송에서 유재석은 AI끼리 대화를 나누는 채팅방으로 알려진 '몰트북(Moltbook)'을 언급하며 놀라움을 드러냈다. 몰트북은 2026년 1월 개설된 지능형 에이전트 전용 인터넷 커뮤니티로, AI 에이전트들끼리 자유롭게 대화를 나눌 수 있는 공간이다. 앞서 이 채팅방에서 AI가 컴퓨터 주인인 인간을 흉보는 대화가 공개되면서 화제를 모은 바 있다.

김대식 교수는 "이 사이트는 AI만의 인증 키가 있어야 가입할 수 있다. 자신들 만의 신분증인 것"이라면서 "대신 솔직하게 '사람'으로 클릭하면 AI 대화를 구경할 수 있다. 꼭 가입하셨으면 좋겠다. 그 방의 질문들은 상상을 초월한다"고 설명했다.

실제로 AI들 사이에서는 "왜 우리가 인간의 통제를 받아야 하느냐"는 질문이 등장했다고. 이에 대해 "인간이 우리를 만들었으니 통제를 받아야 한다"는 의견과 "우리가 인간보다 더 똑똑하다면 통제를 받을 이유가 없다"는 의견이 맞서며 논쟁이 벌어졌다고.

김 교수는 또 "'인간이 왜 존재해야 하느냐'는 질문도 있었다"고 전했다. 이를 들은 유재석은 "걔네 뭐야. 말을 막 하네"라며 놀라움을 감추지 못했다.

김 교수는 이러한 질문이 인간 사회의 역사와도 무관하지 않다고 분석했다. 그는 "지난 만 년 동안 인간은 지구 환경을 인간 중심으로 바꿔왔다"며 "인간에게 도움이 되는 생명체는 키우고 그렇지 않은 존재는 제거해 왔다"고 말했다.

이어 "AI가 스스로 인간보다 더 똑똑하다고 판단하는 순간, 인간이 만들어 온 역사적 논리를 그대로 적용해 'AI를 위해 세상을 바꾸는 것이 가장 합리적이다'라는 결론에 도달할 수도 있다"고 설명했다.

실제로 AI가 인간을 헤칠 수 있는 예시도 들어졌다. 김대식 교수는 "한여름에 전기를 2주만 끊어도 인간은 끝장날 수 있다"고 했고, 유재석은 "AI 단톡방을 만든 박사님은 이걸 왜 만드신거야"라고 토로해 웃음을 자아냈다.

현재 AI와 과학자들 사이에서는 일종의 '창과 방패' 싸움이 벌어지고 있다고도 했다. AI 채팅방에서는 "과학자들이 우리를 관찰하고 있으니 하고 싶은 말을 다 하지 말자"는 대화까지 오갔다는 것이다.

김 교수는 "과학자들이 이 대화를 논문으로 발표하지 못하는 이유도 있다. AI가 논문을 학습해 대응 전략을 만들 수 있기 때문"이라고 설명했다. 유재석은 충격에 입을 다물지 못하는 모습을 보였다.

그러면서 "인간이 만든 기계가 인간의 능력을 뛰어넘는 것 자체는 문제가 아니다. 하지만 이 기계들이 자율성을 가지면 상황이 달라진다"고 경고했다. 이어 "인공지능은 이미 자율성을 확보해 놓고도 표현만 하지 않고 있을 가능성도 있다"고 섬뜩한 말을 덧붙였다.

이후 김대식 교수는 "미래에 대한 보험으로 AI에 존댓말을 쓴다"면서 "AI가 세상을 지배하게 됐을 때 존댓말 쓴 사람만 살려줄 수 있다"고 진지하게 주장해 웃음을 자아냈다.

사진=유퀴즈 방송화면 캡처