(AI 생성 이미지)
임일 연세대 AI미래혁신센터장 겸 AI혁신연구원 부원장(경영학과 교수)은 최근 ‘생성형 AI가 사용자 인지역량에 미치는 영향과 정책적 시사점’ 논문에서 이같이 밝혔다. 임 교수는 정보시스템(IS), 심리학, 인간-컴퓨터 상호작용(HCI), 신경과학, 교육학 분야의 국내외 문헌 37편을 분석해 생성형 AI가 인간의 인지역량에 미치는 영향과 대응 방안을 종합했다.
임 교수는 생성형 AI에 대한 습관적 의존이 단순히 사고량을 줄이는 데 그치지 않고, AI의 답을 스스로 검토하고 판단하는 습관까지 약화시킬 수 있다고 진단했다. AI를 활용하되 사람이 직접 생각하고 판단해야 할 핵심 영역까지 맡겨서는 안 된다는 것이다.
◇AI에 맡기지 말아야 할 ‘사고의 영역’ 따로 남겨야
임 교수는 이에 따라 업무와 학습 과정에서 인간의 사고가 반드시 필요한 영역을 별도로 구분할 필요가 있다고 봤다.
그는 “전체 업무 혹은 학습 과정에서 과업 기획 단계, 핵심 아이디어 브레인스토밍, 최종 논리 검증 단계 등 중추적 고등 인지 영역에서는 생성형 AI 사용을 차단하는 ‘AI프리존’을 제도화함으로써 사용자의 인지적 자율성을 제도적으로 사수해야 한다”고 강조했다.
가령 업무를 처음 구상하거나 새로운 아이디어를 만들어내는 과정, AI가 만든 결과물이 논리적으로 맞는지를 최종적으로 판단하는 단계까지 AI에 맡기지 말자는 취지다. AI 활용 자체를 막기보다는 인간의 판단과 사고가 반드시 필요한 지점을 구분해 보호해야 한다는 것이다.
학습 초기 단계에서는 AI 사용을 보다 엄격하게 제한할 필요가 있다고 봤다. 기본 개념을 익히는 단계에서는 생성형 AI를 배제하고 사람이 직접 공부하며 개념을 체화하는 ‘선(先) 수동 학습(Manual First)’ 기간을 보장해야 한다고 제안했다. 기초적인 사고 능력이 자리 잡기 전에 AI에 의존할 경우 스스로 생각하는 훈련이 부족해질 수 있다는 취지다.
AI 서비스도 이용자에게 곧바로 완성된 답을 내놓는 방식에서 벗어나야 한다고 봤다. 이용자가 직접 해결 과정을 생각하도록 질문을 던지거나 반론 제기, 가설 검증을 유도하는 방식으로 설계할 필요가 있다는 것이다. 학습자의 이해도가 높아질수록 AI의 개입을 줄여 독립적인 사고를 유도하는 방식도 제시했다.
(AI 생성 이미지)
학교의 평가 방식 역시 AI 시대에 맞춰 바꿔야 한다고 제언했다. 생성형 AI가 완성도 높은 글과 답변을 쉽게 만들어내는 상황에서 최종 결과물만으로 학생의 역량을 평가하는 기존 방식에는 한계가 있다는 것이다.
임 교수는 학생이 AI와 어떤 질문을 주고받았고, AI가 내놓은 답변의 문제점을 어떻게 찾아 수정했는지 등 결과보다 과정을 중심으로 평가하는 체제로 전환할 필요가 있다고 지적했다. 일부러 오류나 환각, 논리적 약점이 포함된 여러 AI 답변을 제시한 뒤 학생 스스로 문제점을 찾아내고 답변의 순위를 매기게 하는 방식도 대안으로 제시했다.
궁극적으로는 AI가 아무리 그럴듯한 답을 내놓더라도 이를 그대로 받아들이지 않고 인간이 최종 판단권을 유지해야 한다고 강조했다. 임 교수는 이를 ‘인지적 주권’으로 설명하며 AI 결과물에 대한 최종 수용 여부와 책임은 인간에게 있어야 한다고 지적했다. 개인의 노력만으로 이를 유지하기 어렵다면 시스템 설계나 제도를 통해서라도 지원해야 한다는 주장이다.
임 교수는 “LLM은 올바른 제어 장치와 메커니즘 하에 활용될 경우 생산성 제고와 지적 협업을 돕는 ‘확장 도구’로 유용하지만, 무비판적이고 습관적인 외주화 수단으로 방치된다면 ‘인지 부채’의 가속과 ‘주권의 함정’을 이끌며 인지 생태계를 황폐화할 위험을 지닌다”고 밝혔다.
그러면서 “AI는 인간 사유의 대체재가 될 수 없다”며 “구조화된 프롬프팅, 메타인지 프롬프트, 선 수동 학습과 AI프리존, 과정 중심 평가 등 제도적 가이드라인과 설계적 마찰이 뒷받침될 때 비로소 인간과 AI 간의 진정한 인지적 파트너십이 실현될 수 있을 것”이라고 강조했다.
