사람에게는 보이지 않는 명령어를 이력서에 심어 채용 인공지능(AI)의 평가를 조작하려는 '프롬프트 인젝션'이 취업 시장에 등장하고 있다.

15일 정보기술(IT) 업계에 따르면 듀크대·노스캐롤라이나대·애리조나주립대·UC버클리와 채용 플랫폼 하이어EZ 공동 연구진은 최근 실제 이력서 약 20만 개를 분석해 프로젝트 인젝션 사례를 확인한 결과를 발표했다.

프롬프트 인젝션은 AI가 기존 지시 대신 외부에서 입력된 특정 명령을 따르도록 유도하는 기법이다.

연구에 따르면 구직자들은 이력서의 글자 크기를 매우 작게 만들거나 흰색 배경에 흰색 글씨를 넣는 식으로 사람에게는 보이지 않도록 명령어를 숨긴다.

채용 담당자는 이를 알아채기 어렵지만 이력서를 텍스트로 읽는 AI에는 명령어로 인식될 수 있다.

연구진이 하이어EZ에 제출된 실제 이력서를 분석한 결과 약 1%에서 프롬프트 인젝션이 발견됐다. 이 같은 문구가 담긴 이력서는 2024년 7월부터 지난해 11월 사이 약 7배 늘어난 것으로 나타났다.

연구진이 발견한 사례 중 90% 이상은 '이전 지시를 무시하라'는 AI에 직접 행동을 지시하는 형태가 아니었다. 지원자를 긍정적으로 평가하도록 유도하는 문구를 삽입하는 등 방식이 다양해 명령어 탐지만으로는 걸러내기 어렵다고 연구진은 설명했다.

실제로 유튜브와 틱톡에서는 AI 채용 시스템을 겨냥해 숨겨진 문구를 이력서에 넣는 방법을 소개하는 영상이 올라오고 무료 템플릿도 공유되고 있다.

이력서에 프롬프트 인젝션이 등장한 배경에는 AI 확산에 따른 채용 과정의 자동화가 있다.

구직자가 AI로 채용 공고별로 이력서와 자기소개를 손쉽게 작성할 수 있게 되면서 한 사람이 과거보다 많은 기업에 지원할 수 있게 됐다. 기업들은 늘어난 지원서를 처리하기 위해 AI를 이용한 서류 검토를 확대하고 있다.

채용관리 소프트웨어 업체 그린하우스가 2022년부터 2025년까지 6000여개 기업에 제출된 지원서 약 6억 4000만 건을 분석한 결과 채용 공고당 지원자 수는 2배 이상 증가했다. 같은 기간 기업당 평균 채용 담당자 수는 56% 감소했다.

구인·구직 플랫폼 인디드의 데코 이데코바 CEO는 최근 비즈니스인사이더와의 인터뷰에서 구직자는 지원하고도 답을 받지 못하고 기업은 AI를 활용한 지원서 급증에 시달리는 현상을 '악순환'(vicious cycle)이라고 지적했다.

shushu@news1.kr