신종주 토스 페이스페이 모델링팀 리더는 최근 서울 신논현 토스 오피스에서 진행한 이데일리와의 인터뷰에서 “지난해 서비스 출시 이후 예상보다 빠르게 대중화돼 연구자로서도 보람을 느낀다”며 “동네 가게 사장님이 제가 토스 개발자인 줄 모른 채 단말기 도입을 칭찬할 때 특히 뿌듯했고, 결제 시장의 변화도 현장에서 체감했다”고 말했다.
신종주 토스 페이스 모델링팀 리더.(사진=토스)
◇얼굴 인식 실제 활용 어려움도 존재
페이스페이의 확산은 토스의 성장세와 함께 얼굴 인식 기술의 완성도가 맞물린 결과로 평가된다. 얼굴 인식만으로 결제가 가능한 편의성은 물론, 신분 확인, 본인 인증, 위·변조 방지, 예외 처리까지 복합적인 기술이 정교하게 구현되며 사용자 신뢰를 확보했다.
얼굴 인식 기술은 1960년대부터 연구돼 온 분야지만, 실제 상용화에는 높은 기술적 장벽이 존재한다. 조명, 노화, 화장, 신분증 사진과의 차이 등 다양한 변수로 인해 정확도를 유지하기 어렵기 때문이다. 이에 따라 얼굴 탐지, 랜드마크 추출, 인식 등 여러 단계의 모델이 결합된 복합 시스템이 필요하다. 토스 역시 다양한 개발 직군이 협업해 결제 경험을 완성하고 있다.
신종주 토스 페이스 모델링팀 리더.(사진=토스)
서비스는 가입과 결제 단계로 나뉜다. 가입 시에는 2차원 정보인 신분증 사진과 셀카를 통해 본인 정보를 등록하고, 결제 시에는 단말기에 설치된 카메라 2개가 동시 촬영을 해서 3차원 정보(굴곡 등)를 얻는다. 이 정보를 바탕으로 서버에 등록된 수백만 명 중 일치하는 사용자를 찾아내는 1:N 방식으로 인증한다. 애플의 얼굴 인식 기술인 ‘페이스아이디(Face ID)’가 단일 사용자 정보를 기반으로 하는 것 보다 복잡한 구조다.
이 과정에서 얼굴의 특징은 고차원 벡터 형태로 변환돼 저장되며, 원본 이미지로 복원이 어렵도록 설계된다. 특히 얼굴의 굴곡 정보는 사진과 실제 인물을 구별하는 데 중요한 역할을 한다.
대부분의 경우 자동 판별로 결제가 가능하지만, 일란성 쌍둥이처럼 구분이 어려운 경우에는 추가 인증 절차가 진행된다. 드물게는 전담 검수팀이 개입해 예외 상황을 처리하기도 한다.
◇라이브니스 디텍션 기술로 보안 강화 추진
토스는 안경 착용, 헤어스타일 변화, 노화처럼 얼굴 인식률에 영향을 줄 수 있는 요소까지 학습 데이터에 반영해 시스템 정밀도를 끌어올리고 있다. 최근에는 보안 강화에도 공을 들이고 있다. 토스는 금융권 수준을 넘어서는 보안 체계를 갖추는 한편, 해킹이 발생하더라도 원본 이미지를 복원하기 어렵도록 시스템을 설계했다. 신종주 리더는 “얼굴에서 추출한 사용자 벡터는 원본 이미지로 쉽게 복원할 수 없도록 설계돼 있고, 관련 정보도 암호화해 관리한다”며 “현장에서 얼굴을 촬영하는 단말기에도 결제에 필요한 정보가 남지 않도록 해 안전성을 높였다”고 설명했다.
토스는 결제 정확도뿐 아니라 오인식 방지, 예외 처리, 보안, 사용자 경험을 함께 끌어올리는 데 주력하고 있다. 실제로 사진을 보여주거나 가족 얼굴을 활용하는 식의 우회 시도가 드물게 발생하고 있어서다. 신 리더는 “부모 신분증을 도용해 가입을 시도한 사례도 있었다”며 “고객센터를 통해 상황을 정확히 판별해 대응하고, 이런 사례를 다시 시스템 개선에 반영하고 있다”고 말했다.
최근에는 사진, 영상, 딥페이크를 활용한 공격에 대응하기 위해 라이브니스 디텍션 기술 고도화에도 힘을 쏟고 있다. 입력된 생체 정보가 실제 사람으로부터 나온 것인지 판별하는 핵심 보안 기술이다.
신 리더는 “더 많은 이용자가 토스 페이스페이를 경험했으면 한다”며 “안정적인 서비스 운영과 함께 앞으로 등장할 다양한 공격 시도에도 대응할 수 있도록 기술 고도화를 이어갈 것”이라고 말했다.
◇신종주 토스 페이스 모델링팀 리더는
△POSTECH 컴퓨터공학 학·석·박사(2007년~2014년) △현 토스 페이스 모델링팀 리더(2025년 7월~현재) △카카오(카카오엔터프라이즈, 카카오브레인) 컴퓨터비전 연구원(2015년~2025년 6월)
