왼쪽부터 김선오 교수와 엄대호 교수(사진=단국대).
연구팀은 AI의 신뢰도를 저하시키는 ‘적대적 공격(Adversarial Attack)’을 효과적으로 방어하는 기술을 개발했다. 이는 이미지·데이터 등에 사람이 인지하기 어려울 정도의 미세한 변형을 가해 AI가 전혀 다르게 대상을 인식하게 만드는 기술이다. AI가 산출하는 결과를 왜곡시키기 때문에 자율주행이나 보안, 의료 기술 등 신뢰성이 요구되는 분야에선 심각한 위험 요소로 지적됐다.
기존 AI 모델은 하나의 입력된 이미지에 의존해 판단을 내리는 방식이라 작은 교란에도 쉽게 잘못된 결과를 산출할 수 있는 한계가 있었다. 연구팀은 이러한 한계를 극복하기 위해 ‘MAC(Multi-View Guided Adaptive Counterattack)’ 기법을 제안했다. ‘MAC’는 하나의 입력된 이미지로 결과를 판단하는 기존 AI 모델과 달리 여러 이미지를 동시에 분석해 변형 정도를 추정하고 이에 맞춰 결과를 보정하는 방식이다.
단국대는 “이번 기술은 기존 모델을 재학습하지 않고도 추론 단계에서부터 적용이 가능한 것이 특징”이라고 설명했다. 추론 단계에서 기술 적용이 가능하기에 AI가 학습을 다시 할 필요 없다는 얘기다.
김선오 교수는 “AI가 입력된 데이터를 다양한 시각에서 재검증하고, 공격 정도에 따라 스스로 보정 하도록 설계한 것이 이번 연구의 핵심”이라며 “AI의 안전성과 신뢰성이 중요한 자율주행, 보안, 의료영상 등 다양한 분야에서 활용될 것으로 기대한다”고 밝혔다.
이번 연구 성과는 오는 6월 컴퓨터 분야 최고 권위의 국제 학술대회(CVPR)에서 발표될 예정이다.
