[경산=이데일리 홍석천 기자] 대구대가 총사업비 186억4100만원 규모의 국가 사이버보안 인공지능(AI) 파운데이션 모델 개발에 참여한다. 대구대 연구진은 개발된 보안 AI가 외부 공격이나 악의적인 명령 조작에도 안정적으로 작동하는지를 검증하는 역할을 맡는다.

대구대는 과학기술정보통신부 등이 추진하는 ‘국가 사이버 안보 역량 내재화를 위한 AI 파운데이션 모델 개발’ 사업의 참여기관으로 선정됐다고 8일 밝혔다.

이번 사업은 외국산 첨단 AI 모델에 대한 의존도를 낮추고 국내 사이버 위협 환경에 특화된 자체 AI 모델과 보안 서비스를 개발하는 국책 프로젝트다. 전체 컨소시엄에 투입되는 사업비가 186억4100만원이며 대구대의 개별 연구비 규모는 공개되지 않았다.

네이버클라우드가 컨소시엄을 주관하고 LG CNS와 LG AI연구원, LG유플러스 등 기업과 대학·연구기관이 참여한다. 대학에서는 대구대를 비롯해 한국과학기술원(KAIST), 포항공대, 서울대, 고려대 등이 연구를 수행한다.

컨소시엄은 네이버클라우드의 하이퍼클로바X를 기반으로 사이버공격을 탐지·분석하는 방어 특화모델을 개발한다. LG AI연구원의 엑사원(EXAONE)을 활용한 공격 특화모델과 여러 AI가 역할을 나눠 보안업무를 처리하는 멀티에이전트 서비스도 구축할 계획이다.

정부는 사업 수행을 위해 엔비디아 B200 기준 그래픽처리장치(GPU) 256장을 최대 10개월간 지원한다. 사업은 중간평가를 거쳐 2027년 7월까지 진행될 예정이다.

대구대에서는 김창훈 컴퓨터정보공학부 교수가 연구책임자를 맡아 AI 모델의 안전성과 신뢰성 검증 분야를 담당한다.

김 교수 연구팀은 공격자가 악의적인 명령을 입력해 AI의 안전장치를 우회하는 프롬프트 조작과 학습·입력 데이터를 교란하는 적대적 공격에 모델이 얼마나 견디는지를 평가한다. 유해성과 오남용 가능성을 수치로 진단하고 모델별 신뢰도를 비교할 수 있는 검증체계도 마련한다.

개발된 공격·방어 특화모델과 멀티에이전트 서비스는 안전성 검증을 거쳐 아파치 라이선스 2.0 기반의 오픈소스로 공개될 예정이다. 기업과 연구기관이 상업적 보안 서비스 개발에 활용할 수 있도록 하되 공격기술의 오용을 막을 안전장치를 확보하는 것이 과제로 꼽힌다.

김 교수는 “국가 안보와 직결되는 보안 AI인 만큼 공격 저항성과 신뢰성을 객관적으로 검증하겠다”며 “사업 참여 경험을 AI·사이버보안 실무인재 양성에도 활용할 계획”이라고 말했다.