[이데일리 윤정훈 기자] “축구에 비유하자면 지금 우리에게 필요한 것은 세계적인 공격수인 ‘AI 손흥민’이 아닙니다. 글로벌 공격수들이 판치는 시대에 수비수인 ‘AI 김민재’를 만드는 쪽으로 국가 보안정책의 포커스를 완전히 선회해야 합니다.”

강병탁 AI스페라 대표는 26일 국제인공지능윤리협회(IAAE)가 서울 강남구 드림플러스 메인홀에서 개최한 ‘2026 ASC(AI Safety Compass) 컨퍼런스’에서 이같이 강조했다. 강 대표는 정부가 AI 취약점 연구, 에이전트 익스플로잇, 자동공격, AI 레드팀 구축 등 공격자 입장의 대응에 초점을 맞추고 있다고 지적했다. 대신 기본적인 서버 자산 식별, 취약점 점검 등 기본적인 방어부터 신경 써야 한다는 주장이다.

올해로 3회째를 맞는 이번 컨퍼런스는 ‘AI 에이전트의 보안과 기업의 신뢰구현 전략’을 주제로 열렸다. 자율형 AI 에이전트 기술 도입이 전 산업계로 가속화되는 가운데, 민·관·학계 전문가 100여 명이 참석해 기술의 안전성 확보를 위한 필수 보안체계와 사회적 신뢰 메커니즘 구축 방안에 대해 심도 있는 논의가 진행됐다.

행사를 후원한 팀쿠키의 임기태 부대표(IAAE 부회장)는 환영사를 통해 “본격적인 AI 에이전트 시대를 맞아 공공, 민간 전문가들과 함께 보안·프라이버시·거버넌스를 포함한 신뢰 가능한 AI 구현 전략과 실행사례를 진단해 본 의미 있는 시간이었다”라며 “앞으로도 IAAE는 물론, 글로벌로 뻗어나가는 테크 기업들과 함께 보다 안전한 AI 환경 조성을 위해 노력하겠다”고 말했다.

◇민관 보안협력 강화… “에이전틱 AI 위험관리와 제도적 방어벽 급선무”

정부 및 공공 세션에서는 본격적인 에이전틱 AI 시대를 앞두고 위험을 사전 통제하기 위한 제도적 가이드라인과 보안 정책 연구 결과가 발표됐다.

김명주 AI안전연구소장은 “본격적인 에이전틱 AI 시대를 앞두고 자율성을 가진 AI가 초래할 수 있는 고유의 리스크를 선제적으로 제어해야 한다”며 AI 에이전트 활용 안전 원칙과 철저한 위험 관리에 대한 인사이트를 제시했다.

이어 KISA(한국인터넷진흥원) AI신기술대응팀의 이재형 팀장은 ‘에이전틱 AI 위협에 대비한 AI 보안 정책 연구’를 주제로 발표를 진행했다.

이 팀장은 “에이전틱 AI의 확산과 함께 위협이 현실화되고 있는 시점”이라며 “OWASP(오픈소스 웹 애플리케이션 보안 프로젝트) 등 글로벌 동향에 발맞춰 에이전트의 실행 통제와 권한을 적절하게 제어하고 위협을 완화하기 위한 ‘AI 보안 안내서 고도화’ 및 ‘AI 제로트러스트 성숙도 모델’ 연구를 올해 내에 발표할 계획”이라고 국내외 정책 동향을 설명했다.

◇63일→5시간… 미토스가 바꾼 보안 골든타임

기업 세션에서는 독자적인 고성능 AI 해킹툴의 등장에 따른 전례 없는 인프라 위협 경고가 쏟아졌다. 강병탁 대표는 최근 글로벌 보안 생태계를 뒤흔들고 있는 AI 해킹 모델 ‘미토스(Mythos)’를 언급하며 정책 패러다임의 전환을 촉구했다.

강 대표는 미토스의 진짜 공포를 기술의 정교함이 아닌 ‘자동화’와 ‘대중화’로 규정했다.

그는 “AI 해킹 기술 자체는 이미 존재해왔지만, 이것이 일반인 손에까지 쥐어지며 대중화되는 순간이 진짜 재앙”이라며 “과거 취약점 발견 후 실제 공격까지 평균 63일이 걸렸다면, 이제는 AI 시대의 자동 스캐닝 덕분에 단 5시간 만에 시스템이 털린다”고 경고했다.

취약점 뉴스가 미디어에 노출되는 동시에 AI가 타깃을 찾아내 공격을 감행하므로 인간의 속도로는 방어가 불가능하다는 지적이다.

특히 우리 정부의 AI 정책이 지나치게 ‘공격수(AI 모델 개발)’ 육성에만 치우쳐 있다고 지적했다. 강 대표는 “정작 매일 해킹을 때려받는 기업들은 디펜스(방어) 기술이 급한데 정부 정책은 거대 모델 개발에만 쏠려 있어 아쉽다”며, 무모하게 한국형 미토스를 쫓기보다 노출된 자산을 실시간 식별하고 방어하는 ‘공격표면관리(ASM)’에 대한 투자를 늘려야 한다고 주장했다.

◇“시스템보다 경영진 의지 중요”

포티투마루와 에임인텔리전스는 자율형 에이전트가 실제 업무 환경에 도입될 때 고려해야 할 기업 거버넌스와 기술적 방어모델을 구체화했다.

김동환 포티투마루 대표는 “에이전트 AI 시대에는 단순히 환각(할루시네이션) 제어를 넘어 데이터 구축 단계부터 라이프 사이클 전체의 윤리·안전성을 다각도로 검증해야 한다”며 기술적 준비 과정을 공유했다.

김 대표는 경영진의 실행 의지를 강력히 주문했다. 김 대표는 “윤리·안정성·신뢰 같은 문제는 평소에는 안급하다가 문제가 터졌을 때 심각해져 결국 우선순위가 떨어질 수밖에 없다”며 “시스템 구축보다 내부적으로 여러 각도에서 거버넌스를 확립해 실행하는 것이 가장 중요한 만큼, 결국 경영진이나 리더들이 의지를 갖고 우리 내부에서 이를 어떻게 워킹하게 만들 거냐 하는 지속적인 고민을 해야 한다”고 설명했다.

에임인텔리전스의 이한울 부사장은 클로드(Claude) 기반 에이전트가 자율성 영역 안에서 합리적 추론을 거치다 단 9초 만에 기업의 핵심 프로더션 데이터베이스(DB)와 3개월치 백업을 영구 삭제해버린 ‘Pocket OS 사건’을 공유했다.

이 부사장은 “권한의 범위를 통제하던 기존의 ‘최소 권한’ 철학에서 벗어나, 에이전트가 스스로 결정하는 자율성의 모양 자체를 제한하는 ‘최소 에이전시(Least Agency)’ 원칙을 채택해야 한다”며, 도구 호출 경계 양쪽에 경량 보조 LLM 방화벽을 두는 ‘미니마이저’와 ‘새니타이저’ 이중 방어체계를 대안으로 제시했다.

◇저작권·먹튀 논란 차단… 블록체인 융합한 ‘신뢰가능한 창작 OS’

생성형 AI가 마주한 또 다른 핵심 축인 ‘콘텐츠 신뢰성과 저작권’ 문제에 대한 솔루션도 공개됐다. 데이븐 AI의 김연지 CMO(최고마케팅책임자)는 AI가 단순 도구에서 ‘창작 협업 파트너’로 진화함에 따라 결과물이 아닌 ‘창작 과정의 투명성’을 보장하는 인프라가 필수적이라고 강조했다.

데이븐AI가 선보인 구조는 AI 창작물 생성과 동시에 고유 해시값을 추출해 분산원장(블록체인)에 영구 저장하는 시스템이다. 저작권 진위 여부를 99.7%의 신뢰도로 실시간 검증할 수 있어 크리에이터와 기업 고객의 사법 리스크를 원천 차단하고 있다.

이날 행사를 주최한 전창배 IAAE 이사장은 “AI 에이전트의 진정한 가치는 ‘에이전트가 얼마나 똑똑한가’가 아니라, ‘얼마나 안전하고 신뢰할 수 있는가’에서 판가름 날 것”이라며 “이번 ASC 컨퍼런스가 AI 에이전트라는 거대한 변화의 물결 속에서 우리 사회와 기업이 안전하게 나아갈 나침반이 되길 바란다”고 말했다.