특히 고대역폭메모리(HBM)와 고대역폭플래시(HBF) 등 차세대 AI 반도체 분야에서는 설계 복잡성이 커지고 있어 AI 에이전트를 활용한 연구개발(R&D) 자동화가 새로운 경쟁력으로 떠오르고 있다.
KAIST 전기및전자공학부 김정호 교수가 이끄는 테라랩(TERA Lab)은 오는 11일 온라인 행사 ‘TERA AI Agent Day’를 개최한다고 5일 밝혔다. 김 교수의 기조강연을 비롯해 학생 연구원 15명 안팎이 직접 개발한 AI 에이전트의 구조와 반도체 설계 및 연구 업무 적용 사례를 공개한다.
김 교수는 ‘차세대 HBM·HBF 설계를 위한 지능형·자율형 AI 에이전트 아키텍처(Future AI Agent Architecture for Intelligent & Autonomous HBM, HBF Design)’를 주제로 기조강연한다. 여러 전문 에이전트와 설계 소프트웨어를 연결해 복잡한 반도체 엔지니어링 업무를 수행하는 미래형 연구개발 구조를 설명한다.
반도체 설계는 회로와 패키징뿐 아니라 신호 무결성(SI), 전원 무결성(PI), 열 무결성(TI), 전자파 간섭(EMI) 등 다양한 전문 분야가 얽혀 있다. 한 분야의 설계 결과가 다른 분야의 성능과 제약 조건에 영향을 미치기 때문에 반복적인 시뮬레이션과 검증이 필요하다.
김 교수는 이런 복합적인 작업을 하나의 AI 모델에 맡기기보다 분야별 전문 에이전트에 나눠 맡기고, 이들을 연결해 협업시키는 구조를 제시한다.
강연에서는 AI 에이전트가 작업을 계획하고 실행하는 하네스(Harness) 구조와 수행 결과를 반복적으로 점검하고 개선하는 루프(Loop) 구조를 다룬다. 에이전트가 이전 작업과 연구 데이터를 활용할 수 있도록 하는 메모리 및 검색증강생성(RAG) 기반 데이터 구조도 소개한다.
특히 AI의 확률적 판단과 규칙에 따른 확정적 판단을 결합하는 방식에 주목한다. AI가 설계 대안을 탐색하고 작업을 수행하더라도 정해진 설계 규칙과 검증 기준을 적용해 오류를 줄여야 하기 때문이다. 필요한 단계에서는 인간 전문가가 결과를 확인하고 의사결정에 개입하는 인간 참여형(Human-in-the-Loop) 구조도 강조한다.
서로 다른 에이전트와 반도체 설계 소프트웨어를 연결하는 기술도 주요 내용이다. 응용프로그램 인터페이스(API), 모델 컨텍스트 프로토콜(MCP), 에이전트 간 통신 기술인 A2A(Agent2Agent) 등을 활용해 개별 에이전트와 전문 도구를 하나의 협업 체계로 구성하는 방향이다.
이는 AI가 설계 업무 일부를 대신하는 수준을 넘어 설계 목표에 따라 작업을 나누고, 각 에이전트의 실행 결과를 검토·개선하면서 전체 연구개발 과정을 관리하는 구조다. 설계의 복잡도에 따라 에이전트의 역할을 분담하고, 최종적인 기술 판단에는 인간 전문가가 참여하는 방식이다.
◇HBM 채널·전력·열 분석부터 설계 자동화까지
기조강연에 이어 학생 연구원들은 실제 반도체 설계에 AI 에이전트를 적용한 사례를 발표한다.
오전 1부에서는 HBM·HBF 채널 분석과 신호·전원 무결성, 실리콘관통전극(TSV), 전력 분배망(PDN) 등 전문적인 설계·분석 업무에 적용한 사례를 소개한다.
대표적으로 HBM·HBF 채널에서 발생하는 전력 잡음 요소를 반영해 신호 품질을 분석하는 AI 에이전트가 공개된다. 전력과 열 특성을 고려해 TSV 배치를 최적화하는 대규모언어모델(LLM) 기반 멀티 에이전트 협업 구조도 발표한다.
이 밖에 신호 무결성 모델의 검증과 복구, 인터포저 채널 최적화, 범프의 산란 파라미터(S-parameter) 자동 추출, 전력 분배망 모델링 등 반도체 설계 현장의 구체적인 문제를 해결하기 위한 기술도 소개한다.
학생 연구진은 시놉시스(Synopsys)의 3차원 전자기장(EM) 시뮬레이션 소프트웨어 등을 활용해 인쇄회로기판(PCB) 설계와 임피던스 자동 매칭 등에도 AI 에이전트를 적용하고 있다.
오후 2부에서는 논문 작성과 문헌 조사, 연구계획 수립, 이메일 관리 등 연구자의 일상 업무를 자동화하는 사례가 발표된다. LaTeX 기반 학술 논문 작성과 편집, 관련 문헌과 시뮬레이션 결과를 바탕으로 연구 방향을 제안하는 에이전트 등이 대표적이다. 논문·문헌 관리, 학회 일정 관리, 이메일 답변 자동화, PC 상태 진단 등도 발표 주제에 포함됐다.
학생들이 기존 상용 AI 서비스를 이용하는 데 그치지 않고 각자의 연구 분야와 업무에 필요한 에이전트를 직접 개발하고 여러 에이전트를 연결해 활용한다는 점이 특징이다. 테라랩은 학생 1인당 2개 이상의 에이전트를 구축하는 것을 목표로 하고 있다.
◇엔지니어 한 명이 여러 AI 에이전트 지휘하는 시대
테라랩이 제시하는 미래상은 엔지니어 한 명이 여러 전문 AI 에이전트를 지휘하는 ‘1인 다중 에이전트’ 환경이다.
엔지니어가 모든 설계와 분석을 직접 수행하는 대신 문제를 정의하고 작업을 세분화한 뒤 각 분야에 적합한 에이전트와 설계 도구에 업무를 맡기는 방식이다. 에이전트들이 내놓은 결과를 통합하고 정확성을 검증하는 역할은 엔지니어가 담당한다.
이에 따라 엔지니어에게 요구되는 역량도 달라질 전망이다. AI에 질문을 잘하거나 개별 업무에 AI를 활용하는 수준을 넘어 복잡한 문제를 해결할 수 있도록 작업을 설계하고, 적절한 에이전트와 도구를 선택하며, 이들의 결과를 검증하는 능력이 중요해진다.
김 교수는 “앞으로 공학자와 개발자의 경쟁력은 AI를 단순히 사용하는 능력을 넘어 다양한 전문 AI 에이전트를 직접 설계하고 이들이 유기적으로 협력하도록 만드는 능력에서 결정될 것”이라며 “미래의 연구자는 AI와 함께 연구하는 단계를 넘어 AI 에이전트 생태계를 설계하고 운영하는 ‘AI 에이전트 아키텍트(Agent Architect)’로 진화할 것”이라고 말했다.
이어 “반도체 설계와 연구개발은 회로, 패키징, 신호·전원·열 무결성 등 다양한 전문 분야가 복합적으로 연결된 고난도 엔지니어링 영역”이라며 “AI 에이전트가 이러한 전문 업무를 분담하고 협업하도록 만드는 흐름은 반도체 연구개발 방식의 근본적인 변화를 가져올 것”이라고 강조했다.
테라랩은 김 교수가 KAIST 교수로 부임한 1996년 설립돼 올해 30주년을 맞았다. 올해 10월 말 기준 박사 71명, 석사 52명 등 총 123명의 졸업생을 배출했다. 현재 박사과정 10명과 석사과정 9명 등 19명의 연구원이 HBM·HBF, 패키징, SI·PI·TI·EMI, 메모리 중심 AI 컴퓨팅 아키텍처와 AI 에이전트 기반 반도체 설계 자동화 등을 연구하고 있다.
한편 이번 행사는 11일 오전 8시부터 오후 4시20분까지 온라인 화상회의 플랫폼 줌(Zoom)으로 진행된다. 행사 발표 영상은 추후 테라랩 홈페이지를 통해 공개할 예정이다.
