김정호 KAIST 전기및전자공학부 교수는 11일 자신이 이끄는 테라랩(TERA Lab)이 주최한 ‘TERA AI Agent Day’에서 ‘AI 에이전트 기반 지능형·자율형 HBM·HBF 설계’를 주제로 발표했다. 김 교수는 반도체 설계 전문기업 알세미(Alsemy)의 최고기술책임자이기도 하다.
김 교수가 제시한 구상은 100개 전문 AI 에이전트와 이를 총괄하는 슈퍼 에이전트의 협업이다. 슈퍼 에이전트가 엔지니어의 자연어 요청을 해석해 작업을 계획하고 각 전문 에이전트에 업무를 배분한다.
연구 에이전트는 관련 기술과 기존 설계 자료를 검색하고, 시뮬레이션 에이전트는 분석과 결과 비교를 수행한다. 최적화 에이전트는 설계 대안을 탐색하고 개선하며, 검증 에이전트는 공정 조건과 제조 규칙 등을 확인한다.
AI 에이전트의 주요 적용 분야는 고대역폭메모리(HBM)의 신호·전력·열 무결성(SI·PI·TI) 분석이다. 알세미의 AI 에이전트 ‘알시피티(Alsipiti)’는 반도체 패키지와 인쇄회로기판(PCB), 인터포저, 칩 수준에서 신호·전력·열 특성을 분석하도록 설계됐다.
신호 무결성(SI) 분야에서는 아이 다이어그램과 시간영역 반사측정(TDR) 시뮬레이션, 신호 전송 경로인 채널 최적화를 지원한다.
전력 무결성(PI) 분야에서는 전력분배망(PDN)과 전원 잡음(SSN)을 분석하고, 전원 안정화를 위한 디커플링 커패시터 배치를 최적화한다. 열 무결성(TI) 분야에서는 열 시뮬레이션과 냉각 방식 평가, 냉각 구조 최적화를 수행한다.
HBM의 열 방출을 개선하기 위한 관통 열 비아(TTV) 최적화 사례도 소개됐다. AI 에이전트가 시뮬레이션을 반복하면서 TTV를 추가하거나 위치를 옮기고 불필요한 비아를 제거하는 방식이다. 발표 자료에는 1단계부터 200단계까지 최적화가 진행되는 과정이 담겼다. 열을 낮추는 동시에 신호 연결에 필요한 실리콘 관통전극(TSV) 공간과 신호 품질을 고려해 설계 균형을 찾는 것이 목표다.
AI와 엔지니어의 협업 효과를 보여주는 실험도 공개됐다. 김 교수는 반도체 전력분배망의 임피던스를 낮추기 위한 유전 알고리즘(GA) 최적화에서 사람이 전부 작성한 알고리즘과 챗GPT의 도움을 받아 약 80%를 구성한 알고리즘의 성능을 비교했다.
최적화 점수는 각각 17.6422와 17.6421로 거의 차이가 없었다. 챗GPT 협업 방식의 결과 표준편차는 0.02376으로 제시됐다. AI의 도움을 받아 알고리즘 작성 시간을 줄이면서도 비슷한 최적화 결과를 얻을 수 있음을 보여준 실험이다.
◇엔지니어 경험도 AI가 학습…기업별 지식 축적
김 교수가 강조한 또 다른 경쟁력은 반도체 전문 지식의 축적이다. AI 에이전트의 성능은 거대언어모델(LLM) 자체만으로 결정되지 않는다. 설계 자료와 엔지니어의 판단, 과거 작업 결과를 데이터베이스에 축적하고 이를 검색증강생성(RAG)과 추가 학습에 활용해야 한다는 설명이다.
발표에서는 지식 데이터베이스를 개인·그룹·기업 단위로 구축하는 방안도 제시됐다. 개인 엔지니어의 설계 경험부터 연구팀의 기술 자료, 기업 내부의 설계 규칙까지 체계적으로 축적해 AI가 필요할 때 검색하고 활용하도록 하는 구조다. 축적된 지식은 다른 엔지니어와 공유하거나 후속 프로젝트에 재사용할 수 있다.
AI 에이전트가 작업을 안정적으로 수행하려면 모델뿐 아니라 실행을 관리하는 하네스(Harness)도 필요하다. 하네스는 AI 모델의 도구 사용과 실행 과정을 관리하는 체계다. 작업 반복, 도구 연동, 문맥, 기억, 실행 통제 등을 담당한다. 모델이 다음 행동을 판단하면 하네스가 허용된 도구를 실행하고, 그 결과를 다시 모델에 전달해 다음 작업으로 이어간다.
기업 내부 정보 보호를 위해 로컬 LLM과 클라우드 LLM을 함께 사용하는 방안도 제시됐다. 로컬 LLM은 기업 내부 데이터를 외부로 보내지 않고 처리할 수 있지만 모델 규모와 추론 능력에 제약이 있다. 클라우드 LLM은 추론 성능과 긴 문맥 처리에 유리하지만 정보 유출 우려와 이용 비용이 발생할 수 있다. 업무의 보안 수준과 복잡도에 따라 두 방식을 조합하는 구상이다.
◇AI 자동화와 인간 승인 병행…HBM·HBF 설계로 확장
발표에서는 AI 에이전트의 활용 범위를 개별 설계 업무에서 HBM·HBF를 포함한 메모리 시스템 설계로 넓히는 방향도 제시됐다. 그래픽처리장치(GPU)와 고속 연산용 HBM, 테라바이트급 저장장치인 고대역폭플래시(HBF)를 결합하는 아키텍처다. 각 메모리의 베이스 다이에 연산 기능을 집적하고, HBM과 HBF 사이에는 범용 칩렛 상호연결 기술(UCIe)을 적용하는 구상도 소개했다.
AI가 반도체 설계 전 과정을 독자적으로 수행하는 것은 아니다. 발표 자료는 설계 업무를 AI가 자동화할 영역, AI가 보조할 영역, 엔지니어가 직접 판단할 영역으로 구분했다. 특히 최종 설계 확정과 테이프아웃, 양산 단계에서는 엔지니어의 승인을 거치도록 했다. AI의 자동화와 사람의 최종 판단을 결합하는 인간 개입형 설계 체계다.
반도체 설계·공정이 복잡해지고 개발 주기가 짧아지면서 전문 엔지니어의 경험과 설계 생산성이 중요해지고 있다. 김 교수가 제시한 방향은 AI 에이전트가 반복적인 분석과 최적화를 맡고, 엔지니어의 경험은 조직의 지식으로 축적해 활용하는 것이다. 엔지니어 한 명이 여러 AI 에이전트를 지휘하며 설계와 검증을 진행하는 방식이 반도체 개발 현장의 변화를 이끌 수 있다는 설명이다.
