리처드 호 오픈AI 하드웨어 부문 부사장은 30일 서울 서초동 삼성 사옥에서 열린 '삼성 AI 포럼 2026'에서 기조연설을 하고 있다. (사진=삼성전자)
리처드 호 오픈AI 하드웨어 부문 부사장은 30일 서울 서초동 삼성 사옥에서 열린 ‘삼성 AI 포럼 2026’ 기조연설에서 삼성전자의 챗GPT 엔터프라이즈 전사 도입을 언급하며 “이미 시스템에 대한 접근 권한을 확보한 만큼, 이제 전략적 과제는 각 부서의 도메인 지식을 바탕으로 이를 실제 유용한 업무 성과와 워크플로우로 변환하는 것”이라고 조언했다.
이날 연설에서 호 부사장은 ‘챗봇에서 에이전트 워크플로우로’를 주제로 AI 활용 패러다임의 변화를 설명했다. 그는 “챗봇이 대화형 방식으로 질문에 답하는 데 그친다면, 에이전트는 목표를 부여받았을 때 도구를 활용해 여러 단계를 스스로 실행하고 검증된 결과물(Artifact)을 만들어낸다”며 “단순히 답변을 얻는 것에서 벗어나 기계에게 업무 실행을 위임(Delegate)하는 시대로 넘어갔다”고 말했다.
이어 기업 현장에서의 에이전트 확산 성과를 공개했다. 오픈AI 보고서에 따르면, 에이전트 토큰 활용 집적도가 높은 선도 기업(상위 10%)과 일반 기업 간의 격차는 올해 6월 기준 8.3배로 지속해서 벌어지고 있다. 도입 직무 역시 소프트웨어 엔지니어링 성장을 넘어 법무(108배), 영업(41배), 채용(41배), 마케팅(26배) 등 전사적 영역으로 급증하는 추세다.
호 부사장은 “에이전트 기반 워크플로우를 잘 활용하는 법을 깨달은 기업들은 거기서 엄청난 가치를 발견하고 있으며, 이에 따라 사용량을 폭발적으로 늘리고 있다”며 “더 많이 투입하고 시도할수록 그렇지 않은 기업들과의 격차는 더욱 벌어질 것”이라고 밝혔다.
◇‘90일 실행 계획’과 검증 루프가 핵심 전략
그는 기업들의 에이전트 도입을 위한 핵심 전략으로는 ‘90일 실행 계획’과 ‘검증 메커니즘’을 제시했다. 호 부사장은 “에이전트가 넓은 범위를 탐색하더라도 결과의 수용을 위해서는 매우 정교한 검증 조건이 충족되어야 한다”며 “에이전트가 가동될 때 올바른 작업을 수행했는지 스스로 파악하고 사람이 이를 최종 확인할 수 있는 검증 메커니즘을 반드시 함께 구축해야 한다”고 설명했다.
이를 위해 △1~30일간 명확한 업무 선정 및 기준 수립 △31~60일간 도구 권한 부여 및 파일럿 실행 △61~90일간 주기 시간·품질·비용 측정 후 확장을 제안했다.
오픈AI가 직접 개발한 첫 번째 커스텀 추론 칩 ‘할라페뇨(Jalapeño)’의 실제 적용 사례도 소개했다. 오픈AI는 할라페뇨 프로젝트에 에이전트 워크플로우를 투입해 RTL 작성부터 테이프아웃(Tape-out)까지 단 9개월만에 완수했다. AI 보조 설계를 통해 베이스라인 대비 매트릭스 면적 유닛을 10% 감소시키고 전체 칩 면적을 약 13% 절감했으며, 딥시크(DeepSeek) MLA 커널 최적화를 통해 성능을 초기 대비 약 287배 향상시켜 이론적 한계선(Roofline)의 88.94%까지 끌어올렸다.
◇반도체 설계부터 글로벌 현장까지 성과 입증
호 부사장은 “반도체 칩 설계와 같은 복잡한 엔지니어링 환경에서도 AI 에이전트 워크플로우는 실제로 작동하며 놀라운 성과를 만들어낸다”고 강조했다. 또 약 2주 만에 인터랙티비티 성능을 2배 이상 끌어올리고 대기 시간을 최대 72% 단축한 점을 언급하며, 시스코(Cisco), 트래블러스(Travelers), 버진 애틀랜틱(Virgin Atlantic) 등 에이전트를 도입해 개발 및 운용 효율을 비약적으로 개선한 글로벌 기업 사례들을 공유했다.
호 부사장은 AI 도입에 따른 일자리 우려에 대해 인간과 에이전트의 역할 분담을 명확히 했다. 그는 “에이전트가 인간의 일자리를 대체하러 오는 것이 아니며, 인간의 역할은 에이전트를 가동하고 유용하게 만들어 이전보다 훨씬 더 많은 일을 해내는 방향으로 변화할 것”이라며 “에이전트가 더 많은 실행을 담당하더라도 목적을 정의하고 결과의 타당성을 결정하는 책임은 여전히 인간에게 있다”고 단언했다.









