샘 올트먼 오픈AI 최고경영자(CEO)와 호크 탄 브로드컴 CEO가 새 AI칩 ‘할라페뇨’ 시제품 웨이퍼를 들어보이고 있다. (사진=오픈AI)
할라페뇨는 기존의 AI 칩을 개조하거나 개선한 범용 가속기가 아니라 챗GPT·코덱스 등을 운영한 경험을 바탕으로 처음부터 설계한 주문형반도체(ASIC)다. 할라페뇨는 다양한 용도로 사용할 수 있는 엔비디아의 그래픽처리장치(GPU)보다 확장성은 떨어지지만 저렴한 가격에 추론 작업에만 집중 투입할 수 있다.
브로드컴은 할라페뇨가 오픈AI의 모델 뿐 아니라 모든 대형언어모델(LLM)과 호환 가능할 뿐 아니라 현재 최첨단 기술과 견줘 단위 전력(W)당 성능이 더 우수하다고 밝혔다. 기존 AI 칩에서 병목으로 작용했던 데이터 이동을 줄이고, 연산·메모리·네트워킹 자원의 균형을 맞춰 최대 성능을 구현했다는 설명이다.
탄 CEO는 할라페뇨에 대해 “엔비디아의 블랙웰 칩이나 구글의 텐서처리장치(TPU)만큼 성능이 뛰어나다”고 자평했다.
오픈AI와 브로드컴은 할라페뇨의 초기 설계부터 TSMC의 반도체 위탁생산(파운드리) 공장에 넘기는 ‘테이프아웃’ 단계까지 걸린 시간이 9개월에 불과했다고 밝혔다. 양사는 설계와 최적화 과정에서 오픈AI의 AI 모델을 활용해 개발 주기를 대폭 단축했다. 오픈AI는 “AI가 엔지니어들이 더 나은 칩을 더 빠르게 설계하도록 도울 수 있다면 업계 전반의 컴퓨팅 비용을 낮추고 고급 AI에 대한 접근성을 낮출 수 있다”고 밝혔다.
오픈AI가 할라페뇨를 개발한 것은 엔비디아에 대한 의존도를 낮추기 위한 것으로 해석된다. 엔비디아 그래픽처리장치(GPU)의 최대 단일 고객으로 알려졌다. 메타와 아마존, 앤스로픽도 자체 칩 개발을 추진 중이다.









