오픈AI가 25일(현지시간) 미국에서 열린 반도체 학회 '핫칩스 2026'에서 자체 개발한 인공지능(AI) 추론 전용 칩 '할라피뇨(Jalapeño)'의 첫 벤치마크 결과를 공개했다. 이 칩은 반도체 분석업체 세미애널리시스의 공개 벤치마크 '인퍼런스X'로 엔비디아 블랙웰 기반 시스템과 비교한 결과 와트당 처리량이 1.5~1.9배 높았고, 종단 지연시간은 1.7~3.6배 짧았다. 챗GPT가 실제로 발생시키는 대화형·저지연 트래픽에서는 최대 4.1배 빠른 것으로 나타났다.

할라피뇨는 오픈AI가 지난해 10월 브로드컴, 셀레스티카와 맺은 10기가와트(GW) 규모 맞춤형 AI 가속기 공동개발 계약의 첫 결과물이다. 브로드컴이 반도체 설계와 네트워킹을, 셀레스티카가 시스템 통합을 맡았다. 랙 1개에 가속기 128개, 27.5테라바이트(TB)의 HBM4 메모리를 탑재해 4비트 연산 기준 1.7엑사플롭스의 성능을 낸다. 리처드 호 오픈AI 하드웨어 부문 부사장은 이 칩이 높은 처리량과 낮은 지연시간을 동시에 달성했다고 밝혔다.

블랙웰과 비교는 완전히 공정하지 않다는 지적도 나온다

세미애널리시스는 할라피뇨가 최신 HBM4 메모리를 쓴 반면 블랙웰은 이전 세대 메모리를 탑재해 비교가 완전히 공정하지는 않다고 지적했다. 같은 HBM4를 쓰는 엔비디아 차세대 '루빈' 플랫폼과 비교해야 더 정확하다는 설명이다. 할라피뇨는 추론 전용으로 학습(트레이닝) 시장은 여전히 엔비디아가 지배하고 있다. 오픈AI는 올해 안에 소규모로 이 칩을 배치하고, 2027년 본격 양산에 들어갈 계획이다.

자료