LLM 추론 전용 플랫폼
오픈AI가 자체 설계한 첫 AI 반도체를 공개했다. '할라피뇨(Jalapeño)'라는 이름의 신규 AI 칩은 대규모 언어모델(LLM) 추론에 특화된 제품으로, 브로드컴과 공동 개발했다.
오픈AI는 최근 샘 올트먼 CEO와 브로드컴 혹 탄 CEO가 참석한 자리에서 할라피뇨 AI 프로세서와 첫 생산 웨이퍼를 공개했다. 할라피뇨는 오픈AI가 자체 설계한 첫 AI 가속기다. 오픈AI는 해당 칩이 차세대 AI 컴퓨팅 플랫폼의 시작점이 될 것이라고 설명했다. 앞으로 여러 세대에 걸쳐 발전하는 자체 AI 반도체 플랫폼으로 확장한다는 계획이다.
오픈AI는 칩 설계부터 테이프아웃(Tape-out)까지 약 9개월이 소요됐다고 밝혔다. 할라피뇨는 범용 AI 가속기가 아닌 LLM 추론 전용 칩으로 개발됐다. ChatGPT와 Codex, API 서비스 운영 과정에서 축적한 경험을 바탕으로 현재와 미래의 대규모 언어모델에 최적화했다.
회사 측은 기존 AI 가속기의 처리량을 유지하면서도 전용 추론 시스템 수준의 응답 지연시간을 구현하는 것을 목표로 했다고 밝혔다. 엔지니어링 샘플은 GPT-5.3 Codex Spark 등 실제 AI 모델을 목표 동작 속도와 전력 수준에서 실행하고 있는 것으로 알려졌다.
세부 사양은 공개되지 않았지만 공개된 웨이퍼 사진에서는 중앙 연산 다이와 주변에 배치된 8개의 HBM 메모리 영역이 확인된다.
생태계 구축도 함께 추진된다. 브로드컴은 칩 생산을 담당하며 셀레스티카(Celestica)는 보드와 랙 시스템, 네트워크, 대량 생산 체계 구축에 참여한다. 첫 할라피뇨 플랫폼은 2026년 말부터 배치될 예정이다. 오픈AI는 이후 여러 세대에 걸쳐 자체 AI 컴퓨팅 플랫폼을 확대한다는 계획이다.
업계에서는 오픈AI의 자체 반도체 개발이 AI 기업들의 공통 전략으로 자리 잡고 있다고 분석한다.
구글은 TPU를 자체 개발하고 있으며, 앤트로픽 역시 자체 AI 칩 개발을 추진 중이다. 오픈AI 역시 지난해 엔비디아 GPU 기반 10GW 규모 AI 인프라 구축 계획을 발표했지만, GPU 공급 부족이 이어지면서 자체 AI 반도체 개발에 속도를 내고 있다.
