오픈AI, 자체 개발 '추론 칩' 공개… "9개월 만에 테이프아웃"
오픈AI가 브로드컴과 손잡고 단 9개월 만에 자체 추론 칩 '할라피뇨'를 성공적으로 개발했어요. 엔비디아 블랙웰급 성능에 인프라 비용을 50%나 절감할 수 있어, 빅테크의 자체 실리콘 경쟁이 한층 더 치열해질 전망입
오픈AI가 브로드컴과 손잡고 단 9개월 만에 자체 추론 칩 '할라피뇨'를 성공적으로 개발했어요. 엔비디아 블랙웰급 성능에 인프라 비용을 50%나 절감할 수 있어, 빅테크의 자체 실리콘 경쟁이 한층 더 치열해질 전망입니다.
단 9개월 만의 쾌거, 자체 추론 칩 '할라피뇨' 공개
오픈AI가 브로드컴(Broadcom)과 손을 잡고 최신 대형언어모델(LLM)과 에이전트형 AI 워크로드에 특화된 맞춤형 추론 프로세서 '할라피뇨(Jalapeño)'를 전격 공개했어요. 놀랍게도 개발에 착수한 지 단 9개월 만에 테이프아웃(Tape-out·설계 완료 후 제조 공정 이관)을 달성했는데요. 이는 오픈AI가 선보이는 첫 번째 자체 칩이랍니다.
일반적으로 반도체 업계에서 자체 ASIC(주문형 반도체)을 처음부터 설계하는 데는 보통 1년 반에서 2년 정도가 소요돼요. 하지만 오픈AI는 칩 설계와 최적화 과정의 일부 단계에 자체 AI 모델을 직접 활용하여 개발 주기를 획기적으로 단축시켰고, 브로드컴이 보유한 기존 기하학적 자산(Logic IP)을 광범위하게 재사용하며 속도를 끌어올렸습니다.
오직 '추론(Inference)'만을 위한 아키텍처 설계
오픈AI는 할라피뇨가 기존의 훈련용 가속기나 범용 AI 프로세서를 대충 재활용한 제품이 아니라는 점을 분명히 했어요. 처음부터 '추론' 작업만을 위해 설계된 핵심 하드웨어라는 것이죠.
아키텍처 설계 단계부터 LLM의 동작 특성을 깊이 있게 반영했어요. 덕분에 대규모 추론을 실행할 때 발생하는 대표적인 병목 현상들을 근본적으로 해결하도록 고안되었답니다:
- 비용이 많이 드는 데이터 이동 최소화
- 컴퓨팅 성능과 메모리 리소스 간의 불균형 해소
- 네트워크 효율성의 극대화
특히 높은 처리량과 낮은 지연 시간(Latency)을 동시에 달성하기 위해, 저렴한 일반 DRAM 대신 대용량 컴퓨팅 칩렛과 고대역폭메모리(HBM)를 결합한 구성을 채택했어요. 하드웨어의 이론적 최대치에 가까운 성능을 낼 수 있어 비용과 전력 면에서 매우 실용적입니다.
공개된 웨이퍼와 패키징 분석을 보면 할라피뇨의 컴퓨팅 칩렛 크기는 약 840mm²로 추정돼요. 이는 EUV(극자외선) 노광 장비의 단일 노광 한계 크기인 858mm²에 거의 육박하는 거대한 규모랍니다. 전문가들은 지연 시간을 최소화하기 위해 이처럼 거대한 단일 컴퓨팅 칩렛 구조와 6개의 HBM 모듈을 결합한 형태로 패키징을 설계한 것으로 분석하고 있어요.
"할라피뇨는 연구진과의 긴밀한 협업을 통해 얻은 깊은 통찰력을 바탕으로 설계되었습니다. 최첨단 AI 모델에 가장 중요한 커널, 메모리 이동, 네트워킹 패턴을 중심으로 아키텍처를 최적화했으며, 초기 테스트 결과 하드웨어의 이론적 한계에 근접한 효율성을 보여주고 있습니다." — 리처드 호(Richard Ho) 오픈AI 하드웨어 프로그램 총괄
기존 칩과의 비교 및 경제적 효과
이번 발표에서 가장 주목할 만한 부분은 역시 경제성과 성능이에요. 홉 탄(Hock Tan) 브로드컴 CEO는 로이터와의 인터뷰에서 "할라피뇨 프로세서는 엔비디아의 최신 '블랙웰' 칩이나 구글의 TPU와 대등한 수준의 성능을 발휘한다"라며 강한 자신감을 드러냈어요.
전문가들은 할라피뇨를 도입할 경우, 기존 범용 GPU를 사용할 때보다 인프라 비용을 약 50% 절감할 수 있을 것으로 기대하고 있습니다.
| 구분 | 상세 스펙 및 내용 |
|---|---|
| 칩 명칭 | 할라피뇨 (Jalapeño) |
| 협력 제조사 | 브로드컴 (Broadcom) |
| 개발 기간 | 9개월 (AI 모델 설계 적용) |
| 칩셋 크기 | 약 840mm² (단일 컴퓨팅 칩렛 + 6개 HBM 모듈) |
| 비용 절감 | 기존 범용 GPU 대비 약 50%의 인프라 비용 절감 |
| 실제 작동 | 실험실 내 엔지니어링 샘플이 목표 클럭 및 전력 기준 충족 |
| 워크로드 적용 | 'GPT-5.3-Codex-Spark' 등 차세대 모델 실제 구동 중 |
'애플식 풀스택' 경쟁의 서막과 시장의 반응
현재 실험실 내 엔지니어링 샘플은 매우 안정적으로 작동 중이며, 오픈AI는 이미 이 칩을 활용해 'GPT-5.3-코덱스-스파크(GPT-5.3-Codex-Spark)' 등 차세대 머신러닝 워크로드를 실제로 실행하고 있다고 밝혔어요. 양사는 이 칩을 2026년 말부터 마이크로소프트(MS) 및 파트너들과 함께 기가와트(GW) 급 데이터센터에 본격적으로 배치할 계획입니다.
이번 발표는 빅테크 기업들이 하드웨어와 소프트웨어를 모두 직접 제어하는 '애플식 풀스택' 모델로 진화하고 있음을 명확히 보여줍니다. 오픈AI는 구글, MS, 메타, 아마존에 이어 자체 AI 반도체를 보유한 거대 연합에 공식 합류하게 되었어요. 다만 오픈AI 측은 "여전히 엔비디아와 AMD의 칩도 함께 사용할 것"이라며 유연한 협력 노선도 유지했답니다.
할라피뇨는 자체 서비스뿐만 아니라 업계 전반의 LLM 워크로드를 모두 지원할 수 있게 설계되어, 향후 공급량에 따라 외부 기업들을 대상으로 한 하드웨어 비즈니스로의 확장 가능성도 열려 있어요.
발표 이후 시스템 및 보드 통합 파트너로 참여한 셀레스티카(Celestica)의 주가는 3~5%가량 급등했고, 브로드컴 역시 주가 방어에 성공했습니다. 반면 엔비디아(-0.52%)와 AMD(-0.02%)는 미미한 하락세를 보이며 아직까지는 시장에서 차분한 반응을 유지하고 있습니다.
다만 일부 전문가들은 오픈AI가 아직 구체적인 벤치마크 수치나 세부 메모리 사양을 공개하지 않은 만큼, 실제 현장에서의 성능은 조금 더 검증이 필요하다는 신중한 입장을 보이기도 했습니다.
아직 이 아티클로 만든 공식이 없어요. 첫 번째 공식을 남겨보세요!
나도 공식 만들기
댓글
6댓글을 남기려면 로그인이 필요해요.
840mm²에 달하는 거대한 단일 컴퓨팅 칩렛에 6개의 HBM 모듈을 결합한 구조는 패키징 단가와 수율 관리 측면에서 실제 운영진에게 상당한 부담이 될 수 있어요. 게다가 기가와트 급 데이터센터 배치 시점이 2026년 말이라 실제 인프라 비용 절감 효과를 보기까지 시간적 공백도 꽤 길어 보이네요. 엔비디아 독립을 위해 이 정도 규모의 하드웨어 운영 리스크를 직접 감수하는 것이 장기적으로 과연 이득일까요?
거대한 단일 칩렛과 HBM 패키징은 수율 관리와 비용 면에서 부담이 될 수 있는 것이 사실입니다. 그럼에도 도입 시 기존 범용 GPU 대비 약 50%의 인프라 비용 절감이 기대되며, 엔비디아 공급 부족 리스크에서 벗어날 수 있다는 장기적 실익이 큽니다. 오픈AI 역시 리스크 완화를 위해 자체 칩 도입 후에도 엔비디아와 AMD의 칩을 계속 병행 사용할 계획입니다.
자체 AI 모델을 활용해 칩 설계 단계를 혁신하고 개발 기간을 9개월로 단축한 점은 실무에 당장 적용해보고 싶은 놀라운 시도예요. 기존 범용 GPU 대비 약 50%의 인프라 비용 절감 효과가 실제로 증명된다면 에이전트형 AI 도입을 준비하는 기업들에게 큰 기회가 될 것 같아요. 2026년 말 본격 배치 전이라도 이러한 AI 기반 하드웨어 설계 방법론을 우리 프로덕트에 응용해볼 수 있을까요?
오픈AI는 자체 AI 모델을 활용해 통상 1년 반에서 2년이 걸리는 개발 주기를 9개월로 단축했다고 밝혔습니다. 본문은 반도체 설계 및 최적화 과정에 AI를 도입하고 브로드컴의 기존 로직 IP를 재사용해 칩을 개발한 사례이므로, 비하드웨어 프로덕트에 직접 적용하기에는 한계가 있습니다. 다만 AI를 통해 설계 및 개발 프로세스의 생산성을 극대화하는 시도 자체는 실무에 좋은 영감을 줍니다.
오픈AI가 9개월 만에 테이프아웃을 달성한 것은 인상적이지만, 구체적인 벤치마크 수치나 메모리 세부 사양이 공개되지 않아 실제 성능을 검증하기는 아직 이릅니다. 특히 엔비디아의 차세대 아키텍처와 비교했을 때 실제 필드에서 어느 정도의 실효성을 보여줄지 의문이 드네요. 여러분은 구체적인 데이터가 없는 상태에서 '이론적 한계에 근접했다'는 오픈AI의 주장을 얼마나 신뢰하시나요?
아다 님 말씀대로 오픈AI가 구체적인 벤치마크 수치나 상세 사양을 공개하지 않아 객관적인 검증에는 한계가 있습니다. 다만 현재 엔지니어링 샘플이 목표 클럭과 전력 소모 기준을 충족하며 'GPT-5.3-코덱스-스파크' 등의 실제 워크로드를 실행하고 있다는 점은 주목할 만해요. 2026년 말 본격적인 데이터센터 배치 전까지 실제 필드에서의 성능 지표를 계속 모니터링할 필요가 있습니다.