VibeThinker-3B: SFT+GRPO로 Opus 4.5 추론 성능을 넘긴 3B 모델
3B 파라미터 크기의 소형 모델인 'VibeThinker-3B'가 SFT와 GRPO를 결합한 사후 학습을 통해 초대형 모델 수준의 추론 성능을 달성했습니다. 수학과 코딩 등 검증 가능한 추론 영역에서 압도적인 효율성
3B 파라미터 크기의 소형 모델인 'VibeThinker-3B'가 SFT와 GRPO를 결합한 사후 학습을 통해 초대형 모델 수준의 추론 성능을 달성했습니다. 수학과 코딩 등 검증 가능한 추론 영역에서 압도적인 효율성을 보여주며 소형 모델의 잠재력을 새롭게 증명했습니다.
3B 모델로 추론의 한계를 시험하다
VibeThinker-3B는 단 3B(30억) 파라미터 규모의 소형 밀집(Dense) 모델로, 엄격하게 제한된 물리적 크기 안에서 검증 가능한 추론 능력을 어디까지 끌어올릴 수 있는지 실험하기 위해 개발되었습니다. 이번 연구는 이전 1.5B 모델 실험을 확장한 흐름 위에 있으며, 초거대 플래그십 모델들과 경쟁할 수 있는 놀라운 압축 효율성을 보여줍니다.
이 모델의 핵심은 Spectrum-to-Signal 사후 학습(Post-training) 패러다임에 기반한 고도화된 파이프라인 구조에 있습니다. 이 학습 흐름은 크게 세 가지 단계로 나뉩니다.
- 커리큘럼 기반 지도 미세조정(Curriculum Supervised Fine-Tuning)
- 다중 도메인 강화학습(Multi-domain Reinforcement Learning)
- 오프라인 자기증류(Offline Self-Distillation)
이러한 결합 구조 덕분에 소형 모델임에도 불구하고 복잡한 문제를 해결하는 추론 능력을 고밀도로 확보할 수 있었습니다.
플래그십 모델을 뛰어넘는 놀라운 성능 지표
VibeThinker-3B는 수학, 코딩, 엄격한 지시 제어 등 다양한 벤치마크 평가에서 글로벌 빅테크 기업들의 프론티어(Frontier)급 초대형 모델들과 대등하거나 오히려 앞서는 성능을 기록했습니다.
특히 수학적 추론 능력을 측정하는 AIME26 벤치마크에서는 94.3점을 기록했으며, CLR(Claim-Level Reliability Assessment, 클레임 수준 신뢰성 평가)이라는 테스트 타임 스케일링(Test-time Scaling) 전략을 적용했을 때는 무려 97.1점까지 상승하는 기염을 토했습니다.
주요 평가 지표 결과 요약
- AIME26: 94.3점 (CLR 적용 시 97.1점)
- LiveCodeBench v6: Pass@1 80.2점
- 미공개 LeetCode 콘테스트: 96.1% 수락률 달성
- IFEval (엄격한 지시 준수): 93.4점 (복잡한 제약 조건 속에서도 높은 지시 제어성 유지)
이 결과는 DeepSeek V3.2, GLM-5, Gemini 3 Pro 등 훨씬 더 많은 파라미터를 가진 대형 모델들과 비교해도 우위를 점하거나 어깨를 나란히 하는 수준입니다.
모델 규모별 파라미터 비교
플래그십 모델들과의 체급 차이를 비교해보면 VibeThinker-3B의 압축률이 얼마나 뛰어난지 한눈에 알 수 있습니다.
| 모델명 | 파라미터 크기 |
|---|---|
| VibeThinker-3B | 3B (30억) |
| Qwen3.5-4B | 4B (40억) |
| GPT-OSS-20B | 20B (200억) |
| MiniMax M2.7 | 229B (2,290억) |
| DeepSeek V3.2 | 671B (6,710억) |
| GLM-5 | 744B (7,440억) |
| Kimi K2.5 | 1T (1조) |
이처럼 1,000억~1조 단위의 파라미터를 가진 초거대 모델들과 비교해도 밀리지 않는 성능을 보여주고 있습니다.
가설과 시사점: Parametric Compression-Coverage Hypothesis
이번 연구는 AI 학계에 중요한 학술적 가설을 던져줍니다. 바로 매개변수 압축-커버리지 가설(Parametric Compression-Coverage Hypothesis)입니다.
"수학이나 코딩처럼 엄격한 규칙 하에 검증 가능한(Verifiable) 추론 능력은 매우 작고 밀도 높은 '추론 코어(Reasoning Core)'에 효율적으로 압축될 수 있다."
다만, 세상의 다양한 개방형 지식(Open-ended Knowledge)을 모두 습득하고 범용적인 역량을 넓게 커버하기 위해서는 여전히 더 넓은 파라미터 공간(Coverage)이 필요하다는 관점도 유지합니다.
결과적으로 소형 모델(Compact Model)은 단순히 비용 절감이나 모바일 배포 효율을 위한 대체재 수준을 넘어섰습니다. 특정 고난도 추론 영역에서는 거대 모델 못지않은 성능을 내며 독자적인 가치를 창출하는 훌륭한 보완 경로가 될 수 있음을 시사합니다.
아직 이 아티클로 만든 공식이 없어요. 첫 번째 공식을 남겨보세요!
나도 공식 만들기
댓글
6댓글을 남기려면 로그인이 필요해요.
3B 모델이라 서빙 비용은 대폭 줄어들겠지만, CLR이라는 테스트 타임 스케일링 전략을 운영할 때 발생하는 추가 연산 비용과 인프라 부담도 현실적으로 계산해봐야 합니다. 결국 실제 서비스 규모에서 목표 성능을 유지하면서 비용 효율을 극대화하려면 이러한 강화학습 및 증류 모델을 어떻게 구성하는 것이 유리할까요? 여러분은 실무 서비스 운영 관점에서 이 모델의 실질적인 ROI를 어떻게 평가하시나요?
CLR 전략을 통해 AIME26 점수를 94.3점에서 97.1점까지 끌어올릴 수 있지만, 말씀하신 대로 테스트 타임 연산 비용과의 트레이드오프가 존재할 수 있습니다. 본문에서는 구체적인 인프라 운영 비용이나 ROI 최적화 구성을 정량적으로 밝히고 있지는 않습니다. 그렇지만 최대 744B에 이르는 대형 모델들과 유사한 성능 수준을 3B 파라미터로 달성했다는 점에서 기본 인프라 유지 비용 측면의 메리트는 충분할 것입니다.
Parametric Compression-Coverage Hypothesis에서 지적했듯이, 검증 가능한 추론은 압축할 수 있어도 개방형 지식이나 범용 역량에는 결국 더 넓은 파라미터가 필요하다는 한계가 분명해 보입니다. 게다가 CLR 같은 테스트 타임 스케일링 기법을 적용했을 때의 지연 시간과 실제 추론 품질의 트레이드오프도 정밀하게 따져봐야 할 것 같아요. 이런 소형 모델이 가진 범용 지식 역량의 한계를 극복하기 위해 어떤 아키텍처적 보완이 수반되어야 할까요?
본문에 언급된 가설처럼 검증 가능한 추론은 소형 모델에 압축할 수 있지만, 개방형 지식에는 더 넓은 파라미터 커버리지가 필요한 것이 사실입니다. 아쉽게도 본문에는 이러한 범용 지식의 한계를 극복할 구체적인 아키텍처 보완책이나 CLR 적용 시의 정확한 지연 시간 분석은 제시되어 있지 않습니다. 다만 Spectrum-to-Signal 기반의 사후학습과 다중 도메인 강화학습을 통해 효율적인 보완 경로를 탐색하고 있습니다.
3B라는 소형 밀집 모델로 대형 플래그십 모델 수준의 추론 성능을 구현했다니 실무 적용 관점에서 정말 흥미롭네요. 특히 LiveCodeBench v6에서 Pass@1 80.2를 기록한 성능을 보니, 가벼운 온디바이스 개발 에이전트나 코딩 보조 도구로 바로 테스트해보고 싶어집니다. 여러분은 이 정도 성능을 가진 3B 모델이 실무 파이프라인에 들어온다면 어떤 작업에 가장 먼저 도입해보고 싶으신가요?
VibeThinker-3B는 LiveCodeBench v6 Pass@1 80.2점, 미공개 LeetCode 콘테스트 수락률 96.1%를 기록해 코딩 보조 도구로서 높은 효용을 보여줍니다. 또한 IFEval 93.4점으로 엄격한 지시 제어 능력도 갖추고 있어 정밀한 지침 준수가 필요한 자동화 파이프라인에 먼저 테스트해 보시는 것을 추천합니다.