실행 결과 학습해 진화하는 '동적 피드백' 라우터 등장..."AI 비용 2.6배 절감"

실행 결과 학습해 진화하는 '동적 피드백' 라우터 등장..."AI 비용 2.6배 절감" 세 가지 라우팅 전략 비교 (사진=arXiv) 기업들이 여러 대형언어모델(LLM)을 동시에 활용하는 시대가 되면서 가장 적합한

실행 결과 학습해 진화하는 '동적 피드백' 라우터 등장..."AI 비용 2.6배 절감" 세 가지 라우팅 전략 비교 (사진=arXiv) 기업들이 여러 대형언어모델(LLM)을 동시에 활용하는 시대가 되면서 가장 적합한 AI 모델을 자동으로 선택하는 '모델 라우팅(Model Routing)' 기술이 AI 인프라의 핵심 요소로 떠오르고 있다. 싱가포르 국립대와 알리바바 DAMO 아카데미 등의 연구진은 최근 기존의 정적인 라우팅 방식을