최신 수준 LLM 로컬 실행 가이드

최신 수준 LLM 로컬 실행 가이드 로컬에서 최신 수준 LLM과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함 약 $2k 예산은 2× RTX 30

최신 수준 LLM 로컬 실행 가이드 로컬에서 최신 수준 LLM과 음성-텍스트 변환을 돌리기 위한 하드웨어 구성, PCIe 스위치 설정, Docker 실행 구성을 한 저장소에 정리함 약 $2k 예산은 2× RTX 3090으로 48GB VRAM을 확보해 Qwen3.6-27B와 whisper-large-v3 기반 로컬 STT를 실행하는 구성을 목표로 함 약 $40k 예산은 4× RTX PRO 6000 Blackwell Worksta