Go to file

MyeonghoeLee 3660556a72 기존 Qwen 파일 qwen/ 디렉터리로 이동, Gemma 4 (31B-IT) Ollama 셋업 추가 Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>		2026-04-03 16:29:32 +09:00
gemma4	기존 Qwen 파일 qwen/ 디렉터리로 이동, Gemma 4 (31B-IT) Ollama 셋업 추가	2026-04-03 16:29:32 +09:00
qwen	기존 Qwen 파일 qwen/ 디렉터리로 이동, Gemma 4 (31B-IT) Ollama 셋업 추가	2026-04-03 16:29:32 +09:00
README.md	기존 Qwen 파일 qwen/ 디렉터리로 이동, Gemma 4 (31B-IT) Ollama 셋업 추가	2026-04-03 16:29:32 +09:00

LLM 로컬 서빙 + Open WebUI

다양한 LLM을 로컬에서 서빙하고 Open WebUI로 테스트하는 환경 모음입니다.

모델별 디렉터리

디렉터리	모델	방식
qwen/	Qwen3.5-35B	Ollama / MLX / vLLM
gemma4/	Gemma 4 31B-IT	Ollama

# Gemma 4 (Ollama)
cd gemma4 && ./setup-ollama.sh

# Qwen3.5 (자동 감지)
cd qwen && ./setup.sh

각 디렉터리의 README를 참고하세요.