로컬 모델과 Provider
기준일: 2026-06-06
난이도: 고급
공식 기준: Provider directory, Model providers, Local models, Model failover
OpenClaw는 단일 모델 호출기가 아니라 provider, auth profile, alias, fallback을 조합하는 Gateway입니다.
핵심 개념
| 항목 | 설명 |
|---|---|
| provider plugin | Anthropic, OpenAI, OpenRouter, Bedrock, Ollama 등 모델 연결 |
| auth profile | OAuth/API key/CLI reuse 같은 credential 단위 |
| model alias | 채널이나 agent가 쓰는 모델 이름을 추상화 |
| failover | 실패 시 다른 profile/model/provider로 전환 |
| local model service | LM Studio, vLLM, LiteLLM, custom OpenAI endpoint 등 |
| provider surface | API key, OAuth, CLI 재사용, gateway/proxy, local runtime 중 어떤 방식으로 인증/호출하는지 |
선택 기준
- 첫 운영은 하나의 안정적인 provider와 기본 model alias로 시작합니다.
- channel별 비용/속도 요구가 다르면 agent binding과 model alias를 분리합니다.
- 로컬 모델은 privacy가 장점이지만 context, tool calling, latency를 별도 검증해야 합니다.
- failover는 데이터가 다른 provider로 이동할 수 있음을 사용자에게 알려야 합니다.
공식 provider 범위 확인
OpenClaw 공식 provider quickstart의 starter set은 Anthropic, OpenAI, OpenRouter만이 아닙니다. Alibaba Model Studio, Amazon Bedrock, BytePlus, Chutes, Cloudflare AI Gateway, ComfyUI, DeepInfra, fal, Fireworks, MiniMax, Mistral, Moonshot/Kimi, OpenCode, Qianfan, Qwen, Runway, StepFun, Synthetic, Vercel AI Gateway, Venice, xAI, Z.AI 같은 provider와 variant가 문서화되어 있습니다.
처음 문서를 읽을 때는 provider를 아래처럼 분류하면 좋습니다.
| 분류 | 예시 | 확인할 것 |
|---|---|---|
| 직접 API | Anthropic, OpenAI, Mistral, xAI 등 | API key 저장 위치, rate limit, tool calling |
| Gateway/proxy | OpenRouter, Vercel AI Gateway, Cloudflare AI Gateway | 라우팅 정책, 데이터 이동 범위, 모델명 표준화 |
| 클라우드 플랫폼 | Amazon Bedrock, Vertex 계열 variant | IAM, region, 조직 정책 |
| 로컬/미디어 런타임 | ComfyUI, local OpenAI-compatible endpoint | latency, context, GPU, health check |
| CLI/OAuth 재사용 | Claude CLI, Codex 계열 provider | 로컬 로그인 상태, headless 운영 가능성 |
실습
openclaw models status
openclaw models list
openclaw models scan
openclaw onboard
provider 설계:
내 OpenClaw provider 구성을 설계해줘.
개인 DM, 팀 채널, 자동화 작업별로 모델 alias와 fallback 여부를 나누고
비용, 응답 속도, 개인정보 기준으로 비교해줘.
도구에 입력할 프롬프트
OpenClaw에서 로컬 모델을 쓸지 hosted provider를 쓸지 판단해줘.
context 길이, tool calling 안정성, channel 응답 지연, credential 관리, 장애 복구 기준을 포함해줘.
체크리스트
- provider와 model alias의 차이를 이해했다.
- fallback이 켜질 때 데이터 이동 범위를 확인했다.
- 로컬 모델은 실제 channel 메시지로 end-to-end 테스트한다.
- auth profile은 channel/agent 운영 범위에 맞게 분리한다.
다음 단계
- 멀티 모델 전략에서 모델 선택 전략을 확장합니다.
- Gateway 운영에서 provider 상태와 장애를 추적합니다.