Provider와 모델 설정
기준일: 2026-06-06
난이도: 중급
공식 기준: Configuring Models
Hermes는 모델을 하나만 고르는 방식이 아닙니다. 메인 모델은 대화와 도구 루프를 담당하고, 보조 모델은 요약, 비전, 웹 추출, 승인 점수, MCP 라우팅 같은 작은 작업을 맡을 수 있습니다.
핵심 개념
| 슬롯 | 용도 | 기본 운영 |
|---|---|---|
| Main model | 사용자의 요청과 도구 사용 루프 | 가장 신뢰하는 모델 |
| Auxiliary models | 압축, 비전, 웹 추출, 스킬 검색 등 | auto 또는 비용 낮은 모델 |
| Provider | Nous Portal, OpenRouter, OpenAI, 호환 API 등 | API 키와 base URL 관리 |
| Context window | 장기 세션, 파일 참조, 도구 결과를 담는 모델 컨텍스트 | 최소 64K 이상 권장 |
새 설치에서는 모델 설정이 비어 있을 수 있습니다. 이때 hermes setup, hermes setup --portal, hermes model 중 하나로 provider와 모델을 지정합니다.
선택 기준
| 상황 | 추천 |
|---|---|
| 빠르게 시작 | hermes setup --portal |
| 이미 OpenAI/OpenRouter 키가 있음 | hermes model에서 해당 provider 선택 |
| 조직 프록시를 써야 함 | 호환 API provider와 base URL 지정 |
| 비용 관리가 중요 | 보조 모델을 저렴한 모델로 분리 |
| 로컬 모델을 연결 | context length를 65536 이상으로 설정하고 tool calling을 직접 검증 |
보조 모델을 지나치게 세분화하면 운영 복잡도가 올라갑니다. 처음에는 main만 안정화하고, 비용이 보이기 시작하면 auxiliary를 나누는 순서가 좋습니다.
실습
Nous Portal로 빠르게 설정:
hermes setup --portal
hermes portal info
hermes model
모델 상태 점검:
hermes config get model
hermes chat -q "현재 어떤 모델 provider로 동작 중인지 설명해줘."
대시보드를 쓰는 경우 Models 페이지에서 main과 auxiliary 슬롯을 확인합니다.
Hermes에 입력할 프롬프트
현재 Hermes 모델 설정을 설명해줘.
main model과 auxiliary model이 어떻게 나뉘는지,
비용을 줄이려면 어떤 슬롯부터 조정해야 하는지 알려줘.
설정 변경 명령은 실행하지 말고 제안만 해줘.
체크리스트
- main model provider가 설정되어 있다.
-
model: ""상태가 남아 있지 않은지 확인했다. - auxiliary 슬롯을 당장 바꿀지, 기본
auto로 둘지 결정했다. - API 키가 평문으로 공유되지 않도록 관리 위치를 확인했다.
- 비용/성능 기준을 기록했다.