feat: 升级 Ollama 本地模型 qwen2.5:1.5b → qwen3:1.7b
- config.py / .env.example / docker-compose.yml:默认模型改为 qwen3:1.7b(备选 qwen3:4b),compose 同步拉取 - 经 runtime_settings 注入 summarize/query/classify 三用途,改默认值即全局生效 - README / CLAUDE.md / 前端 Settings.vue 占位符同步更新
This commit is contained in:
@@ -12,7 +12,7 @@ QMDSearch 是面向 AI Agent 的分层信息检索服务,支持多层级知识
|
||||
- **缓存**: Redis (Docker)
|
||||
- **关系数据库**: PostgreSQL (Docker, 可选)
|
||||
- **嵌入模型**: OpenAI / 本地模型 (通过配置切换)
|
||||
- **本地推理模型**: Ollama (Docker) — 用于文档三级总结,默认 qwen2.5:1.5b
|
||||
- **本地推理模型**: Ollama (Docker) — 用于文档三级总结,默认 qwen3:1.7b
|
||||
- **部署**: Docker Compose on NAS
|
||||
|
||||
## 项目结构
|
||||
@@ -168,8 +168,8 @@ QMDSearch/
|
||||
|
||||
### 本地模型 (Ollama)
|
||||
|
||||
- 服务: Ollama 容器,默认模型 `qwen2.5:1.5b`(约 1GB,适合 NAS 低资源环境)
|
||||
- 备选模型: `qwen2.5:3b`(更好的总结质量,约 2GB)
|
||||
- 服务: Ollama 容器,默认模型 `qwen3:1.7b`(约 1.3GB,适合 NAS 低资源环境)
|
||||
- 备选模型: `qwen3:4b`(更好的总结质量,约 2.5GB)
|
||||
- 模型通过环境变量 `OLLAMA_MODEL` 配置
|
||||
- 首次启动时自动拉取模型,需 NAS 可访问外网
|
||||
|
||||
|
||||
Reference in New Issue
Block a user