在本地运行 Qwen3.8 Flash-Next:llama.cpp 与 Ollama 实战 木子 | 2026-11-12 18:47 | 2026-11-12 18:15 | 3 | 0 | 文档 5432 字 | 27 分钟 在 16 vCPU、128 GB 内存环境中实测 Qwen3.8 Flash-Next 的量化、上下文内存、OpenAI API、MTP 投机解码与 Ollama 兼容方案。 llama.cppMoEMTPOllamaQwen本地大模型
Ollama 模型选择与本地推理实战指南 木子 | 2026-11-12 18:47 | 2026-11-12 18:15 | 2 | 0 | 文档 4997 字 | 27 分钟 按显存选择 Ollama 模型,涵盖模型能力与许可证、上下文和量化计算、RTX 4090/5060 Ti/M4 实测、Modelfile 与云端模型。 OllamaRAGVRAM性能优化本地大模型量化