本地大模型部署指南

这份指南面向想在本地或私有服务器运行大模型的用户，从硬件选择、模型下载、推理框架到性能调优逐步梳理。

内容覆盖 Ollama、vLLM、Open WebUI、量化模型选择、显存估算和常见部署问题，帮助你根据预算选择更现实的方案。

适合个人开发者、企业内部测试、数据敏感场景和希望降低长期 API 成本的团队。