vLLM vs Ollama vs llama.cpp：你应该选择哪个推理引擎？
面对市面上众多的 LLM 推理框架，vLLM、Ollama 和 llama.cpp 各有千秋。本文从吞吐量、部署难度、硬件适配等维度为您提供详尽的选型分析。
本地部署
家用显卡部署大模型全攻略：从 GGUF 到 EXL2 量化选择
面对繁多的量化格式（GGUF, EXL2, AWQ, GPTQ），该如何根据自己的显存容量选择最合适的版本？本文为您提供详尽的量化对比与选择指南。
Linux 环境下 llama.cpp 编译指南：从 CPU 到 CUDA 加速全流程
详细介绍如何在 Linux 系统中从源码编译 llama.cpp，涵盖基础 CPU 版本及 NVIDIA GPU (CUDA) 加速版本的配置步骤。包含完整编译指令合集。