以及如何在OpenWrt上通过Docker部署vLLM的教程。vLLM是一款用于大语言模型推理和服务的快速且易于使用的库。它的优点简直太多了，让我们一起来看看吧！超高的服务吞吐量：vLLM利用PagedAttention高效管理注意力键和值内存，连续批量处理传入请求。快速模型执行：支持CUDA/HIP图形，量化技术包括GPTQ、AWQ