vLLM CLI

vLLM CLI是专为大语言模型优化的命令行工具，提供极速推理体验，简化模型部署流程。