vLLM推理引擎

字节跳动开源AIBrix推理系统，为vLLM推理引擎提供可扩展、高性价比的推理控制面，满足企业AI需求，优化大语言模型部署和管理。