vLLM v0.34.0 发布:KV 缓存扩展默认开启并移除 Model Runner V1 vLLM 发布 v0.34.0,面向使用该开源推理引擎部署模型的团队,新增 Mistral Large 4、MiniMax... 人工智能·11月16日·8.0