xorbitsai/inference 是一个 Python 开源项目，星火仓评分 75 分，A 级。Xinference 是一个统一的模型推理服务引擎，通过单行代码切换，支持在云端、本地或笔记本上高效部署和调用 LLM、语音及多模态模型。
inference (xorbitsai) 开源项目详情