共收录 1 个相关网站
inference.readthedocs.io
Xinference是一款开源分布式推理框架,面向大语言模型、语音识别、多模态模型等各类AI模型提供推理支撑,能够有效简化模型推理部署流程,降低相关技术门槛,适配多场景AI应用开发与部署需求,为开发者和企业提供稳定灵活的推理能力支持。