多模型管理

LiteLLM是一款开源Python库与代理服务工具，面向大模型开发者提供统一接口，支持OpenAI、Azure、Gemini、Bedrock等百余种大语言模型，以类OpenAI API风格简化多模型调用管理流程，降低多模型接入开发门槛，提升大模型应用开发效率。

面向大中型企业的大模型落地应用平台，支持对DeepSeeK、OpenAI、Azure OpenAI、文心一言、讯飞星火等全部主流大模型完成统一纳管，帮助企业高效完成大模型业务部署，推进AI能力在企业场景的合规落地，降低企业接入多类大模型的技术门槛与管理成本。

一款开源可自托管的AI对话前端界面，原生兼容Ollama本地模型与OpenAI系列API，支持上传文档做RAG检索增强生成，可一键切换多模型、配置多用户访问权限，本地部署后所有对话数据都留存于自有设备，完全规避第三方数据泄露风险，适配个人与团队多场景AI需求。