LLM

基于LLM的多AI代理编排工具，支持自然语言API调用与工作流自动化 Agent M是floatbot.ai推出的LLM驱动多代理编排产品，区别于单一功能AI代理，可对多个承担不同任务的AI代理进行流程编排，支持以自然语言完成API调用，可对接用户自有数据，完成复杂对话流程的自动化搭建，为智能对话类产品提供代理层能力支撑。

基于DocETL的开源交互式LLM非结构化数据处理工具 DocWrangler是基于DocETL框架构建的开源工具，面向LLM数据处理场景，提供即时反馈、可视化探索和AI辅助能力，帮助用户探索数据、调试优化数据处理流程。它专门针对非结构化数据处理设计，可支持文本分析、信息提取等任务，降低了普通用户使用LLM处理数据的门槛，提升了数据处理工作的效率。

面向LLM应用的提示词测试评估工具，支持可视化对比与CI集成 这是一款专门针对大语言模型应用打造的提示词测试工具，支持用户创建标准化测试用例，自定义设置输出评估指标，可与现有开发测试流程、CI流水线集成，自带Web Viewer可直观对比不同prompt与模型输出差异，目前已被服务超千万用户的生产级LLM应用使用。

面向团队的LLM提示管理协作平台，助力优化提示提升工作效率 LangTale聚焦团队LLM提示管理场景，解决团队内提示版本混乱、共享难、优化经验无法沉淀的问题。不同于通用协作工具，它深度贴合LLM工作流，支持团队统一管理提示资产，协同迭代优化提示内容，减少重复调试工作，降低LLM应用成本，提升团队整体工作效率。

基于MCP的面向AI智能体与大模型的通用自更新上下文层 针对当前大语言模型上下文窗口有限、静态上下文信息过时的行业痛点，Unabyss提供了通用型的底层上下文解决方案。它支持上下文自动更新，可为AI智能体与各类大语言模型项目提供持续有效的上下文支撑，作为底层组件可灵活集成到不同架构的AI开发项目中。

简化私有数据与LLM集成的RAG开发框架 Dabarqus是一款RAG框架，支持用户将私有数据实时接入大语言模型。它提供REST API、SDK和CLI工具，可将PDF、电子邮件等各类数据源存入语义索引「记忆库」，支持多语义索引按主题分类组织数据，用户无需学习新查询语言，用LLM风格提示即可交互，提升对接效率与检索准确性。

在线工具，可将GitHub内容转换为适配大语言模型的格式 这是由Skirano开发的在线转换工具，可将GitHub项目、文件、文件夹链接转换为适合大语言模型处理的格式，解决开发者、研究人员处理GitHub代码文档时，手动整理适配LLM格式繁琐的问题，工具无需本地部署，界面简洁，仅需输入链接即可一键完成转换，省去手动整理的时间，提升数据准备效率。

基于Perplexity克隆的可集成多技术栈的开源AI搜索引擎 Farfalle是参考Perplexity开发的开源AI搜索项目，可与多种主流技术栈集成，前端支持Next.js搭配TailwindCSS、shadcn-ui，后端支持FastAPI，可对接Tavily搜索API、OpenAI、Groq、Ollama等多种LLM服务。项目提供自定义设置文档与演示视频，帮助开发者快速启动部署，降低自研AI搜索引擎的开发门槛。

基于大语言模型的数据处理工具，支持声明式定义流程 DocETL利用LLM能力自动优化数据处理流程，支持YAML声明式定义复杂流程，相比代码式开发降低了使用门槛，可无缝集成LLM与非LLM操作。配套推出DocWrangler交互式playground，方便用户调试提示工程，面向文本数据提取需求，运行成本较低。

支持35+主流大模型的定制化LLM企业AI解决方案 Chat Nio支持35+主流AI模型，覆盖文本生成、图像创作、音频处理、视频编辑多类AI场景，提供多租户令牌分发、调用日志管理等定制化能力，同时开放私有化部署与中转服务，深度集成Midjourney Proxy Plus绘画能力，适配不同团队开发部署AI应用的个性化需求。

基于大语言模型的企业AI服务，覆盖数据分析与供应链风控 Essential AI聚焦企业业务痛点，依托自研LLM提升数据分析师工作效率最高可达10倍，赋能非专业商业用户自主完成数据驱动决策，同时可识别企业供应链核心风险并输出改进方案，其大模型结合人工反馈持续迭代，可适配越来越复杂的企业任务

Inferable开发的开源LLM数据提取工具，无需复杂提示工程 l1m是由Inferable公司开发的开源数据提取工具，依托大语言模型能力，可从非结构化数据中提取标准化信息，无需使用者掌握复杂的提示工程技巧。工具支持接入多种主流LLM模型，内置缓存功能降低重复调用成本，同时支持多语言数据处理，提供免费试用额度。

Orquesta AI Prompts是专注LLM提示全生命周期管理的赋能平台 不同于单一的提示存储工具，它覆盖LLM提示从管理、实验到优化的全生命周期，支持集中管控提示资产，帮助开发团队快速为现有产品嵌入AI与LLM能力，同时可基于运行数据做个性化调优，兼顾效果提升与成本控制，解决提示散乱、效果不可控的痛点。

赋能开发团队无代码快速构建LLM应用原型的效率工具 Freeplay是面向产品开发团队的LLM应用开发辅助工具，区别于传统需要编码的LLM应用开发平台，它支持用户通过无代码方式快速输出LLM应用原型，可快速完成聊天机器人等交互类LLM产品的原型搭建，帮助团队缩短构思到原型验证的周期，降低早期开发的资源投入门槛。

基于LLM的长文本推理提示系统，依托要点记忆实现高效信息处理 ReadAgent是针对大语言模型长上下文处理痛点打造的提示系统，依托LLM的语言能力，自动筛选核心内容存入记忆集，压缩为要点记忆，需细节支撑时检索原始文本。不同于依赖扩大模型上下文窗口的方案，它可同时捕获全局上下文、聚焦局部细节，有效提升长文本推理效率。

面向开发者的LLM应用质量评估工具，支持开发生产双环境 Inductor专为开发者打造，用于评估、保障及优化LLM应用质量，可同时适配开发与生产环境，能和任意大语言模型、任意LLM应用开发路径无缝集成，支持本地部署与云服务两种模式，满足全流程质量管控需求

轻量级LLM适配器，赋能扩散模型提升长文本提示跟随能力 ELLA是面向基于CLIP扩散模型的轻量级LLM适配方法，通过时间感知语义连接器，从预训练LLM提取对应不同去噪阶段的语义特征，动态适配不同采样步的语义需求，无需大幅改动原有模型，即可提升提示跟随能力，支持文本到图像模型理解长文本，在密集提示生成基准测试中表现突出，擅长处理复杂关系的生成需求。

获YC支持的人工在环平台，为高风险LLM调用提供人类监督审批 HumanLayer通过Slack、电子邮件等渠道搭建审批工作流，对LLM驱动的AI代理高风险功能调用做人工监督，兼容OpenAI、Claude、Llama3.1等主流大模型与开发框架，支持接入用户自有LLM与框架，以人工在环模式提升AI代理运行可靠性，提供分层定价方案，获Y Combinator孵化支持。

面向生产环境的LLM问题排查工具，可发现修复LLM幻觉与错误 针对生产环境中大语言模型运行痛点打造，专注解决LLM幻觉与输出错误问题，支持市面主流LLM模型接入，支持用户根据自身业务场景配置定制化评估规则。可完成LLM输出错误检测、运行成本与输出准确性分析、输出结果调试、对话内容追溯探索、多模型性能横向对比等工作。

面向开发团队的LLM应用构建协作平台，助力洞察AI运行逻辑 Langtail是专注于LLM应用开发的协作工具，区别于传统LLM开发工具仅关注功能实现，它核心优化团队协作流程，同时帮助开发团队更清晰感知大语言模型应用的运行逻辑，支持团队以更具协同性的方式完成LLM应用的搭建、调试与迭代，帮助团队提升开发效率，降低协作沟通成本，为大语言模型应用开发提供更透明的流程支撑。

面向开发者的多提供商LLM统一API访问与性能优化平台 Unify AI打通不同大模型提供商的接口，开发者仅需接入一个统一API即可调用多家LLM。平台提供实时LLM性能基准测试，支持开发者基于输出质量、响应速度、调用成本筛选适配模型，支持定制路由规则。系统每10分钟更新基准数据，自动将请求分配至当前最优服务商，保障运行性能。