模型推理

Fireworks AI是企业级AI训练与推理平台，由PyTorch创建者创立。提供从引导式训练到强化学习的全流程模型训练，以及Serverless、On-Demand、Reserved推理服务。支持主流开源模型，兼容OpenAI和Anthropic API。客户包括Cursor、Vercel，推理延迟从2秒降至350毫秒，AI编码成本降低50-75%。

Modal是面向AI与数据团队的Serverless云平台。开发者用Python声明函数、GPU与依赖，即可部署推理、训练、批处理和沙箱任务。支持0到1000+ GPU秒级伸缩，容器即时启动，按秒计费，无预留容量，官网给每月30美元免费算力。