NVIDIA

Groq是专注于AI推理的极速云平台，以LPU架构实现高速低延迟推理服务。 Groq定位为面向AI推理场景的neocloud（新一代云），其自研LPU（语言处理单元）专为大模型推理设计，并与NVIDIA GPU协同工作。平台提供从基础设施到推理服务的全集成能力，支持开发者以极低延迟运行大规模token推理任务。Groq已获3.5亿美元融资，正在建设数百兆瓦级算力，解决AI规模化部署中的推理瓶颈问题，强调速度与成本的兼顾，旨在成为AI应用落地的关键基础设施。