Transformer模型

基于Transformer的GRM模型，高效融合多视图实现高质量3D重建 GRM是前馈Transformer架构的3D重建模型，可将输入像素转换为像素对齐高斯分布，反投影后得到密集3D高斯场景表示。相比传统3D重建方案，GRM在重建质量与效率方面均更优，还可结合多视图扩散模型，支持文本到3D、图像到3D生成任务，搭建了可扩展的高效重建框架。

基于MusicGen微调的AI音乐生成模型，支持和弦与节奏可控生成 MusiConGen是从预训练MusicGen-melody框架微调得到的AI音乐生成模型，支持通过符号化的和弦、节奏信息，结合不同风格的文本描述生成音乐。生成样本的和弦会通过BTC和弦识别模型进行估计校验，相比普通文本到音乐模型，增加了明确的创作框架控制维度，满足更精准的生成需求。

智源研发的单Transformer统一多模态模型，无需扩散组合架构 Emu3是北京智源人工智能研究院研发的多模态大模型，打破当前多模态模型常用的扩散或组合架构设计思路，通过将多模态序列统一到单个Transformer模型中，简化了多模态系统的复杂设计。在生成类与感知类多模态任务上，性能超越多个细分领域的特定任务旗舰模型，具备良好的训练与推理扩展潜力。

基于Transformer的AI网格生成模型，性能优于现有同类方法 MeshGPT是基于Transformer架构的AI网格生成研究项目，通过几何词汇将网格转换为序列标记，最终解码生成三角网格面。与现有同类方法相比，它可生成边缘清晰、干净连贯且结构紧凑的网格，形状覆盖率显著提升，多个类别的FID得分较现有方法提升30个点，生成保真度更高。

瑞士EPFL开发的多模态Transformer模型，支持多类视觉任务研究 该模型是由瑞士洛桑联邦理工学院开发的多模态学习模型，依托Transformer架构搭建，支持条件生成任务。经实验验证，其在各类视觉任务中具备良好的通用性与可扩展性，不同于单一功能的视觉模型，该模型为多模态学习在视觉及其他领域的进一步探索，奠定了重要的研究基础。

面向NLP学习者的Transformer模型图形化交互式理解工具 该工具针对Transformer模型原理理解门槛高的问题，以图形化交互形式呈现Transformer模型各核心组件，包括自注意力机制、前馈神经网络等结构，直观展示数据在模型内的流动与处理过程。不同于纯文字理论讲解或代码级演示，无需复杂环境配置即可查看模型运行逻辑，为NLP技术学习提供直观支撑。

基于RingAttention训练的开源多模态大模型，支持超长序列处理 Large World Models是利用RingAttention技术训练的神经网络，专注处理长视频与长语言序列任务，旨在理解人类知识与多模态世界。它通过大规模数据集训练，实现了远超常规大模型的上下文窗口大小，目前已开源一系列70亿参数的模型，可支持处理超过100万标记的文本与视频数据，为长序列多模态任务提供了开源可行的解决方案。