序列模型

结合SSM与注意力优势的高效结构化状态空间序列模型 Mamba-2是基于结构化状态空间对偶（SSD）架构开发的新型序列模型，融合了状态空间模型（SSM）与注意力机制的核心优势。设计上支持训练过程复用矩阵乘法操作，提升硬件利用效率，可支持更大的模型状态维度，训练过程更高效，在多查询关联记忆等复杂序列任务中表现优异。