AI模型优化

面向专家混合架构大模型的高效定制微调方法，降低资源存储消耗 传统全量微调MoE架构大模型需要调整全部参数，资源成本极高。Expert Specialized Fine-Tuning（ESFT）针对MoE架构特性，仅调整与目标任务相关的专家模块参数，无需改动模型全部参数，在保证任务适配性能的前提下，大幅降低微调算力消耗，同时减少微调后模型的存储占用，解决了MoE大模型定制化落地的资源门槛问题。

高通官方AI模型平台，所有模型针对高通AI引擎做硬件加速优化 不同于通用AI模型库，Qualcomm AI Hub内所有AI模型均已完成针对高通AI引擎的专项优化，可调动高通芯片的CPU、GPU、NPU全部计算核心，最大化发挥硬件AI算力，帮助开发者省去自行适配优化的环节，降低终端侧AI应用的开发门槛，助力基于高通芯片的AI应用快速落地。

面向图像处理的扩散模型框架，提升模型零样本任务泛化能力 PromptFix是一款针对图像处理的扩散模型优化框架，通过构建大规模指令遵循数据集，采用高频引导采样方法控制模型去噪过程，设计辅助提示适配器，借助视觉语言模型增强文本提示效力。相较于传统图像处理模型，该框架在多种图像处理任务中性能更优，在盲恢复、组合类图像处理任务中具备更出色的零样本能力。

无代码NLP模型微调平台，低数据量下依托Fine-Tuning提升性能 Fine Tuner AI依托先进Fine-Tuning技术，可帮助用户在更少数据与时间内优化现有NLP模型性能。平台支持全流程无代码操作，无需用户具备AI开发能力也可完成模型调优，相比传统微调流程，可节省大量算力资源与时间成本，适配多种NLP应用场景。

基于RoBERTa的轻量级预训练评分器，实现参数高效模型微调 Cappy是基于RoBERTa训练的轻量级预训练评分器，参数规模仅3.6亿。它既可以独立完成自然语言分类任务，也可作为辅助组件提升现有语言模型性能。与传统全参数微调不同，微调Cappy时无需反向传播更新原语言模型参数，大幅降低内存需求，同时适配开源和闭源各类语言模型，是一种高效的参数高效微调方案。

基于真实世界数据虚拟环境的AI代理训练研究平台 V-IRL是面向AI研究的虚拟训练平台，依托真实世界数据构建虚拟环境，支持AI代理完成导航、地点识别、服务推荐等多类模拟任务。相比直接在真实环境训练AI模型，该平台可降低训练测试成本，提升研发效率，帮助优化AI处理现实世界问题的能力，为AI研发提供可控的测试优化空间。

面向图像处理的概念消除模型，支持即插即用缓解模型变化侵蚀 SPM是一款面向图像处理领域的概念消除技术模型，依托Semi-Permeable半渗透结构，可向任意扩散模型注入，实现针对性概念消除学习。通过新颖的潜在定位微调策略，有效缓解模型变化与侵蚀现象，解决现有消除方法存在的生成变异、转移难度大、部署效率低等问题，支持灵活组合即插即用，适配多场景需求。

面向长上下文大语言模型的动态稀疏注意力推理加速方案 针对长上下文大语言模型预填充阶段速度瓶颈，MInference 1.0通过识别长上下文注意力矩阵的三种独特模式，实现动态稀疏注意力，可加速1M token提示的预填充阶段，同时不损失大模型原有核心能力，尤其保留检索能力，适配长输入场景的性能需求。

伯克利学术背景的AI优化平台，提升非推理模型代码生成性能 NovaSky技术源自加州大学伯克利分校Sky Computing Lab，依托创新测试时扩展技术S*、强化学习蒸馏推理等前沿方案，可显著提升非推理模型在代码生成领域的表现。平台为开发者提供高效、低成本的模型训练与优化解决方案，目前开放推理成本优化、模型蒸馏等多种优化方法，满足不同开发需求。

AI模型性能验证平台，自动检测偏见保障AI合规与公平 这是专注于AI模型验证优化的专业工具，可通过即时反馈分析模型性能输出优化洞察，自动检测并减轻AI模型潜在偏见，保障AI系统公平性，支持数据隐私合规以适配监管要求，可集成进现有开发工作流，还提供持续监控能力跟踪优化模型性能，和通用开发工具不同，侧重合规与公平性保障。