可解释AI

Captum

captum.ai

不少PyTorch开发者在训练AI模型时，都会卡在决策逻辑透明化的卡点：既要调试模型偏差、通过合规性校验，还要复盘落地效果。Captum作为专注AI模型可解释性的开源工具，针对PyTorch体系做了深度适配，提供特征归因、扰动分析