ICLR 2025 | 中科院+哈工大重磅发现：预训练视觉模型分类越准，可解释性越强
论文标题：Enhancing Pre-trained Representation Classifiability can Boost its Interpretability
作者团队：中国科学院、哈尔滨工业大学、鹏城实验室、华为
发布时间：2025年10月28日
👉一键直达论文
👉Lab4AI大模型实验室论文阅读
✅Lab4AI平台提供AI导读和AI翻译等工具，辅助论文阅读。您还可以投稿复现这篇论文~
⭐研究背景
当前预训练视觉模型在分类任务上表现优异，但其表示的可解释性常被忽视。传统观点认为可解释性与分类性能存在冲突，尤其在设计可解释模型时分类性能往往下降。
⭐研究目的
本文旨在探究分类导向的预训练表示是否能够同时实现高分类性能和高可解释性，并量化表示的可解释性，揭示其与分类性能之间的内在关系。
⭐研究框架
提出“内在可解释性评分（IIS）”，通过将表示投影到概念空间并引入稀疏化机制，衡量其在解释过程中保留任务相关语义的能力。IIS定义为不同稀疏度下解释预测准确率与原始表示准确率之比的平均值。
⭐研究结果
实验发现，IIS与分类准确率呈正相关，即分类性能越高的表示越易于解释。进一步地，通过最大化IIS微调模型可提升其分类性能，同时基于解释的预测也能达到接近原始模型的准确率，实现可解释性与分类性能的协同提升。
