专利示意图

一、技术领域

图像分析技术领域

二、专利介绍

1.专利信息

专利类型：发明

专利权人：清华大学深圳国际研究生院

申请号：申请号：202310512864.0

发明人：袁克虹

2.专利说明书摘要

本发明公开了一种基于超像素的图像分类推理可靠性的归因方法。该方法包括：从目标图像中提取超像素，所述超像素是由位置相邻且颜色、亮度、纹理特征相似的像素点组成的图像子区域；对所述超像素进行随机采样，得到子集以及对应的掩模，并以所述多个子集作为分类模型的输入获得关于类别的预测分数；利用所述关于类别的预测分数计算各掩膜对应的权重，进而进行特征归因，获得归因图。本发明能够准确地定位图像中的对象，实现更精确的归因，并以超像素为基本采样单位，保留了大部分语义信息，且利用更少的随机采样次数，即能得更好的归因效果。

3.创新点

（1）本发明提出一种对网络本身没有特殊要求、只通过模型的输入和输出就能进行特征归因的可解释性算法；

（2）本发明基于超像素对分类模型进行特征归因，以超像素为采样单位对输入图像多次随机采样；

（3）本发明所提出的方法相较于现有特征归因算法具有更好的语义信息定位精确性。

4.痛点问题

（1）深度学习模型的可解释性；

（2）特征归因的语义信息定位精确性。

5.技术优势

（1）本发明通过聚类得到的超像素更接近归因所需要的像素子集，能够更加精确地提取图像中的对象；

（2）本发明具有更强的特征定位能力，能够很好地提取图像中的对象，找到模型关注的重点区域；

（3）本算法以超像素为基本采样单位，保留了大部分语义信息，归因定位更加精确。

三、产业化信息

1.应用场景

可用于各学科数据及工业数据分析

电子商务：应用于推荐模型的在线学习，提供可视化的模型解释，有针对性地对模型进行调优；

金融服务：为用于高风险决策的模型提供可视化的模型解释结果；

医疗：分析医疗决策AI模型的推理合理性与可靠性；

模型加速：提供归因图来指导模型量化算法搜索合适的精度；

图像处理：用于数据增强，丰富样本多样性，增强模型的泛化能力；

模型集成：用于在模型集成中优化子分类器的权重系数、温度缩放系数等。

2.商业价值

此项技术拥有巨大的商业前景，对于生物医药行业有以下市场价值：

（1）本算法可以对人工智能模型进行解释，并分析推理可靠性，解决医疗AI模型“落地难”的问题，加速医疗AI模型投入临床应用的进程；

（2）本算法可以为用户在决定是否采纳AI的输出结果时提供参考，提高人工智能系统的安全性，打消用户面对“黑盒”时的犹疑。

3.发展规划

该算法未来可应用至各个行业和学科，对深度学习模型进行解释和分析。

4.合作方式

面议

注:所有成果未经授权，请勿转载

联系方式：ttc@sz.tsinghua.edu.cn