深度神经网络(DNNs)在训练过程中容易受到标签噪声的影响，这会降低其泛化性能。医学图像的标注依赖于标注者的专业知识和经验，从而不可避免地引入了标签噪声。因此，本研究创新性地设计了一种对抗标签噪声的训练方法，同时突破了传统标签修正方法依赖于噪声比例的先验信息的局限。具体来说，本研究将自监督中的对比学习和注意力图像融合策略融入到传统的监督学习过程中。对比学习有助于增强DNNs在特征提取过程中的视觉表征能力，而注意力图像融合策略通过加权图像融合操作，构造出大量在一定程度上能抑制噪声的融合样本。有关的研究论文《Suppressing label noise in medical image classification using mixup attention and self-supervised learning》最近发表在国际学术期刊《Physics in Medicine and Biology》上。
图1. 本研究提出的对抗噪声标签方法的示意图。除了传统的监督损失模块，本研究创新性地融入了对比学习模块和注意力特征融合模块。对比学习模块可以更好地学习图像特征的表达，注意力特征融合模块旨在降低噪声标签图像对模型参数更新的影响
...
此外，作者分别基于眼科OCT数据库、血细胞数据库和结肠病理学数据库，比较了三种代表性方法的分类特征的t-SNE可视化，包括默认方法、Co-teaching方法和本研究提出的方法，对比结果如图4所示。具体来说，在测试过程中，从训练好的模型的最后一个卷积层中提取测试图像的特征向量，并通过t-SNE进行可视化。结果表明，本研究提出方法的特征空间比另外两种对比方法实现了更好的聚类效果，特别是在血细胞数据库上。总的来说，本研究提出方法有助于优化具有高内聚和低耦合的特征空间，从而降低标签噪声的影响，提高分类性能。
图4. 基于30%的均匀噪声模型，对比三种典型噪声标签学习方法分类特征的t-SNE可视化。
...