基于TE-Deformable DETR的食管鳞癌检测算法

摘要

针对消化内镜下食管鳞癌病灶与健康区域在颜色和纹理上的视觉相似性以及卷积神经网络目标检测模型精度不足的问题，提出一种基于纹理增强的Deformable DETR（TE-Deformable DETR）检测算法。首先，采用UP-DETR的预训练策略对胃肠道公开数据集中的110 079张图像进行预训练，旨在提升Transformer的泛化能力。其次，提出一种纹理和颜色增强的前处理算法，有效增强病灶与背景之间的对比度。接着，设计TE-Deformable DETR，提出多尺度纹理特征增强投影层，以提升模型对微小纹理变化的敏感性，并结合搜索注意力机制，进一步增强模型对病灶特征的捕捉能力。该方法在食管鳞癌多中心数据集上表现出更高的检测精度。实验结果表明，相较于基准Deformable DETR算法，改进后的算法在mAP和mAP₅₀指标上分别提高5.1%和6.1%，召回率达到98.7%。

关键词

食管鳞癌 / 目标检测 / 纹理增强 / 搜索注意力