基于可变形注意力transformer的胃肠癌病理图像细胞核自动分割方法

摘要

目的 使用深度学习算法实现胃肠癌病理图像的细胞核自动分割，辅助后续病理图像的定量分析。方法以2022年1月—2022年2月在上海交通大学医学院附属瑞金医院就诊的59例胃肠癌患者为研究对象，采用python和LabelMe对患者的病理图像进行数据脱敏、图片切割和感兴趣区域标注，共纳入944张病理图像，标注了9703个细胞核。通过构建一种基于深度学习的新型语义分割模型，模型引入可变型注意力transformer(deformable attention transformer,DAT)，实现了病理图像细胞核自动、精准、高效分割，并采用多种分割评价标准评估模型性能。结果模型分割结果的平均绝对误差值（mean absolute error,MAE）为0.112 6，骰子系数（dice coefficient,Dice）为0.721 5，其效果明显优于U-net基线模型，并领先于ResU-net++、R2Unet和R2AttUnet等模型，且分割结果相对稳定，泛化性好。结论 本研究建立的分割模型能够精准识别并分割出病理图像中的细胞核，鲁棒性和泛化性较好，有助于在实际应用中辅助诊断。

关键词

深度学习模型 / 病理图像 / 细胞核分割 / 胃肠癌 / 诊断