乳腺癌空间转录组数据集上基于深度学习的EnST算法研究

摘要

在保留空间位置和组织学图像的基础上，空间转录组学使用基因表达谱数据对组织结构和生物发育提出新的见解。准确识别位点的空间域是空间转录组学各种下游分析的重要步骤，提出的EnST算法在运用复合缩放网络的基础上，添加了变分图自编码器，能够在空间转录组数据中提取有用信息。在人类乳腺癌空间转录组学数据集中，相比于其他算法，EnST算法可以更好地描绘乳腺癌精细的空间组织结构。此外，EnST学习到的表征在聚类、可视化、差异基因表达分析、GO功能分析等下游任务中也展现出强大的性能。

关键词

深度学习 / 变分图自编码器 / 乳腺癌 / 空间域 / 聚类