基于动态锚点与质量感知混合专家的多视图聚类

李顺勇 ,  赵婉婷 ,  赵兴旺

南京大学学报(自然科学) ›› 2026, Vol. 62 ›› Issue (04) : 607 -628.

PDF (2662KB)
南京大学学报(自然科学) ›› 2026, Vol. 62 ›› Issue (04) : 607 -628. DOI: 10.13232/j.cnki.jnju.2026.04.008

基于动态锚点与质量感知混合专家的多视图聚类

作者信息 +

Multi⁃view clustering with dynamic anchors and a quality⁃aware mixture of experts

Author information +
文章历史 +
PDF (2725K)

摘要

多视图聚类旨在挖掘不同视图间的共识性与互补性,但现有方法面临两大瓶颈:一是全局拓扑建模依赖预定义相似度与固定邻域,难以适应复杂分布;二是样本级视图质量差异显著,静态加权策略难以刻画细粒度可靠性变化,尤其在数据缺失场景下鲁棒性不足.为此,提出基于动态锚点与质量感知混合专家的多视图聚类框架(DAMC⁃MoE).首先,利用可学习的动态锚点机制代替传统预定义相似度,实现拓扑结构建模与特征表征学习的端到端深度耦合;在此基础上,引入质量感知混合专家模块,利用样本级完整度与信噪比生成质量令牌,引导门控机制执行自适应路由,实现了从传统视图级加权向样本级细粒度感知融合的范式转变;最后,构建三层对比学习机制,从视图间、视图内及局部⁃全局层面联合强化语义对齐.在五个基准数据集上与11个先进算法的全面对比实验中,DAMC⁃MoE展现出优越的聚类性能.Friedman检验结果进一步显示,DAMC⁃MoE在三项聚类评价指标上的平均排名均显著高于对比方法.

Abstract

Multi⁃view clustering aims to exploit the consensus and complementarity across different views,yet existing methods face two major bottlenecks: first,global topology modeling relies on predefined similarity measures and fixed neighborhoods,making it difficult to adapt to complex data distributions; second,sample⁃level view quality varies significantly,and static weighting strategies fail to characterize fine⁃grained reliability changes,particularly lacking robustness in missing data scenarios. To this end,we propose a multi⁃view clustering framework based on Dynamic Anchors and quality⁃aware Mixture⁃of⁃Experts (DAMC⁃MoE). First,a learnable dynamic anchor mechanism replaces traditional predefined similarity measures,achieving end⁃to⁃end deep coupling between topological structure modeling and feature representation learning. Building on this,a quality⁃aware mixture⁃of⁃experts module is introduced,which generates quality tokens from sample⁃level completeness and signal⁃to⁃noise ratio to guide the gating mechanism for adaptive routing,realizing a paradigm shift from conventional view⁃level weighting to sample⁃level fine⁃grained perceptual fusion. Finally,a three⁃level contrastive learning mechanism is constructed to jointly reinforce semantic alignment from inter⁃view,intra⁃view,and local⁃global perspectives. In comprehensive comparative experiments on 5 benchmark datasets against 11 state⁃of⁃the⁃art algorithms,DAMC⁃MoE demonstrates superior clustering performance. Friedman test results further indicate that DAMC⁃MoE achieves significantly higher average rankings across three clustering evaluation metrics compared to all baseline methods.

Graphical abstract

关键词

多视图聚类 / 动态锚点 / 混合专家 / 质量感知 / 对比学习

Key words

multi⁃view clustering / dynamic anchors / mixture of experts / quality⁃aware / contrastive learning

引用本文

引用格式 ▾
李顺勇,赵婉婷,赵兴旺. 基于动态锚点与质量感知混合专家的多视图聚类[J]. 南京大学学报(自然科学), 2026, 62(04): 607-628 DOI:10.13232/j.cnki.jnju.2026.04.008

登录浏览全文

4963

注册一个新账户 忘记密码

随着现代信息采集技术的飞速发展,现实世界的数据对象愈发呈现多模态、多视图的特性.例如,在医学诊断中,患者的病理特征往往通过CT影像、核磁共振及临床文本报告来共同描述;在推荐系统中,用户画像由行为日志、社交关系及商品属性融合而成1-4.多视图聚类(Multi⁃View Clustering,MVC)是无监督学习的核心任务,旨在挖掘不同视图间的共识性与互补性信息,将样本划分至语义一致的簇中5-7.然而,与单视图任务相比,多视图聚类面临更严峻的特征空间异构性挑战,因为不同视图在维度、分布及语义粒度上存在天然鸿沟(例如高维稀疏的文本特征与低维稠密的图像特征)8-9.这种异构性在提供丰富信息的同时,也引入了三大核心挑战.
第一是全局拓扑结构的自适应建模难题.传统方法多依赖K近邻(K⁃Nearest Neighbors,KNN)或高斯核构建图结构,但受制于预定义的相似度度量和固定的邻域参数,无法自适应地捕获复杂多变的全局数据分布10-14.特别是在多视图场景下,单一度量标准难以同时适配所有视图的几何特性,导致图结构建模失真.
第二是样本级质量异质性与视图不完整性的双重困境.受采集设备故障或传输干扰影响,现实多视图数据普遍面临视图缺失问题15-17.更严峻的是,即使视图完整,数据可靠性也表现出显著的样本特异性,同一视图可能精准表征样本A,却因噪声污染对样本B失效.这种在样本层面剧烈波动的信噪比与完整度打破了传统方法对数据分布一致性的理想假设,使模型极易被局部离群点或失效视图误导,导致聚类结构崩塌.
第三是粗粒度融合机制无法实现鲁棒的互补学习.现有方法多采用视图级加权(假设某视图对所有样本同等重要)或简单的线性拼接18-21.这类僵化策略不仅忽略了样本层面的质量差异,更难以捕捉视图间复杂的非线性依赖关系.特别是在数据缺失场景下,如何设计细粒度感知机制以“去伪存真”并自适应修复缺失语义仍是亟待突破的瓶颈.
针对上述挑战,本文提出一种基于动态锚点与质量感知混合专家的多视图聚类框架(DAMC⁃MoE).该框架的内部各组件之间建立了层层递进的协同机理:动态锚点机制通过线性复杂度解决全局拓扑构建的效率难题,为特征传播提供结构先验;质量感知模块针对数据的非理想状态进行实时度量,其生成的质量令牌为后续融合提供显式的可靠性判据;混合专家架构据此实现样本级的细粒度路由,在逻辑上形成从底层结构优化到高层自适应融合的端到端协同,确保模型在异构及不完整数据下的鲁棒性.
首先,构建端到端可学习的动态锚点机制.不同于现有方法依赖固定的聚类中心22-24,该机制将锚点内容建模为神经网络的可学习参数.虽然锚点数量Ka作为超参数预先设定,但锚点在特征空间中的具体分布位置随编码器参数同步更新.这种设计使图拓扑能够根据下游聚类目标的反馈进行动态演化,从而在降低计算复杂度的同时,实现特征表达与结构保持的深度耦合.
其次,设计了质量感知的混合专家融合模块.该模块摒弃传统的静态视图级加权策略,引入混合专家(Mixture of Experts,MoE)架构25-26,通过专门的质量感知子网从完整度和信噪比两个维度动态评估每个样本的视图质量.随后,生成的“质量令牌”被注入门控网络,使门控机制能在样本层面动态分配专家激活权重,从而自动抑制高噪或缺失视图的干扰,同时增强高质量视图的贡献,实现“去伪存真”.此外,多专家架构支持模型从不同子空间组合特征,显著提升了表征能力.
最后,采用三层增强对比学习策略.近年来,对比学习在无监督表示学习中展现出强大的语义对齐能力,例如,Yan et al27的GCFAggMVC算法通过结构引导的对比学习对齐共识表示与视图特定表示.Cui et al28的DCMVC算法采用双对比驱动策略,通过动态聚类扩散和可靠邻居引导来实现类间分离与类内紧凑.为了进一步挖掘动态锚点与融合特征的语义潜力,本文设计了包含视图间一致性、视图内结构鲁棒性及局部⁃全局协同对齐的三重约束目标,这种多层次监督信号促使模型在对齐语义空间的同时,有效保留视图内细粒度几何结构,进一步增强复杂场景下的聚类性能.
在五个基准数据集上的实验结果表明,DAMC⁃MoE的ACC (Accuracy),NMI (Norma⁃lized Mutual Information)和PUR (Purity)三项指标均取得了优异性能,验证了其在处理大规模及不完整多视图数据时的优越性与鲁棒性.
DAMC⁃MoE的网络结构如图1所示.
本研究的主要贡献如下.
(1)提出端到端可学习的动态锚点机制,通过将锚点内容与网络参数联合优化,实现了图拓扑结构与深度特征学习的统一,突破了传统两阶段图构建方法的性能瓶颈.
(2)设计样本特异性的质量感知门控机制.通过将完整度与信噪比建模为可微模块并与 MoE架构深度耦合,实现了从静态视图级加权到动态样本级专家路由的范式转变.
(3)构建多层次协同对比学习框架.利用三重约束的联合优化,在全局一致性与局部结构保持之间建立了平衡机制.
(4)系统性实验验证与消融分析.在多个基准数据集上验证了DAMC⁃MoE的优越性,并通过详尽的消融实验揭示了各模块的贡献权重,为后续研究提供了方法论参考.

1 相关工作

1.1 基于图的多视图聚类

图结构因其能显式建模样本间的拓扑关系,已成为多视图聚类的主流技术路线.早期工作主要依赖预定义的相似度函数(如欧氏距离、余弦相似度)构建固定图结构.例如,Kumar et al10提出共正则化谱聚类,需要先为每个视图计算固定的核矩阵(相似度矩阵),再通过正则化视图间的谱嵌入来保证聚类一致性.类似地,Zhan et al13的MVGL算法通过优化拉普拉斯矩阵的秩来改善聚类性能,但初始图结构仍基于预定义相似度函数,无法摆脱固定图结构的依赖.Nie et al29的AMGL引入自动学习图权重的机制,但优化过程仍基于预定义图结构,难以完全自适应数据分布的内在变化.随着深度学习的兴起,基于深度图聚类的方法应运而生.如SGCMC30,DCRN31,ASGCN32,MGCN⁃FN33等工作,利用深度神经网络在潜在空间中提取高阶语义特征并构建图结构,显著提升了特征的抽象表达能力,但这些方法在图结构与聚类目标的协同优化方面仍有改进空间.其一,图结构的初始化往往基于预定义规则,尽管部分方法引入注意力机制或图扰动策略进行后续优化,但初始拓扑的构建仍依赖启发式假设,在面对复杂数据分布时可能受到初始化质量的影响.其二,图学习与聚类任务的整合深度有待进一步增强.虽然部分方法尝试通过伪标签反馈(如SGCMC)或双层关联约束(如DCRN)实现了一定程度的协同,但图拓扑的优化与聚类损失的传导路径往往存在间接性,使图结构难以在整个训练过程中持续适配聚类目标的动态变化.

1.2 多视图特征融合策略

特征融合是多视图聚类的核心.按照融合阶段的不同,主流方法可分为早期融合(特征级拼接)、晚期融合(决策级融合)以及混合融合(同时利用特征级和决策级信息)三类34.虽然注意力机制的引入35使模型能够学习视图级的权重,但现有方法1821大多采用“一刀切”的策略,即对所有样本分配相同的视图权重,忽略了样本特异性,即同一视图在不同样本上的质量可能截然不同.特别是在不完整多视图聚类领域,现有方法通常采用“先插补后聚类”的两阶段策略,或在端到端框架中隐式填充缺失值36,这些方法往往难以兼顾缺失值的修复与噪声视图的抑制,当数据同时存在特征缺失和高噪声时,模型容易产生误差累积37.

混合专家(MoE)模型近年来在自然语言处理(Natural Language Processing,NLP)和计算机视觉(Computer Vision,CV)领域展现出强大的条件计算能力38.典型代表包括NLP领域的DeepSeek⁃MoE,通过细粒度专家分割与共享专家隔离的稀疏激活策略实现大规模语言模型的高效训练与推理39;CV领域的视觉Transformer稀疏结构(V⁃MoE)通过批处理优先路由,在保持精度的同时可以大幅降低计算量40.其核心均为根据输入内容动态选择并激活最合适的子网络.受此启发,近期研究开始尝试将MoE架构迁移至多视图聚类任务.例如,Du et al41提出一种用于多视图K⁃Means的双重MoE框架,通过自适应校准簇级别的视图权重并划分区域级子空间以平衡视图贡献.Zhang et al42将MoE作为深度表征学习器,利用协作专家网络和平衡约束来增强多视图特征的多样性与互补性.然而,上述方法主要关注特征空间的多样性扩充或簇级的权重分配,往往将门控机制视为隐式的优化过程,缺乏对数据内源性质量(如视图完整度和信噪比)的显式感知,特别是在面对严重的视图缺失时,仅仅依赖隐式路由可能导致次优的融合策略.

综上,现有方法在全局结构的自适应性和融合策略的细粒度鲁棒性上存在局限,DAMC⁃MoE框架通过两个维度的创新系统回应上述问题.在结构层面,利用可学习的动态锚点突破传统图方法的瓶颈;在融合层面,利用质量感知的混合专家机制实现对异质及缺失数据的精准融合.

2 提出的方法

2.1 符号说明

给定包含V个视图的多视图数据集X1,X2,,XV,其中,XvRN×Dv表示第v个视图的N个样本,Dv为该视图的特征维度.多视图聚类的目标是将这N个样本划分为K个不相交的聚类.为便于后续方法描述,主要数学符号的总结如表1所示.

2.2 编码与锚点图构建

2.2.1 多尺度编码器

为了应对多视图数据的异构性,DAMC⁃MoE采用视图特定的编码器架构.对于第v个视图,视图编码器采用双路径并行设计,将输入Xv映射到统一的特征空间:

Zv=fvXv;θv    ZvRN×Df

编码器包含两条并行路径以捕获不同粒度的特征.路径一采用标准两层结构(中间隐藏维度为Dh),路径二采用轻量结构(中间隐藏维度为Dh/2),两者分别通过ReLULeakyReLU激活,形成粗细粒度互补,如式(2)所示:

Zv,1=ReLUReLUXvW1v+b1vW3vZv,1RN×DfZv,2=ReLULeakyReLUXvW2v+b2vW4vZv,2RN×Df

其中,W1vRDv×DhW2vRDv×Dh/2分别表示路径一和路径二的第一层可学习权重矩阵,b1v,b2v为对应的偏置项.

两路径特征通过拼接和线性投影融合:

Zv=LinearprojvZv,1Zv,2

其中,表示特征拼接操作,Linearprojv是一个线性层,将2Df维拼接特征投影到编码维度Df.Dropout率为0.5,应用于两条路径以增强鲁棒性.这种双路径设计使编码器能够同时提取局部细节和全局模式,提升对异构视图的表达能力.

2.2.2 动态锚点机制

在获得编码后特征Zv的基础上,图结构能够显式建模样本间的关系,为特征传播提供结构先验.DAMC⁃MoE提出动态锚点机制,通过可学习的锚点集合作为中介节点构建图结构,同时,支持端到端优化以适应视图异构性.对于第v个视图,动态锚点矩阵ΦvRKa×DfKa个锚点向量组成,每个锚点ϕkvRDf与编码后特征处于同一空间.锚点通过K⁃Means聚类初始化以覆盖特征空间的主要分布区域,并在训练过程中与编码器参数联合优化.

图构建通过三步锚点中介机制实现.

步骤1,样本⁃锚点分配.通过多层感知机(Multilayer Perceptron,MLP)网络将编码后特征映射为样本⁃锚点分配矩阵:

Wv=SoftmaxMLPZv    WvRN×Ka

其中,MLP()是一个两层全连接网络,Wv的第i行表示第i个样本对所有锚点的归属权重.

步骤2,锚点关系建模.锚点间相似度通过内积和Softmax归一化计算:

Sav=SoftmaxΦvΦv    SavRKa×Ka

其中,Sav的第i,j个元素表示第i个锚点与第j个锚点的相似度权重.

步骤3,样本图构建.通过锚点中介构建样本间邻接矩阵:

Av=SoftmaxWvSavWv    AvRN×N

该机制以锚点为中介节点,避免直接计算样本间相似度,同时,保持了图结构的全局连通性.

2.3 质量感知增强

不同视图的信息质量存在显著差异,直接融合可能引入噪声或错误信息.DAMC⁃MoE设计了质量感知模块,通过神经网络学习和统计信息调整相结合的方式来量化评估每个视图的可靠性,并对特征进行插补增强.质量评估采用单个MLP网络同时输出两个维度的初始评分:

q˜v=σMLPqZv    q˜vRN×2

该网络输出的两个维度分别表征完整度和信噪比.第一维对应完整度评分.为了精确反映数据的缺失情况,利用缺失掩码矩阵Mv0,1N×Dv

(其中,mijv=1表示第i个样本在第v个视图的第j维特征缺失)对初始评分进行统计修正:

qiv,1=q˜iv,11-1Dvj=1Dvmijv    Mv0q˜iv,1                                        否则

第二维对应信噪比评分,反映了样本的内在噪声水平,保持网络输出不变,即qiv,2=q˜iv,2,并通过后续的重构损失进行隐式优化.将两维评分拼接形成最终的质量分数qiv=qiv,1,qiv,2R2.为了将该质量信息融入后续的混合专家(MoE)模块,将其映射为高维的质量令牌(Quality Token):

tiv=Lineartokenqiv,tivRDt

该令牌tiv显式编码了样本的质量信息,将作为Key和Value传递给MoE的门控网络.

基于质量评估结果,当视图存在缺失时,质量感知模块进一步对编码后特征进行插补.通过缺失掩码编码器Em将二值掩码Mv映射为连续编码Mev,插补网络I基于Zv生成填充值:

Z˜v=Zv1-Mev+IZvMev

该机制在保留可用特征的同时,对缺失位置进行语义一致的填充,确保后续图卷积网络能够在完整特征空间上进行有效传播.

在获得插补后的特征Z˜v和邻接矩阵Av后,残差图卷积网络通过图结构传播进一步增强特征的判别能力.对于第v个视图,残差GCN的计算过程的定义如式(11)所示:

H1=ReLULinear1AvDropoutZ˜vH˜v=Linear2AvDropoutH1Hl,v=ReLUH˜v+ProjZ˜v

其中,Linear1Linear2分别为第一层和第二层的图卷积层包括权重矩阵W1v,W2vRDf×Df,Proj为维度对齐的线性投影.残差连接将输入直接加到经过两层图卷积变换后的特征上,确保原始判别信息的保留.

为了捕获多尺度的结构信息,DAMC⁃MoE设计了双路径特征提取架构.局部特征Hl,v通过残差GCN捕获样本间的细粒度关系,全局特征Hg,v通过样本⁃锚点分配权重直接聚合锚点表征:

Hg,v=MLPrelationWvΦv

其中,MLPrelation为两层变换网络,用于学习锚点聚合后的语义关系.这种双路径设计使模型能够同时建模基于邻域传播的局部结构和基于锚点聚合的全局分布.

为了增强特征表征的保真能力,每个视图配备对称解码器gv,以局部特征Hl,v为输入重构原始特征空间.重构损失对所有视图取平均:

Lrec=1Vv=1VXv-gvHl,vF2

该目标确保经过图结构增强的局部特征在保留判别性语义的同时,维持对原始数据的重构能力,为后续融合模块提供可靠的监督信号.

2.4 异构专家融合

2.4.1 异构专家架构

经过质量评估和图卷积增强后,DAMC⁃MoE创新性地引入异构专家来配合软门控机制,实现对异构视图特征的自适应加权融合.MoE融合模块由E=4个结构各异的专家网络组成,可从不同角度处理特征,提升融合表征的多样性和鲁棒性.融合过程分两步进行.首先,对每个视图的局部GCN特征和全局锚点特征相加后,通过视图特定的MLP进行变换:

H¯v=MLPviewHl,v+Hg,v    H¯vRN×Df

其次,将所有视图的变换特征求算术平均,得到跨视图的统一表征作为所有专家的共同输入:

H¯=1Vv=1VH¯v    H¯RN×Df

四个专家的具体架构如下,其中,Oe表示第e个专家对整个批次的输出.

专家1为标准专家,由两层MLP配合LayerNorm来提取基础非线性特征:

O1=LayerNormLinear2ReLULinear1H¯

专家2为深层专家,三层MLP结合混合激活Tanh+ReLU,捕获复杂特征模式:

O2=LayerNormLinear3ReLULinear2TanhLinear1H¯

专家3为残差专家,引入残差连接,保留原始特征信息:

O3=Linear2ReLULinear1H¯+H¯

专家4为注意力专家,通过Sigmoid门控实现特征维度的动态选择:

O4=σLinear2ReLULinear1H¯H¯

其中,σ为Sigmoid函数,为逐元素乘法.

这种异构设计使不同专家通过不同的变换策略(标准非线性变换、深层抽象、残差保真、注意力选择)实现功能差异化,为后续融合提供多样化的候选表征.

2.4.2 质量感知门控融合

基于异构专家的多样化输出,门控网络G负责评估每个专家对当前样本的重要性.为了使门控决策充分感知各视图的质量差异,质量表征ri通过注意力机制从质量令牌中聚合得到.首先,将所有视图融合特征拼接并投影为查询向量(Query):

qi=LinearqH¯i1;;H¯iV    qiRDt

随后,以质量令牌tivv=1V作为键(Keys)和值(Values),通过缩放点积注意力来计算质量表征:

αi,v=expqitiv/Dtv'=1Vexpqitiv'/Dt    ri=v=1Vαi,vtiv

其中,tivRDt为第i个样本在第v个视图的质量令牌,Dt为缩放因子.该机制使质量表征能基于当前样本的视图特征动态聚焦于高质量视图的信息.

门控网络接收所有视图融合特征的拼接以及质量表征作为输入,生成归一化的专家权重:

wi=SoftmaxMLPGH¯i1;;H¯iV;ri    wiRE

根据门控权重和异构专家的差异化输出,最终的融合特征Fi通过加权组合计算得到:

Fi=LayerNormReLULineare=1Ewi,eoi,e

其中,oi,e表示专家输出矩阵Oe的第i行.通过这种设计,DAMC⁃MoE能够根据样本特性和视图质量动态调整不同专家的贡献度,从而生成具有高度判别性和鲁棒性的统一表征.

2.5 多层次对比学习

为了提升融合特征的判别能力和跨视图一致性,DAMC⁃MoE设计了多层次对比学习框架,从三个互补的语义层次对模型进行联合优化.其中,视图间对比属于样本级对比,以不同视图对同一样本的编码特征为正对,强化跨视图语义一致性;视图内对比属于数据增强级对比,以同一视图内原始特征与噪声增强特征为正对,提升单视图表征的鲁棒性;协同对比属于局部⁃全局级对比,以同一视图内局部拓扑特征与全局锚点聚合特征为正对,确保多尺度表征的语义一致性.

2.5.1 视图间对比学习

视图间对比学习旨在强化不同视图对同一样本的语义一致性,属于样本级对比.以同一样本在不同视图v1v2下的归一化局部GCN特征h^iv1,h^iv2为正对,批次内其他样本的跨视图特征对为负对,采用InfoNCE框架定义损失:

Linterv1,v2=-1Ni=1Nlgexpsimh^il,v1,h^il,v2/τj=1Nexpsimh^il,v1,h^jl,v2/τ

其中,h^il,v=hil,v/hil,v2为归一化的局部GCN特征,sim,为余弦相似度,τ为温度参数.对所有视图对取平均,得到总视图间损失:

Linter=1VV-1v1=1Vv2v1Linterv1,v2

2.5.2 视图内对比学习

视图内对比学习旨在增强单视图内对噪声扰动的鲁棒性,属于数据增强级对比.通过对局部GCN特征施加随机高斯噪声构建增强视图:

Hl,v,aug=Hl,v+ϵ    ϵ~N0,0.12I

以原始特征h^il,v与其增强特征h^il,v,aug为正对,批次内其他样本的增强特征为负对,定义损失如下:

Lintrav=-1Ni=1Nlgexpsimh^il,v,h^il,v,aug/τj=1Nexpsimh^il,v,h^jl,v,aug/τ

总视图内损失为所有视图损失的算术平均:

Lintra=1Vv=1VLintrav

2.5.3 协同对比学习

协同对比学习旨在对齐同一视图内的局部拓扑特征与全局锚点聚合特征,属于局部⁃全局级对比.局部特征hil,v通过GCN邻域传播捕获细粒度结构信息,全局特征hig,v通过锚点加权聚合反映样本在整体分布中的位置,二者描述同一样本的不同尺度结构,应保持语义一致.以h^il,v,h^ig,v为正对,批次内其他样本对为负对:

Lcoopv=-1Ni=1Nlgexpsimh^il,v,h^ig,v/τj=1Nexpsimh^il,v,h^jg,v/τ

其中,h^ig,v为归一化的全局特征.对所有视图取平均得:

Lcoop=1Vv=1VLcoopv

2.5.4 总优化目标

多层次对比学习的总体损失通过平衡系数α整合三个层次的目标:

Lcon=αLinter+1-αLcoop+Lintra

DAMC⁃MoE的最终优化目标由重构损失与多层次对比损失共同构成:

Ltotal=λ1Lrec+λ2Lcon

其中,λ1λ2为超参数,用于调节重构任务与对比学习任务之间的权重.

2.6 模型训练与聚类

经过多层次对比学习与异构专家融合的协同优化,模型最终获得具有高度判别性的统一融合特征F=fii=1NRN×Df.该特征融合了多视图的跨层次语义信息,可直接用于下游聚类任务.最终聚类通过K⁃Means算法执行,以最小化样本到聚类中心的总体距离为优化目标:

minU,Ci=1Nk=1Kuikfi-ck22

其中,U0,1N×K为聚类指示矩阵,C=ckk=1K为聚类中心矩阵.

DAMC⁃MoE采用两阶段训练策略实现端到端优化,兼顾表征学习的稳定性与多模块联合优化的充分性.预训练阶段通过最小化重构损失Lrec,驱动视图编码器、动态锚点和残差GCN学习有效的视图特定表征与图结构先验,为后续联合优化提供良好的参数初始化,防止模型在多目标联合优化初期陷入不良的局部最优.联合优化阶段在预训练的基础上,以总体目标Ltotal联合优化所有模块,包括编码器、动态锚点图构建、残差GCN、质量感知评估及MoE融合,使各模块在统一目标引导下协同演化,充分挖掘多视图数据的内在结构与跨视图互补信息.训练完成后,融合特征F直接用于K⁃Means聚类,生成最终的簇分配结果.DAMC⁃MoE的完整算法流程如下.

算法 基于动态锚点与质量感知混合专家的多视图聚类算法DAMC⁃MoE

输入:多视图数据Xvv=1V,缺失掩码Mvv=1V,训练轮数Tpre,Tjoint,聚类数K,锚点数Ka,超参数λ1,λ2,α,τ

输出:融合特征F,聚类分配U

阶段一:重构预训练

For t=1 to Tpre do

1.编码器提取潜在特征Zv并插补缺失得到Z˜v(若存在缺失视图)

2.动态锚点机制构建图结构Av,残差GCN学习局部特征Hl,v

3.解码器重构原始数据,由式(13)计算Lrec并更新整个模型参数

End for

阶段二:联合优化

for t=1 to Tjoint do

4.重新编码并执行质量评估,生成质量令牌tv和插补特征Z˜v

5.更新邻接矩阵Av,通过GCN传播得到局部特征Hl,v,通过锚点聚合得到全局特征Hg,v

6.融合局部与全局特征得到视图级表征H¯v,聚合所有视图得到跨视图均值H¯

7.通过式(21)生成质量表征ri,门控网络据此计算专家权重wi

8.四个异构专家处理H¯并加权融合,生成最终特征Fi

9.根据式(31)式(32)计算多层次对比损失Lcon和总损失Ltotal,反向传播优化所有模块

End for

聚类:基于融合表示F执行K⁃Means聚类,生成最终聚类分配U

2.7 时间复杂度分析

多尺度编码器的前向计算复杂度为:

Oenc=OVNDvDh+DhDf

动态锚点图构建的复杂度为:

Ograph=OVNDfKa+Ka2Df+N2Ka

该机制引入锚点作为中介节点,将图构建开销从直接依赖特征维度Df优化为仅与锚点数Ka相关,KaDf时显著提升高维数据的处理效率.

质量感知增强与L层残差GCN的复杂度为:

Ogcn=OVNDfDt+LN2Df

异构专家融合阶段的门控与并行处理开销为:

Omoe=ONVDfDt+Df2

对于多层次对比学习,视图间对比、视图内对比及协同对比损失的复杂度分别为:

Ointer=OV2N2DfOintra=OVN2DfOcoop=OVN2Df

综上,DAMC⁃MoE在每次迭代中的总时间复杂度为:

T=OV2N2Df+VLN2Df+VNDvDh+VN2Ka

在实际应用中,VDfLKa通常远小于N,所以算法的计算开销主要受样本数N的平方项支配,但其在大规模数据集上的表现仍优于需要执行O3特征分解的传统谱聚类算法.

3 实验结果与分析

3.1 数据集

在五个公开基准数据集上验证DAMC⁃MoE的有效性,涵盖图像、文本和混合模态数据,数据集统计信息见表2.MNIST_USPS43和Hdigit44为双视图手写数字数据集,样本规模分别为5000和10000.Mfeat (http://archive.ics.uci.edu/ml/datasets/Multiple+Features)包含六个视图的2000个手写数字样本,视图维度为6~216.synthetic3d10为合成3D点云数据集,包含300个样本和三个几何视图.Caltech45系列(Caltech⁃2V至Caltech⁃5V)为多视图目标识别数据集,包含1400个样本和七类物体,本文分别选择了视图数量为2,3,4和5的视图特征.

3.2 基线方法

传统多视图聚类算法,如LMVSC23,借助锚点图构建样本⁃锚点矩阵并融合多视图图结构,实现线性时间复杂度;SMVSC46将锚点学习与图构建整合到统一框架,自适应学习视图权重;FastMICE47通过随机视图组与早⁃晚混合融合生成基聚类,无需调整超参数;CCMVC⁃FSF48用固定缓冲区存储关键结构信息,结合对比学习解决持续学习场景下的“灾难性遗忘”问题.深度多视图聚类算法,如CoMVC49通过视图特定编码器与可训练加权融合,结合样本级选择性对比学习,避免对抗训练的优化难题;DCP50从信息论角度统一视图一致性学习与缺失视图恢复,通过视图内重构与双对比(实例级和类别级)损失来学习兼具充分性与最小性的表示;MFLVC51针对同一特征空间优化冲突问题,提出多层次特征学习框架,在不同特征空间分别优化重构目标与一致性目标,有效降低视图私有信息干扰;GCFAggMVC27捕捉样本全局结构关系生成共识表示,结合结构信息优化对比学习;DCMVC28设计双对比机制,通过聚类级对比扩大类间距离,结合伪标签与近邻信息构建合理样本对;MAGA52从实例和特征层面双重优化表示,提升聚类分配置信度;SSLNMVC53通过高层共识特征学习与自监督语义软标签对齐机制,增强多视图语义一致性并提升聚类性能.

3.3 评价指标

为了评估DAMC⁃MoE算法的有效性和优势,采用了三个指标.

聚类准确率(Accuracy,ACC)衡量预测标签与真实标签的匹配程度,反映聚类结果的正确性.其计算如式(34)所示:

ACC=1Ni=1NImapy^i=yi

其中,N是样本总数,y^i是第i个样本的预测标签,yi是真实标签,map是通过匈牙利算法求解的最佳标签映射函数,I是指示函数(条件为真时为1,否则为0).ACC的值的范围为0,1,值越高表示聚类结果越准确.

归一化互信息(Normalized Mutual Information,NMI)衡量预测标签与真实标签之间的互信息,归一化到0,1,反映聚类结果与真实类别的分布一致性.其计算如式(35)所示:

NMI=2IY;Y^HY+HY^

其中,IY;Y^为真实标签集Y和预测标签集Y^的互信息,HYHY^分别为真实标签和预测标签的熵.NMI的值越高,表示聚类结果与真实类别分布越一致.

纯度(Purity,PUR)衡量每个簇中主要类别的占比,反映簇内样本的纯度.其计算如式(36)所示:

PUR=1Nk=1KmaxjCkTj

其中,K为簇数,Ck为第k个预测簇的样本集合,Tj为第j个真实类别的样本集合,CkTj表示簇Ck中属于类别Tj的样本数,maxj取簇Ck中样本数量最多的真实类别.PUR的值的范围为0,1,值越高表示簇内样本的类别纯度越高.

3.4 实验设置

DAMC⁃MoE在PyTorch中实现,并在NVIDIA GeForce RTX 4060 Laptop GPU(8 GB显存)上进行评估.网络采用视图特定的双路径编码器:路径一采用标准结构(输入⁃256⁃128),路径二采用轻量结构(输入⁃128⁃128),两者分别配合ReLULeakyReLU激活,最终拼接并投影到128维特征空间.质量评估模块通过单个MLP(128⁃64⁃2)同时输出完整度和信噪比初始评分,质量令牌维度为64.残差GCN包含两层全连接层(128维),配合残差连接、dropout (0.5)和批归一化.训练采用两阶段策略:预训练阶段(50轮)以学习率10-3优化重构损失Lrec,初始化编码器和图结构;联合优化阶段(100轮)以学习率10-4最小化总目标Ltotal.优化器采用Adam,学习率调度使用StepLR(步长50,衰减0.9),批量大小为64.对比学习温度参数τ=0.5.通过网格搜索确定最优超参数:锚点数Ka32,48,64,80,

96,128,平衡系数α0.5,0.6,0.7,0.8,0.9,损失权重λ1,λ20.5,1.0,2.0,5.0,10.0.所有实验固定随机种子seed=42.对于对比方法,使用作者提供的源代码并采用推荐的参数设置.

3.5 实验结果

为了全面评估DAMC⁃MoE模型的聚类性能,在五个基准数据集上与11种主流多视图聚类算法进行对比实验,实验结果如表3~6所示,表中黑体字表示性能最优,下划线表示次优.由表可见,DAMC⁃MoE在绝大多数数据集上的表现最优或接近最优.在MNIST_USPS数据集上,DAMC⁃MoE的ACCNMIPUR达到0.9944,0.9842,0.9944,接近最优方法GCFAggMVC 0.9956,0.9871,0.9956,证明了动态锚点机制和MoE专家系统在处理异构视图时的有效性.在synthetic3d数据集上,DAMC⁃MoE全面超越所有对比方法,特别是其NMI指标达到0.8963,反映了多尺度图卷积在捕获复杂数据结构时的优势.在Mfeat数据集上,本文方法的ACCNMI指标分别达到0.9595和0.9144,显著领先于其他所有方法(次优方法的ACC仅为0.9265),充分验证了协同对比学习策略在特征判别性增强方面的卓越能力.在Hdigit数据集上的结果进一步巩固了DAMC⁃MoE的领先地位,三项指标均达到0.99以上.在更具挑战性的Caltech系列数据集上,随着视图数量从2增加到5,DAMC⁃MoE展现出稳定的性能表现和良好的可扩展性,特别是在Caltech⁃4V和Caltech⁃5V数据集上,ACC分别达到0.8200和0.8686,明显优于其他方法,这得益于MoE架构能够自适应地为不同视图分配专家权重,有效应对视图数量增加带来的复杂度提升.综合对比分析表明,传统方法(LMVSC,SMVSC)在高维复杂数据集上性能较弱,而部分深度方法(如DCP)虽然在某些数据集上表现良好,但在其他数据集上的性能出现显著的下降,如在synthetic3d数据集上的NMI仅为0.5156,缺乏稳定性.相比之下,DAMC⁃MoE通过动态锚点选择、多尺度图卷积和协同对比学习的深度融合,在所有测试场景中均保持了卓越且稳定的聚类性能,充分证明本文方法的先进性和鲁棒性.

3.6 统计检验

为了评估DAMC⁃MoE的统计显著性,采用非参数Friedman检验分析算法的ACCNMIPUR三项指标的性能差异.如表7所示,三项指标的检验结果均显示极显著性p<0.001,拒绝了算法性能无差异的原假设.平均排名分析表明,DAMC⁃MoE的三项指标分别为1.31,1.25和1.69,排名最优,全面领先基线算法.Nemenyi事后检验α=0.05,CD=5.7959

进一步证实了排名差异的显著性(图2),结果显示DAMC⁃MoE显著优于多个基线算法.此外,Wilcoxon符号秩检验的成对比较(图3)表明,DAMC⁃MoE在三项指标的所有对比中均相对每个基线算法取得了统计显著改进.

3.7 消融实验

为了系统地评估DAMC⁃MoE模型中各关键组件的有效性,在Caltech⁃2V,Caltech⁃3V,Caltech⁃4V和Caltech⁃5V四个数据集上进行了详尽的消融实验,实验结果如表8所示,表中黑体字表示性能最优.各消融配置的具体含义如下:Lrec为重构损失,防止表示坍塌;Linter为视图间对比损失,学习跨视图一致性;Lintra为视图内对比损失,提升特征鲁棒性;Lcoop为协同对比损失,确保局部与全局信息一致性;Quality为质量感知模块,动态评估视图质量;Anchor为动态锚点图构建模块,捕获全局拓扑结构;MoE为混合专家融合策略(移除后替换为拼接⁃MLP);MS为多尺度编码器,从不同粒度提取特征.通过移除或替换特定模块,评估其对聚类性能(ACCNMIPUR)的影响.

由表可见,完整模型(Full Model)在所有数据集上均取得了最优的性能,证明了各组件协同工作的有效性.损失函数的消融分析揭示了不同监督信号的关键作用.视图间对比损失(w/o Linter)的缺失导致最显著的性能下降,在Caltech⁃2V数据集上NMI从0.5599骤降至0.3979,验证了跨视图一致性学习的重要性.视图内对比损失(w/o Lintra)对性能的影响同样显著,在Caltech⁃4V数据集上移除该损失使ACC从0.8200骤降至0.6500,下降幅度达17%,充分说明了增强特征鲁棒性对模型稳定性的关键贡献.协同对比损失(w/o Lcoop)的缺失在Caltech⁃5V数据集上导致ACC从0.8686降至0.8536,NMI从0.7851降至0.7667,验证了其在确保局部⁃全局一致性方面的作用.重构损失(w/o Lrec)虽然影响相对较小,但在Caltech⁃4V数据集上移除后ACC从0.8200降至0.7857,表明重构约束有效防止了表示坍塌.

模块消融分析进一步证实了各关键组件的必要性.动态锚点图(w/o Anchor)的移除引发了严重的性能衰退,在Caltech⁃3V数据集上NMI降至0.4491,凸显其对全局拓扑结构捕获的重要性.质量感知模块(w/o Quality)在复杂场景下的价值显著,在Caltech⁃5V数据集上移除该模块使ACC从0.8686降至0.7600(下降10.86%),表明动态质量评估对高维多视图数据的必要性.混合专家融合(w/o MoE)的移除导致性能全面下降,证实了自适应融合策略优于固定拼接方法.多尺度编码器(w/o MS)在所有数据集上的缺失均导致明显的性能下降,证明了多粒度特征提取的有效性.

综上,消融实验系统地验证了DAMC⁃MoE中各组件的贡献,其中,视图间对比损失和动态锚点图对模型性能的影响最显著,视图内对比、质量感知和MoE的融合进一步提升了模型在不同数据集上的整体表现.

3.8 鲁棒性分析

为了评估模型在实际应用中面对数据不完整场景的鲁棒性,在五个数据集上进行了特征级缺失实验,测试了10%,30%和50%三种缺失率下的聚类性能.实验结果如表9所示.由表可见,DAMC⁃MoE模型展现出卓越的抗干扰能力,其中,在MNIST_USPS和Hdigit数据集上的表现最稳定,即使在缺失率为50%时,ACC的下降幅度也仅为0.12%和0.20%,充分证明模型的特征融合机制能有效补偿缺失信息.值得注意的是,模型在Caltech⁃5V数据集上呈现反常的性能提升(缺失率为50%时ACC从0.8686提升至0.8764),这可能是由于MoE门控机制在特征缺失过程中自适应地过滤了噪声维度,提高了特征表示的判别性.综合来看,模型在各缺失率下的性能相对平稳,没有出现断崖式下降,表明DAMC⁃MoE算法的动态锚点图和质量感知混合专家策略为不完整视图场景提供了强有力的性能保障.

3.9 插补策略对比分析

上述实验已经证明DAMC⁃MoE能在不同缺失率条件下都表现出良好的稳定性与鲁棒性,然而,仅仅依据缺失场景下的最终聚类结果,仍然难以充分揭示其鲁棒性能的内在来源.为了进一步探究特征缺失条件下的潜在补偿机制,并回答“模型是否具备有效的信息恢复能力”这一关键问题,在3.8的基础上补充设计了插补策略对比实验,通过构建多种特征填充方式的对照组,系统分析质量感知预测模块在维持整体性能稳定性方面的实际贡献.具体地,在缺失率为10%,30%和50%时,分别采用Zero⁃filling(全0填充)、Mean⁃filling(均值填充)以及所提出的质量感知预测方法进行对比,并对五个基准数据集的实验结果取平均值进行统计分析.相关结果如表10所示,表中黑体字表示性能最优.

由表可见,均值填充方法的全局平均指标显著落后于其他方法,说明简单依赖统计信息的插补策略在跨数据分布场景下容易引入偏置,从而削弱聚类判别能力.Zero⁃filling方法虽然结构简单,但在一定程度上避免了统计偏移问题,整体性能相对稳定.本文提出的质量感知预测方法在三种缺失率下的平均ACCNMIPUR指标均取得最优结果,且在50%的高缺失率条件下仍能保持领先优势,体现出更强的鲁棒性和泛化能力.尤其是全局平均结果,本文方法的ACCNMI指标均优于Zero⁃filling和Mean⁃filling,说明其不仅能在特征层面对缺失信息进行有效补偿,还能通过质量评估机制对不可靠特征进行动态调节,从而在融合阶段实现更稳健的决策.

综合3.8和3.9的结果可以看出,DAMC⁃MoE不仅在宏观层面展现出良好的抗缺失能力,在微观层面通过质量感知预测机制也实现了对缺失特征的自适应修复与权重调整.

3.10 收敛性分析

为了验证所提方法的训练稳定性与高效性,对所有数据集进行了详细的收敛性分析,结果如图4所示.由图可见,所有数据集在对比学习阶段的前20个epoch内都表现出显著的快速下降趋势,表明模型在训练初期能迅速捕捉数据的基本结构信息.随着训练的推进,损失曲线在20~30个epoch后逐渐趋于平稳,进入精细优化阶段,振荡幅度明显减小,说明模型已接近局部最优解.

3.11 参数敏感性分析

为了探究动态锚点数量对模型性能的影响,在五个多视图数据集上进行了系统的超参数寻优实验,锚点数Ka取值范围为32,48,64,80,96,128.图5所示,不同锚点数对聚类性能产生了显著的影响.从三个评价指标的变化趋势可以看出,过少的锚点无法充分捕获数据的局部结构信息,而过多的锚点则可能引入冗余并增加优化难度,导致性能下降.

综合实验结果为每个数据集确定最优锚点数配置.需要说明,无论选择何种数量配置,锚点表示本身始终通过端到端训练来进行自适应学习.

在确定最优锚点数的基础上,进一步对重构损失权重λ1和对比损失权重λ20.5,1.0,2.0,

5.0,10.0进行了详尽的网格搜索.图6直观展示了在Hdigit,MNIST_USPS和Caltech⁃5V三个数据集上不同λ1,λ2组合对模型聚类性能的影响.综合分析发现,模型展现出卓越的鲁棒性.在Hdigit和MNIST_USPS数据集上,几乎所有参数组合都取得了接近饱和的性能ACC>0.99,性能波动极小(最大性能损失小于0.5%).表明模型对这两类手写数字数据集的特征学习非常充分,对超参数选择不敏感,易于部署.在更具挑战性的Caltech⁃5V数据集上,观察参数空间可以发现,存在一个相对稳定的“高性能区域”,当λ1

0.5,2.0,λ20.5,2.0时,模型的ACC基本维持在0.845以上,性能波动控制在3%以内.

尽管最终实验采用了寻优得到的最佳参数以获得模型的最佳性能,但上述敏感性分析充分证明,DAMC⁃MoE模型在广泛的参数范围内都能保持高性能.这一优良特性意味着模型无需苛刻的参数微调即可获得具有竞争力的结果,验证了其设计的有效性和在实际应用中的潜力.

3.12 运行时间

表11对比了12种算法在五个基准数据集上的实际运行耗时.实验结果显示,虽然LMVSC,SMVSC等传统方法因计算逻辑简单,在小规模数据集上有明显的效率优势,但此类方法难以有效捕获多视图数据间的非线性语义.在深度聚类方法中,尽管DAMC⁃MoE引入了质量感知子网与混合专家(MoE)路由机制,使其在小规模数据集上的开销略高于部分轻量级模型,但这种微量的时间代价换取了聚类精度与鲁棒性的显著提升.从计算复杂度看,得益于动态锚点机制,DAMC⁃MoE避免了在原始高维特征空间中直接计算样本两两相似度,将图构建转化为样本⁃锚点关联计算.对比实验表明,随着数据集规模从synthetic3d扩展至Hdigit,DAMC⁃MoE的运行时间增长远比MAGA及CCMVC⁃FSF平缓,展现出优异的计算扩展性.

综上所述,该框架在维持大规模数据处理能力的同时,通过样本级的精准融合,实现了性能与效率的平衡,具备较强的实际应用价值.

3.13 t⁃SNE可视化

为了定性评估DAMC⁃MoE的特征学习能力,应用t⁃SNE在Caltech⁃5V和MNIST_USPS数据集上可视化不同处理阶段的特征表示(图7图8).实验结果显示了清晰的渐进优化过程:原始多视图数据呈现显著的类别混叠和分布不均,多尺度编码后的特征改善了视图内表示但类间边界仍不明确.质量感知增强模块有效抑制了低质量视图的干扰,初步形成了聚类趋势.局部图特征通过邻域关系传播建立了类内连接,而动态锚点构建的全局特征显著增强了类间可分性和类内紧致性.残差GCN输出整合了多尺度图信息,进一步改善了聚类结构的紧凑性.最终,MoE门控融合模块自适应选择最优专家组合,产生的表示呈现出高度紧致的类内簇结构和清晰可分的类间边界,验证了所提方法的多视图协同学习能力.

4 结论

本文提出一种基于动态锚点与质量感知混合专家的多视图聚类方法DAMC⁃MoE.该方法的核心贡献是将锚点建模为可学习参数与质量感知的混合专家(MoE)架构深度耦合,显式地解决全局拓扑自适应建模与样本级质量异质性的双重挑战.动态锚点机制通过端到端优化实现图结构与特征学习的协同演化,突破了传统方法依赖固定相似度度量和预定义邻域参数的局限.质量感知门控模块从完整度和信噪比两个维度显式评估每个样本的视图质量,生成“质量令牌”指导专家激活权重的动态分配,突破了静态视图级加权无法应对样本特异性质量波动的瓶颈,实现了鲁棒的异构视图融合.在五个基准数据集上的实验表明,DAMC⁃MoE的ACCNMIPUR聚类指标达到了最优或接近最优.证实所提框架的有效性.

未来可以通过引入因果推断框架来识别视图间的因果依赖关系,或将动态锚点机制扩展至超图结构以捕获高阶关联,进一步提升模型在复杂场景下的泛化能力和可解释性.

参考文献

[1]

AlSaad RAbd⁃Alrazaq ABoughorbel Set al. Multimodal large language models in health care:Applications,challenges,and future outlook. Journal of Medical Internet Research202426:e59505.

[2]

Serra AGaldi PTagliaferri R. Chapter 13⁃multi⁃view learning in biomedical applications∥Kozma R,Alippi C,Choe Y,et al. Artificial Intelligence in the Age of Neural Networks and Brain Computing. The 2nd Edition.New York:Academic Press,2019:265-280.

[3]

Xia L HXu YHuang Cet al. Graph meta network for multi⁃behavior recommendation∥Proceedings of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval. New York,NY,USA:Association for Computing Machinery,2021:757-766.

[4]

Chen W HHsu C CLai Y Aet al. Attribute⁃aware recommender system based on collaborative filtering:Survey and classification. Frontiers in Big Data2020(2):49.

[5]

Chao G QSun S LBi J B. A survey on multi⁃view clustering. IEEE Transactions on Artificial Intelligence20212(2):146-168.

[6]

Anand S KKumar S. Experimental comparisons of clustering approaches for data representation. ACM Computing Surveys202255(3):1-33.

[7]

Yang YWang H. Multi⁃view clustering:A survey. Big Data Mining and Analytics20181(2):83-107.

[8]

Liang W XZhang Y HKwon Yet al. Mind the gap:Understanding the modality gap in multi⁃modal contrastive representation learning∥Proceedings of the 36th International Conference on Neural Information Processing Systems. Red Hook,NY,USA:Curran Associates Inc.,2022:17612-17625.

[9]

Nie F PTian LLi X L. Multiview clustering via adaptively weighted Procrustes∥Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. New York,NY,USA:Association for Computing Machinery,2018:2022-2030.

[10]

Kumar ARai PDaumé H. Co⁃regularized multi⁃view spectral clustering∥Proceedings of the 25th International Conference on Neural Information Processing Systems. Red Hook,NY,USA:Curran Associates Inc.,2011:1413-1421.

[11]

Alshammari MStavrakakis JTakatsuka M. Refining a k⁃nearest neighbor graph for a compu⁃tationally efficient spectral clustering. Pattern Recognition2021,114:107869.

[12]

Liu Y FCheng HCui J T. Revisiting k⁃nearest neighbor graph construction on high⁃dimensional data:Experiments and analyses. https://arxiv.org/abs/2112.02234,2021-12-04.

[13]

Zhan KZhang C QGuan J Pet al. Graph learning for multiview clustering. IEEE Transactions on Cybernetics201848(10):2887-2895.

[14]

Zhao W HLi G FYang H Zet al. Embedded feature selection on graph⁃based multi⁃view clustering∥Proceedings of the 38th AAAI Conference on Artificial Intelligence,the 36th Conference on Innovative Applications of Artificial Intelligence,the 14th Symposium on Educational Advances in Artificial Intelligence. Menlo Park,CA,USA:AAAI Press,2024:17016-17023.

[15]

Wen JWu Z HZhang Zet al. Structural deep incomplete multi⁃view clustering network∥Proceedings of the 30th ACM International Conference on Information & Knowledge Management. New York,NY,USA:Association for Computing Machinery,2021:3538-3542.

[16]

Hao W YPang S MBai X Xet al. Tensor⁃based incomplete multi⁃view clustering with low⁃rank data reconstruction and consistency guidance. IEEE Transactions on Circuits and Systems for Video Technology202333(12):7156-7169.

[17]

Liu WJing X YJia X Det al. Low⁃rank representation induced missing⁃view recovery for incomplete multi⁃view clustering. Neurocomputing2024,595:127870.

[18]

Huang S DKang ZTsang I Wet al. Auto⁃weighted multi⁃view clustering via kernelized graph learning. Pattern Recognition2019,88:174-184.

[19]

Wang RNie F PWang Zet al. Parameter⁃free weighted multi⁃view projected clustering with structured graph learning. IEEE Transactions on Knowledge and Data Engineering202032(10):2014-2025.

[20]

He Y FYusof U K. Self⁃weighted graph⁃based framework for multi⁃view clustering. IEEE Access2023,11:30197-30207.

[21]

Huang H JMei Y BWei X Xet al. Self⁃weighted dual contrastive multi⁃view clustering network. Scientific Reports202515(1):16154.

[22]

Chen X LCai D. Large scale spectral clustering with landmark⁃based representation. Proceedings of the AAAI Conference on Artificial Intelligence,201125(1):313-318.

[23]

Kang ZZhou W TZhao Z Tet al. Large⁃scale multi⁃view subspace clustering in linear time. Proceedings of the AAAI Conference on Artificial Intelligence,202034(4):4412-4419.

[24]

Yang BZhang X TLi Z Het al. Efficient multi⁃view K⁃means clustering with multiple anchor graphs. IEEE Transactions on Knowledge and Data Engineering202335(7):6887-6900.

[25]

Jacobs R AJordan M INowlan S Jet al. Adaptive mixtures of local experts. Neural Computation19913(1):79-87.

[26]

Yuksel S EWilson J NGader P D. Twenty years of mixture of experts. IEEE Transactions on Neural Networks and Learning Systems201223(8):1177-1193.

[27]

Yan W QZhang Y YLv C Let al. GCFAgg:Global and cross⁃view feature aggregation for multi⁃view clustering∥2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition. Vancouver,Canada:IEEE,2023:19863-19872.

[28]

Cui J RLi Y THuang Het al. Dual contrast⁃driven deep multi⁃view clustering. IEEE Transactions on Image Processing2024,33:4753-4764.

[29]

Nie F PLi JLi X L. Parameter⁃free auto⁃weighted multiple graph learning:A framework for multiview clustering and semi⁃supervised classification∥Proceedings of the 25th International Joint Conference on Artificial Intelligence. Menlo Park,CA,USA:AAAI Press,2016:1881-1887.

[30]

Xia WWang Q QGao Q Xet al. Self⁃supervised graph convolutional network for multi⁃view clustering. IEEE Transactions on Multimedia2022,24:3182-3192.

[31]

Xiao S XDu S DChen Z Let al. Dual fusion⁃propagation graph neural network for multi⁃view clustering. IEEE Transactions on Multimedia2023,25:9203-9215.

[32]

Xu Z YChen W BZou Yet al. Attention⁃based stackable graph convolutional network for multi⁃view learning. Neural Networks2024,180:106648.

[33]

Peng G WDornaika FCharafeddine J. Multi⁃view learning with graph convolution networks adopting diverse graphs and genuine deep feature fusion. Artificial Intelligence Review202558(9):290.

[34]

Baltrusaitis TAhuja CMorency L P. Multimodal machine learning:A survey and taxonomy. IEEE Transactions on Pattern Analysis and Machine Intelligence201941(2):423-443.

[35]

Vaswani AShazeer NParmar Net al. Attention is all you need∥Proceedings of the 31st International Conference on Neural Information Processing Systems. Red Hook,NY,USA:Curran Associates Inc.,2017:6000-6010.

[36]

Liu X WZhu X ZLi M Met al. Efficient and effective incomplete multi⁃view clustering. Proceedings of the AAAI Conference on Artificial Intelligence,201933(1):4392-4399.

[37]

Yang M XLi Y FHu Pet al. Robust multi⁃view clustering with incomplete information. IEEE Transactions on Pattern Analysis and Machine Intelligence202345(1):1055-1069.

[38]

Fedus WZoph BShazeer N. Switch transformers:Scaling to trillion parameter models with simple and efficient sparsity. https://arxiv.org/abs/2101.03961,2022-06-16.

[39]

Dai D MDeng C QZhao C Get al. DeepSeekMoE:Towards ultimate expert specia⁃lization in mixture⁃of⁃experts language models∥Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics. Volume 1:Long Papers. Stroudsburg:Association for Computing Linguistics,2024:1280-1297.

[40]

Riquelme CPuigcerver JMustafa Bet al. Scaling vision with sparse mixture of experts∥Proceedings of the 35th International Conference on Neural Information Processing Systems. Red Hook,NY,USA:Curran Associates Inc.,2021:8583-8595.

[41]

Du LShi Y KChen Yet al. A dual mixture⁃of⁃experts framework for multi⁃view K⁃means clustering with view balance and regional sparsity. Information Fusion2026,125:103449.

[42]

Zhang Y HCai J YWu Z Het al. Mixture of experts as representation learner for deep multi⁃view clustering∥Proceedings of the 39th AAAI Conference on Artificial Intelligence,the 37th Conference on Innovative Applications of Artificial Intelligence,the 15th Symposium on Educational Advances in Artificial Intelligence. Menlo Park,CA,USA:AAAI Press,2025:22704-22713.

[43]

Peng XHuang Z YLv J Cet al. COMIC:Multi⁃view clustering without parameter selection∥Proceedings of the 36th International Conference on Machine Learning. New York,NY,USA:PMLR,2019:5092-5101.

[44]

Chen M SLin J QLi X Let al. Representation learning in multi⁃view clustering:A literature review. Data Science and Engineering20227(3):225-241.

[45]

Li F FFergus RPerona P. Learning generative visual models from few training examples:An incremental Bayesian approach tested on 101 object categories∥2004 Conference on Computer Vision and Pattern Recognition Workshop. Washington DC,USA:IEEE,2004:178.

[46]

Sun M JZhang PWang S Wet al. Scalable multi⁃view subspace clustering with unified anchors∥Proceedings of the 29th ACM International Conference on Multimedia. New York,NY,USA:Association for Computing Machinery,2021:3528-3536.

[47]

Huang DWang C DLai J H. Fast multi⁃view clustering via ensembles:Towards scalability,superiority,and simplicity. IEEE Transactions on Knowledge and Data Engineering202335(11):11388-11402.

[48]

Wan X HLiu J YYu Het al. Contrastive continual multiview clustering with filtered structural fusion. IEEE Transactions on Neural Networks and Learning Systems202536(8):14829-14842.

[49]

Trosten D JLokse SJenssen Ret al. Reconsidering representation alignment for multi⁃view clustering∥Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. Nashville,TN,USA:IEEE,2021:1255-1265.

[50]

Lin Y JGou Y BLiu X Tet al. Dual contrastive prediction for incomplete multi⁃view representation learning. IEEE Transactions on Pattern Analysis and Machine Intelligence202345(4):4447-4461.

[51]

Xu JTang H YRen Y Zet al. Multi⁃level feature learning for contrastive multi⁃view clustering∥Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. New Orleans,LA,USA:IEEE,2022:16051-16060.

[52]

Bian J TXie X HLai J Het al. Multi⁃view contrastive clustering via integrating graph aggregation and confidence enhancement. Information Fusion2024,108:102393.

[53]

Yan W QYang T YTang C. Self⁃supervised semantic soft label learning network for deep multi⁃view clustering. IEEE Transactions on Multimedia2025,27:4971-4983.

基金资助

国家自然科学基金(82274360)

山西省基础研究计划(202303021221054)

山西省基础研究计划(202403021211086)

山西省留学回国人员科技活动择优项目(20250001)

山西省回国留学人员科研项目(2024⁃002)

山西省研究生教育创新计划(2025JG0006)

山西省研究生教育创新计划(2025SJ032)

AI Summary AI Mindmap
PDF (2662KB)

0

访问

0

被引

详细

导航
相关文章

AI思维导图

/