Swin-BiCAS：一种基于稀疏注意力与空间-通道融合的牛脸识别方法

Swin-BiCAS： A Cattle Face Recognition Method Based on Sparse Attention and Spatial-Channel Fusion

摘要

随着养牛业逐步向精细化、智能化方向转型，如何实现快速而准确的牛只个体身份识别，已成为当前畜牧管理中的关键技术瓶颈。传统接触式识别方法存在成本高、易篡改等缺陷，而现有非接触式视觉识别技术对牛脸的特征提取能力不足，在复杂养殖环境下的鲁棒性较差。本文提出了一种新的牛脸识别方法（Swin-BiCAS）：首先，在Swin Transformer中引入Biformer Block，通过稀疏化的双层路由注意力机制，有效弥补传统窗口注意力机制在建模长距离依赖方面的不足，在降低计算复杂度的同时提升细粒度特征提取能力；其次，提出一种特征融合模块CASmerge，通过协同优化空间感知与通道关系来增强特征表达能力，使模型能够同时保持对空间细节的敏感性和对通道间相关性的建模能力。实验结果达到了99.1%的准确率，证明了所提方法的有效性。

Abstract

As cattle farming gradually transitions toward refined and intelligent management， achieving rapid and accurate individual identification of cattle has become a critical technological bottleneck in modern livestock management.Traditional contact-based identification methods suffer from high costs and susceptibility to tampering， while existing non-contact visual recognition technologies exhibit limited feature extraction capabilities for cattle faces and lack robustness in complex farming environments.To address these challenges， a novel cattle face recognition method named Swin-BiCAS is proposed.Specifically， a BiFormer Block is integrated into the Swin Transformer framework， which employs a sparsified Bi-Level Routing Attention mechanism to effectively compensate for the limitations of traditional window-based attention in modeling long-range dependencies.This design enhances fine-grained feature extraction while reducing computational complexity.Furthermore， a feature fusion module named CASmerge is proposed to enhance feature representation by jointly optimizing spatial awareness and inter-channel relationships.This enables the model to maintain sensitivity to spatial details while effectively modeling channel-wise correlations.Experimental results demonstrate the effectiveness of the proposed method， achieving an accuracy of 99.1%.

Graphical abstract

关键词

个体识别 / Swin Transformer / 注意力机制 / 牛脸识别 / 特征融合

Key words

individual identification / Swin Transformer / attention mechanism / cow face recognition / feature fusion

畜牧业是现代农业的一个重要领域，对国民经济发展和居民生活保障具有战略意义。精准畜牧业（Precision livestock farming，PLF）^［1］是现代农业智能化发展的核心方向。当前智慧畜牧产业快速发展，数字化精细管控需求迫切，牛只的个体识别问题成为畜牧业数字化管理的关键技术瓶颈。作为PLF的基础环节，牛的个体识别对于生长监测、健康管理、行为分析及产品溯源具有重要意义^［2］，实现牛的个体识别是在牛场实施PLF、提高畜牧生产效率的基本前提。此外，优秀的牛只识别方法被证明可产生多重增益效应，如在动物福利层面实现精准健康管理^［3］，在运营层面降低人力成本，在市场端增强消费者对产品的信任度，在监管层面优化政府资源分配效率，在金融领域有效抑制保险欺诈和信贷风险^［4］等。因此，对牛只识别技术准确性、鲁棒性的探索和需求急剧增加，相关研究已成为当前畜牧业智能化转型的重要研究方向。

可靠的个体标识是实现牛只精准识别的关键前提。根据标识符的来源，现有识别方法可分为人工标识和生物特征识别两大类。人工标识方法通过外源性标记实现个体区分，主要包括耳缺刻、耳标、烙印、热烙标记和射频识别（RFID）技术等^［5］。然而，这类方法在大规模养殖场景的自动化应用中存在显著局限性。近年来，随着畜牧业的快速发展和规模化养殖的推进，RFID技术成为当前应用最广泛的牛只识别手段^［6］，但是在实际应用中存在识别距离受限、信号碰撞以及标签重复使用、伪造或丢失等问题，导致其人工维护成本居高不下^［7］。这些缺陷使得RFID技术在智能养殖和食品溯源等场景中的应用效率降低且经济性不足。此外，上述方法普遍具有侵入性或需强制佩戴设备，可能诱发牲畜应激反应，不符合现代动物福利标准^［8］。

牛只个体识别技术的研究已从传统人工方法逐步发展为基于生物特征和深度学习的智能化方法，非侵入式牛只识别技术研究取得了显著进展^［9］。早期研究中，Baranov等^［10］通过实验验证了牛鼻纹图案在牛只个体识别中的可行性。Allen等^［11］提出基于虹膜图像的识别系统，在受控环境下取得了较高的识别准确率。然而，由于采集设备成本较高且对拍摄条件要求严格，该方法在实际牧场环境中难以推广。Gaber等^［12］提出的基于韦伯局部描述符（WLD）特征和Adaboost分类器的口鼻识别方法，达到99.5%的准确率。随着深度学习的发展，基于卷积神经网络和Transformer结构的牛脸识别方法逐渐成为研究热点。Noviyanto等^［13］利用DenseNet和ResNet等网络实现高精度牛只识别。Yao等^［14］通过卷积神经网络实现奶牛面部识别任务。Kumar等^［15］引入了基于支持向量机（SVM）和模式识别的奶牛个体识别系统。杨蜀秦等^［16］构建了一种融合坐标注意力模块的YOLOV4优化检测框架，该模型适配复杂场景，对各类毛色奶牛面部识别具有稳定效果。Lu等^［17］提出定位关键区域（Locate key area，LKA）模块，通过类激活图精确定位关键区域，增强了特征判别力。Wang等^［18］利用三元组损失增强个体判别能力。这些研究为基于视觉的牛只识别提供了重要技术基础，但在复杂环境下仍面临光照变化、姿态变化和跨品种差异等挑战。

近年来，牛脸识别算法不断涌现，识别精度已有显著提升。但在自然牧场场景下，现有研究仍面临诸多挑战，如复杂天气易造成图像光照不均、特征模糊，同时牛在自由活动时姿态与拍摄角度的多变会导致图像纹理、轮廓差异明显^［19］。

针对上述问题，以Swin Transformer作为主干网络，提出了一种新的混合注意力Swin框架（Swin-BiCAS），引入Biformer Block的动态稀疏注意力机制，在降低计算冗余的同时聚焦关键面部区域，减少噪声干扰。同时，提出CASmerge模块，嵌入坐标注意力机制，通过坐标分解增强空间位置感知，提升姿态鲁棒性，并通过SaE模块动态调整通道权重，增强跨品种特征判别力。这些改进形成协同增强效应，使模型能够同时捕捉牛脸的全局结构和局部细微特征。

综上所述，本文主要贡献如下：

①提出一种多模态增强的牛脸识别框架，构建轻量化但高判别力的牛脸特征表示模型，能够在复杂光照、姿态变化和部分遮挡等非受控条件下实现高精度个体识别，为智能化畜牧管理提供可靠的技术支持；②引入Biformer Block，通过稀疏化双层路由注意力机制（Bi-level routing attention，BRA）与动态键值对筛选策略，在保证计算效率的同时，显著提升模型对牛脸关键区域的长距离依赖建模能力，解决传统窗口注意力感受野受限的问题；③提出一个新的CASmerge模块，通过协同优化空间感知与通道关系，有效提升牛脸特征表达的丰富性和判别性，实现更鲁棒、更准确的牛脸识别。

1 Swin-BiCAS牛脸识别模型结构设计

图1展示了Swin-BiCAS的基本架构，并展示了以Swin Transformer作为主干网络的方法。将Swin Transformer作为主干网络，在Stage 2后，嵌入Biformer Block，将Stage 2的输出输入Stage 3和Biformer Block，通过双层路由注意力机制构建动态稀疏注意力路径，增强局部空间关系建模能力。然后，将Stage 3和Biformer Block的输出输入CASmerge模块进行特征融合，通过协同优化空间感知与通道关系，提升关键特征的表示能力。最后，将CASmerge的输出输入Stage 4和第二个Biformer Block，将二者的输出再次融合，通过第二个CASmerge模块得到最终的深度特征。

1.1 Swin Transformer

与Vision Transformer不同，Swin Transformer采用分层窗口计算（Hierarchical window-based self-attention）机制。Swin Transformer将图像划分为固定大小且不重叠的局部窗口，在每个窗口间进行独立计算，这些窗口通过补丁嵌入转换为固定维度的向量表示。引入窗口移位策略来增强跨窗口信息交互，引入层级特征下采样机制来构建多尺度特征表示。窗口的注意力公式为

\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\mathit{Q},\mathit{K},\mathit{V})=\mathrm{S}\mathrm{o}\mathrm{f}\mathrm{t}\mathrm{m}\mathrm{a}\mathrm{x}(\frac{\mathit{Q}{\mathit{K}}^{\mathrm{T}}}{\sqrt[]{d}}+B)\mathit{V}，

\mathit{Q}={\mathit{X}}^r{\mathit{W}}^q,\mathit{K}={\mathit{X}}^r{\mathit{W}}^k,\mathit{V}={\mathit{X}}^r{\mathit{W}}^v，

其中， Q 、 K 、 V 分别表示查询（Query）、键（Key）、值（Value）矩阵，{\mathit{W}}^q\mathrm{、}{\mathit{W}}^k\mathrm{、}{\mathit{W}}^v\in {\mathbb{R}}^{C\times C}为投影权重，C为通道数，d表示注意力维度，B表示相对位置偏置。

1.2 Biformer Block

Biformer Block结构如图2所示，首先对输入图像进行3×3卷积隐式编码相对位置信息，使用双层路由注意力（BRA）动态筛选重要区域，仅对少数相关token计算注意力，避免全局计算。然后，通过2层扩展比为e的多层感知器（MLP）对每个位置的token进行非线性变换。

BRA机制通过区域划分、路由筛选、细粒度注意力3步构建动态稀疏注意力机制。给定一个2D特征图X，将X划分为S×S个非重叠区域，每个区域包括HW/S^{\mathrm{2}}个特征向量，其中，H和W分别为特征图的高和宽。使用共享的线性层生成 Q 、 K 、 V 矩阵。

区域到区域路由（Region-to-region routing）筛选每个区域需要交互的Top-k个相关区域。首先，对每个区域的 Q 和 K 进行平均池化，得到区域级表征为{\mathit{Q}}^r=\mathrm{A}\mathrm{v}\mathrm{g}\mathrm{P}\mathrm{o}\mathrm{o}\mathrm{l}(\mathit{Q}),{\mathit{K}}^r=\mathrm{A}\mathrm{v}\mathrm{g}\mathrm{P}\mathrm{o}\mathrm{o}\mathrm{l}(\mathit{K}),Q^r\mathrm{、}{\mathit{K}}^r\in {\mathbb{R}}^{S^{\mathrm{2}}\times C},然后，计算区域间相关性矩阵{\mathit{A}}^r，公式为{\mathit{A}}^r={\mathit{Q}}^r({\mathit{K}}^r{)}^{\mathrm{T}}，其中，{\mathit{A}}^r(i,j)表示区域i与区域j的语义关联强度。最后对每个区域保留最相关的k个相邻区域，生成路由索引矩阵{\mathit{I}}^r\in {\mathbb{N}}^{S^{\mathrm{2}}\times k}：

{\mathit{I}}^r=\mathrm{t}\mathrm{o}\mathrm{p}\mathrm{I}\mathrm{n}\mathrm{d}\mathrm{e}\mathrm{x}({\mathit{A}}^r)。

令牌到令牌注意力（Token-to-token attention）仅对路由筛选后的区域进行细粒度注意力计算，根据{\mathit{I}}^r从 K 和 V 中收集相关区域的令牌：

{\mathit{K}}^g=\mathrm{g}\mathrm{a}\mathrm{t}\mathrm{h}\mathrm{e}\mathrm{r}(\mathit{K},{\mathit{I}}^r),{\mathit{V}}^g=\mathrm{g}\mathrm{a}\mathrm{t}\mathrm{h}\mathrm{e}\mathrm{r}(\mathit{V},{\mathit{I}}^r)，

其中，{\mathit{K}}^g\mathrm{、}{\mathit{V}}^g\in {\mathbb{R}}^{S^{\mathrm{2}}\times k\frac{HW}{S^{\mathrm{2}}}\times C}是收集到的键值张量。再将注意力应用于收集到的键值对：

\mathit{O}=\mathrm{A}\mathrm{t}\mathrm{t}\mathrm{e}\mathrm{n}\mathrm{t}\mathrm{i}\mathrm{o}\mathrm{n}(\mathit{Q},{\mathit{K}}^g,{\mathit{V}}^g)+L(\mathit{V})，

其中，L(\mathit{V})为可选的局部上下文增强项。

BRA的计算由3部分组成：线性投影、区域到区域路由和令牌到令牌注意力，总的计算量可以表示为三者计算的总和：

\begin{array}{l}{F}_{\mathrm{l}\mathrm{o}\mathrm{p}\mathrm{s}}=F_{\mathrm{l}\mathrm{o}\mathrm{p}\mathrm{s}\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{j}}+F_{\mathrm{l}\mathrm{o}\mathrm{p}\mathrm{s}\mathrm{r}\mathrm{o}\mathrm{u}\mathrm{t}\mathrm{i}\mathrm{n}\mathrm{g}}+F_{\mathrm{l}\mathrm{o}\mathrm{p}\mathrm{s}\mathrm{a}\mathrm{t}\mathrm{t}\mathrm{n}}\\ =\mathrm{3}HW{C}^{\mathrm{2}}+\mathrm{2}(S^{\mathrm{2}}{)}^{\mathrm{2}}C+\mathrm{2}HWk\frac{HW}{S^{\mathrm{2}}}C\\ =\mathrm{3}HW{C}^{\mathrm{2}}+C\left(\mathrm{2}{S}^{\mathrm{4}}+\frac{k{(HW)}^{\mathrm{2}}}{S^{\mathrm{2}}}+\frac{k{(HW)}^{\mathrm{2}}}{S^{\mathrm{2}}}\right)\\ \ge \mathrm{3}HW{C}^{\mathrm{2}}+\mathrm{3}C{\left(\mathrm{2}{S}^{\mathrm{4}}\frac{k{(HW)}^{\mathrm{2}}}{S^{\mathrm{2}}}\frac{k{(HW)}^{\mathrm{2}}}{S^{\mathrm{2}}}\right)}^{\frac{\mathrm{1}}{\mathrm{3}}}\\ =\mathrm{3}HW{C}^{\mathrm{2}}+\mathrm{3}C{k}^{\frac{\mathrm{2}}{\mathrm{3}}}{(\mathrm{2}HW)}^{\frac{\mathrm{4}}{\mathrm{3}}}\mathrm{。}\end{array}

与窗口注意力相比，BRA通过动态路由自动学习交互模式，更具灵活性。

1.3 CASmerge模块

为增强特征表达能力，设计CASmerge特征融合模块，如图3所示。该模块由坐标注意力模块与SaE通道注意力模块组成，通过联合建模空间位置信息与通道相关性，实现特征的自适应重标定。

1.3.1 坐标注意力模块

坐标注意力模块分为两个核心步骤：坐标信息嵌入和坐标注意力生成，同时建模通道关系和远程依赖关系，保留精确的位置信息，其结构如图4所示。

在坐标信息嵌入阶段，为避免传统通道注意力在空间信息表达上的不足，坐标注意力机制通过方向分解的特征编码方式在保持通道建模能力的同时引入位置信息。该机制将全局池化分解为两个方向的一维特征编码：对输入特征图X的每个通道c和高度h，沿高度方向进行一维平均池化，核大小为（H，1），生成特征图为

z_c^h(h)=\frac{\mathrm{1}}{W}\sum _{\mathrm{0}\le i\le W}{x}_c(h,i)。

类似地，宽度为w的第c个通道的输出为

z_c^w(w)=\frac{\mathrm{1}}{H}\sum _{\mathrm{0}\le j\le H}{x}_c(j,w)。

上述两个变换分别沿着两个空间方向聚合特征，产生一对方向感知特征映射，可以避免位置信息的丢失，能够更准确地定位目标区域。

在坐标注意力生成阶段，基于嵌入的坐标信息，通过轻量级变换生成注意力权重。给定生成的聚合特征映射z^h和z^w，对二者进行拼接操作，通过共享的1×1卷积F_{\mathrm{1}}和非线性激活生成中间特征f为

f=\delta (F_{\mathrm{1}}([z^h,z^w])),f\in {\mathbb{R}}^{C/r\times \left(H+W\right)}，

其中，\left[\cdot ,\cdot \right]表示沿空间维度的拼接操作，\delta为非线性激活函数，r是控制块大小的缩减比。然后，将f沿空间维度进行拆分，分别用1×1卷积F_h和F_w变换，并通过Sigmoid激活得到注意力权重g^h和g^w，公式为

g^h=\sigma (F_h(f^h))，g^w=\sigma (F_w(f^w))，

将g^h和g^w广播至输入尺寸，与原始特征元素逐项相乘，实现方向感知型特征调制，公式为

y_c(i,j)=x_c(i,j)\times g_c^h(i)\times g_c^w(j)。

1.3.2 SaE模块

图5展示了SaE模块结构。SaE模块通过多路径全连接结构建模通道间的复杂关系，利用Sigmoid函数生成通道权重，对特征图进行自适应重标定，通过增加路径多样性来提升特征表示能力，同时通过共享的reduction保持计算效率。公式如下：

y_b^c=\frac{\mathrm{1}}{H\times W}{\displaystyle \sum _{i=\mathrm{1}}^H}{\displaystyle \sum _{j=\mathrm{1}}^W}{x}_{b,c,i,j},y\in {\mathbb{R}}^{B\times C}，

y_k=\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({\mathit{W}}_k\cdot y\right),{\mathit{W}}_k\in {\mathbb{R}}^{\left(C/r\right)\times C},k=\mathrm{1,2},\mathrm{3,4}，

y_{\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}\mathrm{e}}=\left[y_{\mathrm{1}},y_{\mathrm{2}},y_{\mathrm{3}},y_{\mathrm{4}}\right]\in {\mathbb{R}}^{B\times \left(\mathrm{4}C/r\right)}，

s=\sigma \left({\mathit{W}}_c\cdot y_{\mathrm{c}\mathrm{o}\mathrm{n}\mathrm{c}\mathrm{a}\mathrm{t}\mathrm{e}}\right)，

x_{\mathrm{o}\mathrm{u}\mathrm{t}}=x\odot s_{\mathrm{e}\mathrm{x}\mathrm{p}\mathrm{a}\mathrm{n}\mathrm{d}},

其中，x_out表示SaE模块的输入特征，y_b^c表示第b个样本、第c个通道的池化结果，y_k表示第k个路径的输出，{\mathit{W}}_k表示可学习权重矩阵，r表示压缩比，{\mathit{W}}_c表示融合权重矩阵，s表示通道注意力权重。

SaE模块的计算可归纳为

x_{\mathrm{o}\mathrm{u}\mathrm{t}}=x\odot \sigma \left({\mathit{W}}_c\cdot \left[\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({\mathit{W}}_{\mathrm{1}}\cdot y\right),\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({\mathit{W}}_{\mathrm{2}}\cdot y\right),\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({\mathit{W}}_{\mathrm{3}}\cdot y\right),\mathrm{R}\mathrm{e}\mathrm{L}\mathrm{U}\left({\mathit{W}}_{\mathrm{4}}\cdot y\right)\right]\right)。

2 实验

2.1 数据集

选取131头荷斯坦奶牛和西门塔尔肉牛作为研究对象，数据采集时间为2024年10月2日至2024年10月6日，采集地点为内蒙古自治区兴安盟科尔沁右翼中旗的两个养牛场。数据采集通过视频录制的方式进行，使用手机进入养牛场近距离采集牛只视频，在复杂的农场环境中捕捉牛的高分辨率图像，分辨率设置为1 920像素×1 080像素，视频帧率为30 fps。录制时从不同的角度和距离完成每头牛的数据采集。

利用视频帧提取技术将拍摄的视频分解为图像，为了保证数据的多样性，采用结构相似性指数（Structural-similarity index measure，SSIM）算法将相似性过高的图像数据进行剔除，SSIM的计算公式为

S_{SI{M}_{x,y}}=\frac{(\mathrm{2}{\mu }_x{\mu }_y+c_{\mathrm{1}})(\mathrm{2}{\sigma }_{xy}+c_{\mathrm{2}})}{({\mu }_x^{\mathrm{2}}+{\mu }_y^{\mathrm{2}}+c_{\mathrm{1}})({\sigma }_x^{\mathrm{2}}+{\sigma }_y^{\mathrm{2}}+c_{\mathrm{2}})}，

其中，x和y表示两张图像，{\mu }_x和{\mu }_y表示各图像的均值，{\sigma }_x和{\sigma }_y是标准差，{\sigma }_{xy}表示协方差，c_{\mathrm{1}}和c_{\mathrm{2}}为平滑参数。

进行视频帧提取后，图像中含有除牛脸以外的背景噪声，需要进一步处理以构建牛脸数据集。使用YOLOv8（You only look once version 8）来训练牛脸检测模型，以协助确定图像内牛脸所在位置。对检测结果进行人工复核后，牛脸图像被准确裁剪。裁剪后的牛脸图像像素尺寸调整为112×112。为提升模型训练稳定性与特征一致性，在输入网络前对图像进行统一预处理，包括直方图归一化增强对比度、像素值归一化处理以及随机水平翻转、亮度扰动等数据增强策略，以提高模型对光照变化与姿态变化的鲁棒性。最后，从131头牛中共获得了10 327张牛脸图像，并且每头牛的牛脸图像不少于30张，其中一部分图像如图6所示。

数据集包含荷斯坦奶牛与西门塔尔牛两个品种，二者在面部纹理与毛色分布上存在明显差异。通过在混合品种数据上进行训练与测试，能够有效评估模型的跨品种泛化能力。将牛脸数据集按照7∶2∶1分为训练集、验证集和测试集，不同的数据集之间不存在交集。

2.2 评估指标

为了综合评价模型的性能，使用精确率（Precision，P_rec）、召回率（Recall，R_ec）、准确率（Accuracy，A_cc）和F1分数（F1-score，F₁）作为评价指标，公式为

P_{\mathrm{r}\mathrm{e}\mathrm{c}}=\frac{T_{\mathrm{P}}}{T_{\mathrm{P}}+F_{\mathrm{P}}},R_{\mathrm{e}\mathrm{c}}=\frac{T_{\mathrm{P}}}{T_{\mathrm{P}}+F_{\mathrm{N}}},

A_{\mathrm{c}\mathrm{c}}=\frac{T_{\mathrm{P}}+T_{\mathrm{N}}}{T_{\mathrm{P}}+F_{\mathrm{N}}+F_{\mathrm{P}}+T_{\mathrm{N}}}，F_{\mathrm{1}}=\frac{\mathrm{2}{T}_{\mathrm{P}}}{\mathrm{2}{T}_{\mathrm{P}}+F_{\mathrm{N}}+F_{\mathrm{P}}},

其中，T_P和T_N表示正确分类的正例和负例的数量，F_N和F_P表示错误分类的正例和负例的数量。

2.3 实验设置

实验基于PyTorch框架实现，借助16 GB RAM的NVIDIA Tesla P100 GPU完成加速计算，使用Adam优化器，输入图像像素尺寸设置为112×112，批大小设置为32，初始学习率设置为0.000 1。

2.4 实验结果

图7展示了Swin-BiCAS模型在训练集和验证集上的准确率情况。如图7所示，对于训练集，在早期阶段准确率快速增长，当训练轮数增加至约20个epoch时，模型准确率逐渐达到较高水平，并接近峰值状态。随着迭代的进行，准确率的增长趋势逐渐放缓，趋于稳定。这表明Swin-BiCAS模型具有良好的收敛性能，在训练过程中未出现明显的过拟合或振荡现象。图8为Swin-BiCAS模型预测的归一化混淆矩阵，可以看出，大多数类别在对角线上均呈现出较高的数值，说明模型能够较为准确地识别出不同个体牛只的面部特征。图9是在数据集中任意选出5头牛的可视化结果，可以看出，热力值高的地方大多集中在面部区域，这表明模型在进行分类识别时重点关注牛面部区域，能够有效提取并利用具有区分度的核心特征进行身份判定。

2.5 对比实验结果

为了全面评估Swin-BiCAS模型的性能，选择MaxViT^［20］、MetaFormer^［21］、Next-ViT^［22］、ViT^［23］、MLP-Mixer^［24］和ResNet50^［25］进行对比实验，结果如表1所示。Swin-BiCAS模型在各项评价指标上均取得最佳性能，其中准确率达到99.1%，显著优于其他视觉Transformer模型和卷积神经网络模型。与传统CNN模型ResNet50相比，本文模型的准确率与F₁值分别提升了4.4个百分点和5.4个百分点。这表明基于自注意力机制的特征建模方式能够更有效地捕获牛脸区域的全局结构信息，提高个体区分能力。与ViT和MLP-Mixer等全局建模结构相比，Swin-BiCAS模型表现更优，说明分层窗口注意力结合稀疏路由机制能够在保持计算效率的同时增强局部与全局特征协同建模能力。

2.6 消融实验

为深入探究各项改进措施对牛脸识别模型准确率的具体贡献，设计消融实验，在相同的实验环境下对添加的模块分别进行探索，实验结果如表2所示。

从实验结果可以看出，在基准SwinT模型基础上引入Biformer Block后，F₁值提高0.2个百分点，准确率提高0.3个百分点，表明稀疏路由注意力机制能够增强关键区域的长距离依赖建模能力，从而提升特征表达能力。当仅引入CASmerge模块时，模型性能提升更为显著，F₁值提高1.2个百分点，准确率提高1.5个百分点，说明空间位置信息建模与通道关系重标定能够有效增强牛脸细粒度特征表达能力，提高不同个体之间的判别能力。当同时引入Biformer Block与CASmerge模块时，模型性能获得最大提升，准确率较基准模型提升2.8个百分点。

3 结论与展望

针对复杂养殖环境下牛脸识别鲁棒性不足的问题，提出了一种基于改进Swin Transformer的牛脸识别方法，通过引入稀疏路由注意力机制，有效解决了传统窗口注意力感受野受限的问题，实现关键区域的长距离依赖建模；同时设计CASmerge特征融合模块，通过空间位置感知增强与通道关系重标定协同优化，提高了特征表达的判别能力，能够在自然场景下实现准确的牛脸识别。此外，跨品种数据实验表明模型具备良好的泛化能力，能够适应不同牛只面部特征差异。实验结果表明，该方法可以准确识别牛只身份，优于现有算法。

未来的研究工作将使用更多的品种来扩展样本数据，以提高模型跨品种的泛化能力。针对牛只生长过程中面部形态变化，可以引入时序建模，提升长期身份一致性判断。同时，可以结合边缘计算设备优化模型部署性能，推动其在智慧牧场中的实际应用。

参考文献

[1] Mahmud M S， Zahid A， Das A K，et al.A systematic literature review on deep learning applications for precision cattle farming［J］.Computers and Electronics in Agriculture，2021，187：106313.

[2] Kawagoe Y， Zin T T， Kobayashi I.Individual identification of cow using image processing techniques［C］//2022 IEEE 4th Global Conference on Life Sciences and Technologies（LifeTech）.Osaka，Japan：IEEE，2022：570-571.

[3] Yin M S， Ma R Q， Luo H L，et al.Non-contact sensing technology enables precision livestock farming in smart farms［J］.Computers and Electronics in Agriculture，2023，212：108171.

[4] 刘晋维，李富忠，陈新文，等.基于孪生网络和度量学习的牛脸检测与识别模型［J］.计算机技术与发展，2025，35（9）：175-181.

[5] Zhang M J， Wang X P， Feng H H，et al.Wearable internet of things enabled precision livestock farming in smart farms：A review of technical solutions for precise perception，biocompatibility，and sustainability monitoring［J］.Journal of Cleaner Production，2021，312：127712.

[6] 杨梅，赵建敏.基于三元损失的保险业务牛脸识别系统的设计［J］.光电子·激光，2022，33（8）：831-839.

[7] Xu X S， Wang Y F， Hua Z X，et al.Light-weight recognition network for dairy cows based on the fusion of YOLOv5s and channel pruning algorithm［J］.Transactions of the Chinese Society of Agricultural Engineering，2023，39（15）：153-163.

[8] 刘和鑫，尚文婧，赵翔宇，等.SpaMGCN：基于多视图图神经网络识别空间域的方法［J］.内蒙古大学学报（自然科学版），2025，56（5）：545-557.

[9] 宋静，荀学义，梅佳慧，等.基于SPEI的多尺度法分析干旱气候对黄河流域内蒙古段植被覆盖的影响［J］.内蒙古大学学报（自然科学版），2025，56（5）：463-475.

[10] Baranov A， Graml R， Pirchner F，et al.Breed differences and intra-breed genetic variability of dermatoglyphic pattern of cattle［J］.Journal of Animal Breeding and Genetics，1993，110（1/2/3/4/5/6）：385-392.

[11] Allen A， Golden B， Taylor M，et al.Evaluation of retinal imaging technology for the biometric identification of bovine animals in Northern Ireland［J］.Livestock Science，2008，116（1/2/3）：42-52.

[12] Gaber T， Tharwat A， Hassanien A E，et al.Biometric cattle identification approach based on Weber's local descriptor and AdaBoost classifier［J］.Computers and Electronics in Agriculture，2016，122：55-66.

[13] Noviyanto A， Arymurthy A M.Beef cattle identification based on muzzle pattern using a matching refinement technique in the SIFT method［J］.Computers and Electronics in Agriculture，2013，99：77-84.

[14] Yao L Y， Hu Z， Liu C X，et al.Cow face detection and recognition based on automatic feature extraction algorithm［C］//Proceedings of the ACM Turing Celebration Conference-China.New York，USA：ACM，2019：1-5.

[15] Kumar S， Singh S K.Cattle recognition：A new frontier in visual animal biometrics research［J］.Proceedings of the National Academy of Sciences，India Section A：Physical Sciences，2019，90（4）：689-708.

[16] 杨蜀秦，刘杨启航，王振，等.基于融合坐标信息的改进YOLO V4模型识别奶牛面部［J］.农业工程学报，2021，37（15）：129-135.

[17] Lu Y Z， Weng Z， Zheng Z Q，et al.Algorithm for cattle identification based on locating key area［J］.Expert Systems with Applications，2023，228（11）：120365.

[18] Wang Y F， Xu X S， Wang Z，et al.ShuffleNet-Triplet：A lightweight RE-identification network for dairy cows in natural scenes［J］.Computers and Electronics in Agriculture，2023，205：107632.

[19] 齐咏生，焦杰，鲍腾飞，等.基于自适应注意力机制的复杂场景下牛脸检测算法［J］.农业工程学报，2023，39（14）：173-183.

[20] Tu Z Z， Talebi H， Zhang H，et al.MaxViT：Multi-axis vision transformer［DB/OL］.（2022-09-09）［2025-05-29］.

[21] Yu W H， Luo M， Zhou P，et al.MetaFormer is actually what you need for vision［C］//2022 IEEE/CVF Conference on Computer Vision and Pattern Recognition.New Orleans，LA，USA：IEEE，2022：10809-10819.

[22] Li J S， Xia X， Li W，et al.Next-ViT：Next generation vision transformer for efficient deployment in realistic industrial scenarios［DB/OL］.（2022-08-16）［2025-05-29］.

[23] Dosovitskiy A， Beyer L， Kolesnikoy A，et al.An image is worth 16×16 words：Transformers for image recognition at scale［DB/OL］.（2021-06-03）［2025-05-29］.

[24] Tolstikhin I， Houlsby N， Kolesnikov A，et al.MLP-Mixer：An all-MLP architecture for vision［DB/OL］.（2021-06-11）［2025-05-29］.

[25] He K M， Zhang X Y， Ren S Q，et al.Deep residual learning for image recognition［C］//2016 IEEE Conference on Computer Vision and Pattern Recognition.Las Vegas，NV，USA：IEEE，2016：770-778.

基金资助

内蒙古自治区科技计划项目(2025YFHH0083)

内蒙古自然科学基金项目(2025MS06039)

内蒙古自然科学基金项目(2023LHMS07016)

内蒙古自然科学基金项目(2025QN06005)