上三角关系矩阵的两类点谱与两类剩余谱的性质

Properties of Two Classes of Point Spectrum and Two Classes of Residual Spectrum for Upper Triangular Relation Matrices

摘要

设H,K是复可分的无穷维Hilbert空间。对给定关系A\in \mathrm{ℬ}\mathrm{ℛ}(H)，B\in \mathrm{ℬ}\mathrm{ℛ}(K)，X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)，记\mathrm{2}\times \mathrm{2}上三角关系矩阵M_X=\left(\begin{array}{cc}A& X\\ \mathrm{0}& B\end{array}\right)\in \mathrm{ℬ}\mathrm{ℛ}(H\oplus K)，给出M_X的两类点谱{\sigma }_{p,\mathrm{1}}(M_X)和{\sigma }_{p,\mathrm{2}}(M_X)，两类剩余谱{\sigma }_{r,\mathrm{1}}(M_X)和{\sigma }_{r,\mathrm{2}}(M_X)与其对角元A和B的对应谱的并集之间的联系。

Abstract

Let H,K be infinite-dimensional complex separable Hilbert spaces.For given the relation A\in \mathrm{ℬ}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{ℛ}(K)，X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)， the 2×2 upper triangular relation matrix is denoted by M_X=\left(\begin{array}{cc}A& X\\ \mathrm{0}& B\end{array}\right)\in \mathrm{ℬ}\mathrm{ℛ}(H\oplus K).The connections between two classes of point spectrum {\sigma }_{p,\mathrm{1}}(M_X)，{\sigma }_{p,\mathrm{2}}(M_X)， two classes of residual spectrum {\sigma }_{r,\mathrm{1}}(M_X)， {\sigma }_{r,\mathrm{2}}(M_X) of M_X and the unions of the corresponding spectrum of their diagonal entries A and B are given.

关键词

关系矩阵 / 点谱 / 剩余谱 / 上三角关系矩阵

Key words

relation matrix / point spectrum / residual spectrum / upper triangular relation matrix

线性关系是线性算子概念在多值情况下的进一步泛化，因此，也将多值线性算子和单值线性算子统称为线性关系，它可以用来解决具有非稠定性等线性算子的一些问题。事实上，文献［1］在研究非稠定微分算子的共轭时就引入了线性关系这一概念。线性关系的发现为诸多实际问题的解决提供了理论支撑，例如，某些最优化、控制论、退化微分方程和退化算子半群问题已应用了线性关系的相关理论^［2-3］。线性关系矩阵是以线性关系作为元素的矩阵，通常也称为关系矩阵。

在近三十年的研究历程中，算子矩阵作为一类特殊的关系矩阵，一直是学界关注的焦点，特别是对于上三角算子矩阵的谱补问题的研究已经逐渐完善。许多学者对谱、点谱、连续谱和剩余谱等问题进行了讨论^［4-8］。文献［4］在Hilbert空间中研究了\mathrm{2}\times \mathrm{2}上三角算子矩阵点谱、连续谱和剩余谱的扰动；文献［5］给出了在Hilbert空间中\mathrm{2}\times \mathrm{2}上三角算子矩阵的可能连续谱和可能剩余谱；文献［6］对Hilbert空间中的\mathrm{3}\times \mathrm{3}上三角算子矩阵的可能点谱、可能连续谱和可能剩余谱进行了描述；文献［7］将\mathrm{2}\times \mathrm{2}上三角算子矩阵的点谱与剩余谱分别分为两类，并对其可能谱进行描述；文献［8］针对\mathrm{3}\times \mathrm{3}上三角算子矩阵，结合分析法和算子分块技巧刻画了四类可能点谱。

近年来，许多学者开始研究关系矩阵的谱理论，主要是对上三角缺项关系矩阵的谱补问题进行研究^［9-11］。文献［9］对\mathrm{2}\times \mathrm{2}上三角关系矩阵进行了探讨，得到了缺项元素分别为单值线性关系和多值线性关系时，\mathrm{2}\times \mathrm{2}上三角关系矩阵M_X值域闭和值域不闭的充分必要条件，并进一步刻画了闭值域谱的扰动和可能闭值域谱；文献［10］刻画了\mathrm{2}\times \mathrm{2}上三角关系矩阵的谱、点谱、连续谱和剩余谱的扰动问题，以及\mathrm{2}\times \mathrm{2}上三角关系矩阵M_X的点谱与其内部元素的点谱之间的联系；文献［11］利用单值扩张性质对上三角关系矩阵M_X的谱、点谱和剩余谱等与其对角元的对应谱之间的关系进行刻画。本文结合分析方法与矩阵分块技巧给出了\mathrm{2}\times \mathrm{2}上三角关系矩阵M_X的两类点谱与两类剩余谱与其对角元的对应谱的并集之间的包含关系。

下面给出基本概念和主要符号。设H和K是可分的Hilbert空间，关系T:H\to K是一个映射，它将非空子集\mathrm{d}\mathrm{o}\mathrm{m}T\subseteq H中的元素映射为K的某个非空子集，其中\mathrm{d}\mathrm{o}\mathrm{m}T为T的定义域。若关系T满足对任意的x_{\mathrm{1}}\mathrm{、}{x}_{\mathrm{2}}\in \mathrm{d}\mathrm{o}\mathrm{m}T及不全为零的标量\alpha \mathrm{、}\beta都有T\left(\alpha x_{\mathrm{1}}+\beta x_{\mathrm{2}}\right)=\alpha T\left(x_{\mathrm{1}}\right)+\beta T\left(x_{\mathrm{2}}\right)，则称T为线性关系。记\mathrm{ℒ}\mathrm{ℛ}(H,K)为从H到K且定义域为全空间H的所有线性关系，并记\mathrm{ℒ}\mathrm{ℛ}(H)=\mathrm{ℒ}\mathrm{ℛ}(H,H)。

设T\in \mathrm{ℒ}\mathrm{ℛ}(H,K)，图G(T)定义为G(T)=\{(u,v)\in H\oplus K:u\in \mathrm{d}\mathrm{o}\mathrm{m}T,v\in T(u)\}。若T的图G(T)是H\oplus K的闭子空间，则称T是闭的。以\mathrm{𝒞}\mathrm{ℛ}(H,K)表示从H到K的所有闭线性关系构成的集合，记\mathrm{𝒞}\mathrm{ℛ}(H)=\mathrm{𝒞}\mathrm{ℛ}(H,H)。T的逆关系T^{-\mathrm{1}}和闭包\overline{T}分别定义为G\left(T^{-\mathrm{1}}\right)=\{(v,u)\in K\oplus H:(u,v)\in G(T)\}和G(\overline{T})=\overline{G(T)}确定的线性关系。设T\in \mathrm{ℒ}\mathrm{ℛ}(H,K)，Q_T为从K到K/T(\mathrm{0})的商映射，则Q_{T}T是单值的，并且对任意的x\in H，有‖Tx‖=‖Q_{T}Tx‖且定义T的范数为‖T‖=‖Q_{T}T‖，若，则称T是有界线性关系。记\mathrm{ℬ}\mathrm{ℛ}(H,K)为从H到K的所有有界线性关系构成的集合，\mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(H,K)为从H到K的所有有界闭线性关系构成的集合，\mathrm{ℬ}\mathrm{ℛ}(H)为H上的所有有界线性关系构成的集合。定义\mathrm{r}\mathrm{a}\mathrm{n}T=T(\mathrm{d}\mathrm{o}\mathrm{m}T)、\mathrm{k}\mathrm{e}\mathrm{r}T=\{x\in H:\mathrm{0}\in T(x)\}和\mathrm{m}\mathrm{u}\mathrm{l}T=\{y\in K:y\in T(\mathrm{0})\}分别为T的值域、零空间和多值部分，其中T(\mathrm{0}):=\{y\in K:(\mathrm{0},y)\in G(T)\}。记n(T)=\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{k}\mathrm{e}\mathrm{r}T，d(T)=\mathrm{d}\mathrm{i}\mathrm{m}\mathrm{r}\mathrm{a}\mathrm{n}{T}^{\perp }。

设T\in \mathrm{ℬ}\mathrm{ℛ}(H)，定义T的预解集为\rho (T)=\{\lambda \in \mathbb{C}:T-\lambda I是单射的，值域闭且稠密｝。定义T的谱为\sigma (T)=\mathbb{C}\backslash \rho (T)。线性关系T\in \mathrm{ℬ}\mathrm{ℛ}(H)的点谱{\sigma }_p(T)、剩余谱{\sigma }_r(T)、连续谱{\sigma }_c(T)和闭值域谱{\sigma }_{cr}(T)分别定义为

{\sigma }_p(T)=\{\lambda \in \mathbb{C}:T-\lambda I不是单射｝，

{\sigma }_r(T)=\{\lambda \in \mathbb{C}:T-\lambda I是单射，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)}\ne H\}，

{\sigma }_c(T)=\{\lambda \in \mathbb{C}:T-\lambda I是单射，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)}=H,\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)\ne H\}，

{\sigma }_{cr}(T)=\{\lambda \in \mathbb{C}:\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)不是闭的｝。

为叙述方便，记{\rho }_{cr}(T)=\mathbb{C}\backslash {\sigma }_{cr}(T)。基于\mathrm{r}\mathrm{a}\mathrm{n}T的闭性与稠密性，将关系的点谱和剩余谱分别拆为1，2类点谱和1，2类剩余谱，即

{\sigma }_{p,\mathrm{1}}(T)=\{\lambda \in {\sigma }_p(T):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)}=H\}，

{\sigma }_{p,\mathrm{2}}(T)=\{\lambda \in {\sigma }_p(T):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)}\ne H\}，

{\sigma }_{r,\mathrm{1}}(T)=\{\lambda \in {\sigma }_r(T):\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)闭｝，

{\sigma }_{r,\mathrm{2}}(T)=\{\lambda \in {\sigma }_r(T):\mathrm{r}\mathrm{a}\mathrm{n}(T-\lambda I)不闭｝。

1 辅助引理

引理1{}^{[\mathrm{1}]} 若T是Hilbert空间上的线性关系， 则

（i） T闭当且仅当T^{-\mathrm{1}}闭；

（ii） 若T是闭的，则T\left(\mathrm{0}\right)是闭的。

引理2{}^{[\mathrm{9}]} 设T\in \mathrm{ℬ}\mathrm{ℛ}\left(H,K\right)。若T\left(\mathrm{0}\right)是闭的，则\mathrm{k}\mathrm{e}\mathrm{r}T是闭的。

引理3 设A\in \mathrm{ℬ}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{ℛ}(K)，则对任意的X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)，有\overline{\mathrm{r}\mathrm{a}\mathrm{n}{M}_X}=H\oplus K当且仅当\overline{\mathrm{r}\mathrm{a}\mathrm{n}A}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}B}=K。

证明 充分性。因为\overline{\mathrm{r}\mathrm{a}\mathrm{n}A}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}B}=K，所以\mathrm{k}\mathrm{e}\mathrm{r}{A}^{\mathrm{*}}=\mathrm{r}\mathrm{a}\mathrm{n}{A}^{\perp }=\{\mathrm{0}\},\mathrm{k}\mathrm{e}\mathrm{r}{B}^{\mathrm{*}}=\mathrm{r}\mathrm{a}\mathrm{n}{B}^{\perp }=\{\mathrm{0}\}，因此，对任意的X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)，有\mathrm{k}\mathrm{e}\mathrm{r}{M_X}^{\mathrm{*}}=\{\mathrm{0}\}，故\mathrm{k}\mathrm{e}\mathrm{r}{M_X}^{\mathrm{*}}=\mathrm{r}\mathrm{a}\mathrm{n}{M_X}^{\perp }=\{\mathrm{0}\}，则\overline{\mathrm{r}\mathrm{a}\mathrm{n}{M}_X}=H\oplus K。

必要性。令X=\mathrm{0}，因为\overline{\mathrm{r}\mathrm{a}\mathrm{n}{M}_X}=H\oplus K，所以\overline{\mathrm{r}\mathrm{a}\mathrm{n}A}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}B}=K。

引理4{}^{[\mathrm{2}]} 若T\in \mathrm{ℒ}\mathrm{ℛ}\left(H\right)，则对任意的x\in \mathrm{d}\mathrm{o}\mathrm{m}T，有‖P_{T{\left(\mathrm{0}\right)}^{\perp }}Tx‖=‖Tx‖且‖P_{T{\left(\mathrm{0}\right)}^{\perp }}T‖=‖T‖。

引理5{}^{[\mathrm{9}]} 若T\in \mathrm{ℒ}\mathrm{ℛ}\left(H\right)且U,V\in \mathrm{ℬ}\left(H\right)可逆，则

（i） \mathrm{r}\mathrm{a}\mathrm{n}UT闭当且仅当\mathrm{r}\mathrm{a}\mathrm{n}T闭；

（ii） \mathrm{r}\mathrm{a}\mathrm{n}TV闭当且仅当\mathrm{r}\mathrm{a}\mathrm{n}T闭。

引理6{}^{[\mathrm{9}]} 设T\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(H)，F\in \mathrm{ℬ}R(H,K)。若F是有限秩的，则\mathrm{r}\mathrm{a}\mathrm{n}T是闭的当且仅当\mathrm{r}\mathrm{a}\mathrm{n}\left(\begin{array}{l}F\\ T\end{array}\right)是闭的。

引理7 设T\in \mathrm{ℬ}\mathrm{ℛ}(H)且U\in \mathrm{ℬ}(H)可逆，则\mathrm{r}\mathrm{a}\mathrm{n}UT在H中稠密当且仅当\mathrm{r}\mathrm{a}\mathrm{n}T在H中稠密。

证明 充分性。因为U\in \mathrm{ℬ}(H)可逆，所以对任意的x\in H，有y=Ux\in H。由于\mathrm{r}\mathrm{a}\mathrm{n}T在H中稠密，故存在\{x_n\}\in \mathrm{r}\mathrm{a}\mathrm{n}T使得x_n\to x，则U{x}_n\to Ux=y。令U{x}_n=y_n，则y_n\to y，即\mathrm{r}\mathrm{a}\mathrm{n}UT在H中稠密。

必要性。因为U\in \mathrm{ℬ}(H)可逆，所以对任意的x\in H，有y=U^{-\mathrm{1}}x\in H。由于\mathrm{r}\mathrm{a}\mathrm{n}UT在H中稠密，故存在\{x_n\}\in \mathrm{r}\mathrm{a}\mathrm{n}UT使得x_n\to x，则U^{-\mathrm{1}}{x}_n\to U^{-\mathrm{1}}x=y。令U^{-\mathrm{1}}{x}_n=y_n，则y_n\to y，即\mathrm{r}\mathrm{a}\mathrm{n}T在H中稠密。

引理8{}^{[\mathrm{10}]} 设A\in \mathrm{ℒ}\mathrm{ℛ}(H),B\in \mathrm{ℒ}\mathrm{ℛ}(K),C\in \mathrm{ℒ}\mathrm{ℛ}(K,H)为给定关系，则

{\sigma }_p\left(M_C\right)\subseteq {\sigma }_p(A)\bigcup {\sigma }_p(B)\bigcup \{\lambda \in \mathbb{C}:C(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}。

引理9{}^{[\mathrm{10}]} 设A\in \mathrm{ℒ}\mathrm{ℛ}(H),B\in \mathrm{ℒ}\mathrm{ℛ}(K),C\in \mathrm{ℒ}\mathrm{ℛ}(K,H)为给定关系，则

{\sigma }_p(A)\bigcup \{\lambda \in \mathbb{C}:C(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}\subseteq {\sigma }_p\left(M_C\right)。

引理10{}^{[\mathrm{9}]} 设A\in \mathrm{ℒ}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(K)为给定关系，则对任意的X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)，都有\mathrm{r}\mathrm{a}\mathrm{n}{M}_X不闭当且仅当\mathrm{r}\mathrm{a}\mathrm{n}B不闭且。

2 主要结果及证明

定理1 设A\in \mathrm{ℬ}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{ℛ}(K),X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)为给定关系，则

{\sigma }_{p,\mathrm{1}}\left(M_X\right)\subseteq {\sigma }_{p,\mathrm{1}}(B)\bigcup \left({\sigma }_p(A)\bigcap {\sigma }_{cr}(B)\right)\cup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}

\cup \{\lambda \in \mathbb{C}:\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则

{\sigma }_{p,\mathrm{1}}\left(M_X\right)\subseteq {\sigma }_{p,\mathrm{1}}(B)\bigcup \left({\sigma }_p(A)\bigcap {\sigma }_{cr}(B)\right)\cup \{\lambda \in \mathbb{C}:\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H\}。

证明 设\lambda \notin {\sigma }_{p,\mathrm{1}}(B)\bigcup \left({\sigma }_p(A)\bigcap {\sigma }_{cr}(B)\right)\cup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}\bigcup\{\lambda \in \mathbb{C}:\overline{X(\mathrm{0})}\bigcap\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}。以下分4种情形进行讨论。

情形1： A-\lambda I和B-\lambda I均是单射，X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})且\overline{X(\mathrm{0})}\bigcap\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。由引理8可知，M_X是单射，则\lambda \notin {\sigma }_{p,\mathrm{1}}(M_X)。

情形2： A-\lambda I是单射，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K，X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})且\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。由\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K可得，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}\ne H\oplus K，故\lambda \notin {\sigma }_{p,\mathrm{1}}(M_X)。

情形3：\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)闭，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K，X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})且\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。此时，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}\ne H\oplus K，故\lambda \notin {\sigma }_{p,\mathrm{1}}(M_X)。

情形4：\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)闭，B-\lambda I是单射，X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})且\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。此时，M_X-\lambda I可分解为如下形式

M_X-\lambda I=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\end{array}& \begin{array}{l}{(X-\lambda I)}_{\mathrm{21}}\\ {(X-\lambda I)}_{\mathrm{22}}\\ {(B-\lambda I)}_{\mathrm{1}}\\ B-B\\ \mathrm{0}\end{array}\end{array}\right):\left(\begin{array}{c}H\\ K\end{array}\right)\to \left(\begin{array}{c}\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\\ \begin{array}{l}{X}_{\mathrm{2}}{(\mathrm{0})}^{\perp }\\ \overline{X_{\mathrm{2}}(\mathrm{0})}\end{array}\\ \mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcap B{(\mathrm{0})}^{\perp }\\ B(\mathrm{0})\\ \mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp }\end{array}\right)。

其中，X_{\mathrm{2}}{(\mathrm{0})}^{\perp }\oplus \overline{X_{\mathrm{2}}(\mathrm{0})}=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }且

{(X-\lambda I)}_{\mathrm{2}}=\left(\begin{array}{l}{(X-\lambda I)}_{\mathrm{21}}\\ {(X-\lambda I)}_{\mathrm{22}}\end{array}\right)。

易知{(B-\lambda I)}_{\mathrm{1}}为可逆算子，故存在\mathrm{ℬ}(\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus X_{\mathrm{2}}{(\mathrm{0})}^{\perp }\oplus \overline{X_{\mathrm{2}}(\mathrm{0})}\oplus (\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcapB{(\mathrm{0})}^{\perp })\oplusB(\mathrm{0})\oplus\mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp })上的可逆算子

U=\left(\begin{array}{cccccc}I& \mathrm{0}& \mathrm{0}& \mathrm{0}& \mathrm{0}& \mathrm{0}\\ \mathrm{0}& I& \mathrm{0}& -{(X-\lambda I)}_{\mathrm{21}}{(B-\lambda I)}_{\mathrm{1}}^{-\mathrm{1}}& \mathrm{0}& \mathrm{0}\\ \mathrm{0}& \mathrm{0}& I& \mathrm{0}& \mathrm{0}& \mathrm{0}\\ \mathrm{0}& \mathrm{0}& \mathrm{0}& I& \mathrm{0}& \mathrm{0}\\ \mathrm{0}& \mathrm{0}& \mathrm{0}& \mathrm{0}& I& \mathrm{0}\\ \mathrm{0}& \mathrm{0}& \mathrm{0}& \mathrm{0}& \mathrm{0}& I\end{array}\right)，

使得

U(M_X-\lambda I)=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\end{array}& \begin{array}{l}\mathrm{0}\\ {(X-\lambda I)}_{\mathrm{22}}\\ {(B-\lambda I)}_{\mathrm{1}}\\ B-B\\ \mathrm{0}\end{array}\end{array}\right)。

因为\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }，所以\overline{X_{\mathrm{2}}(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }，因此\overline{\mathrm{r}\mathrm{a}\mathrm{n}U(M_X-\lambda I)}=\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus \overline{X_{\mathrm{2}}(\mathrm{0})}\oplus \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne H\oplus K。由引理7可知，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}\neH\oplus K，故\lambda \notin {\sigma }_{p,\mathrm{1}}(M_X)。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则\{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}=\mathrm{\varnothing }且\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{0}。此时，{(X-\lambda I)}_{\mathrm{2}}是单值的，则M_X-\lambda I可分解为如下形式

(M_X-\lambda I)=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\end{array}& \begin{array}{l}{(X-\lambda I)}_{\mathrm{2}}\\ {(B-\lambda I)}_{\mathrm{1}}\\ B-B\\ \mathrm{0}\end{array}\end{array}\right):\left(\begin{array}{c}H\\ K\end{array}\right)\to \left(\begin{array}{c}\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\\ \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\\ \mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcap B{(\mathrm{0})}^{\perp }\\ B(\mathrm{0})\\ \mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp }\end{array}\right)。

因为{(B-\lambda I)}_{\mathrm{1}}为可逆算子，所以，存在可逆算子V\in\mathrm{ℬ}(\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\oplus(\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcapB{(\mathrm{0})}^{\perp })\oplus B(\mathrm{0})\oplus\mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp })，使得

V(M_X-\lambda I)=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\\ \mathrm{0}\end{array}& \begin{array}{l}\mathrm{0}\\ {(B-\lambda I)}_{\mathrm{1}}\\ B-B\\ \mathrm{0}\end{array}\end{array}\right)。

因此，\overline{\mathrm{r}\mathrm{a}\mathrm{n}V(M_X-\lambda I)}=\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne H\oplus K，故当X(\mathrm{0})\subseteq A(\mathrm{0})时，

{\sigma }_{p,\mathrm{1}}\left(M_X\right)\subseteq{\sigma }_{p,\mathrm{1}}(B)\bigcup ({\sigma }_p(A)\bigcap {\sigma }_{cr}(B))\bigcup \{\lambda \in \mathbb{C}:\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H\}。

证毕。

定理2 设A\in \mathrm{ℬ}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{ℛ}(K),X\in \mathrm{ℬ}\mathrm{ℛ}(K,H)为给定关系，则

{\sigma }_{p,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{p,\mathrm{2}}(A)\bigcup {\sigma }_{p,\mathrm{2}}(B)\bigcup ({\sigma }_{p,\mathrm{1}}(A)\bigcap {\sigma }_r(B))\bigcup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}

\cup \{\lambda \in \mathbb{C}:\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则

{\sigma }_{p,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{p,\mathrm{2}}(A)\bigcup {\sigma }_{p,\mathrm{2}}(B)\bigcup ({\sigma }_{p,\mathrm{1}}(A)\bigcap {\sigma }_r(B))\bigcup \{\lambda \in \mathbb{C}:\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

证明 设\lambda \notin {\sigma }_{p,\mathrm{2}}(A)\bigcup {\sigma }_{p,\mathrm{2}}(B)\bigcup ({\sigma }_{p,\mathrm{1}}(A)\bigcap {\sigma }_r(B))\bigcup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}\cup \{\lambda \in \mathbb{C}:\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}。以下分3种情形进行讨论。

情形1： A-\lambda I和B-\lambda I均是单射且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})。由引理8可知，M_X是单射，则\lambda \notin {\sigma }_{p,\mathrm{2}}(M_X)。

情形2： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K。由引理3可知，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{p,\mathrm{2}}(M_X)。

情形3： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K且\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。此时，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\oplus \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{p,\mathrm{2}}(M_X)。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则\{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}=\mathrm{\varnothing }且

\{\lambda \in \mathbb{C}:\overline{X(\mathrm{0})}\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}=\{\lambda \in \mathbb{C}:\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

因此，当X(\mathrm{0})\subseteq A(\mathrm{0})时，

{\sigma }_{p,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{p,\mathrm{2}}(A)\bigcup{\sigma }_{p,\mathrm{2}}(B)\bigcup ({\sigma }_{p,\mathrm{1}}(A)\bigcap {\sigma }_r(B))\cup \{\lambda \in \mathbb{C}:\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

证毕。

定理3 设A\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(K),X\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(K,H)为给定关系，则

{\sigma }_{r,\mathrm{1}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{1}}(A)\bigcup {\sigma }_{r,\mathrm{1}}(B)\bigcup ({\sigma }_p(A)\bigcap {\sigma }_{cr}(B))\bigcup ({\sigma }_p(B)\bigcap {\sigma }_{cr}(A))

\cup \{\lambda \in {\sigma }_{cr}(B):X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}

\cup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}\mathrm{。}

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则

{\sigma }_{r,\mathrm{1}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{1}}(A)\bigcup {\sigma }_{r,\mathrm{1}}(B)\bigcup ({\sigma }_p(A)\bigcap {\sigma }_{cr}(B))\bigcup ({\sigma }_p(B)\bigcap {\sigma }_{cr}(A))\cup \{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

证明 设\lambda不属于右边集合。以下分7种情形进行讨论。

情形1： A-\lambda I不是单射。由引理9可知，M_X不是单射，则\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形2： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K。由引理3可知，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形3： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。此时，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\oplus \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形4： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H且\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)不闭。由引理10可知，\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)不闭，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形5： \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)不闭，B-\lambda I是单射，\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)闭且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})。此时，M_X-\lambda I可分解为如下形式

M_X-\lambda I=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ A-A& {(X-\lambda I)}_{\mathrm{2}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{3}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& B-B\\ \mathrm{0}& \mathrm{0}\end{array}\right):\left(\begin{array}{c}H\\ K\end{array}\right)\to \left(\begin{array}{c}\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\bigcap A{(\mathrm{0})}^{\perp }\\ \begin{array}{l}A(\mathrm{0})\\ \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\end{array}\\ \mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcap B{(\mathrm{0})}^{\perp }\\ B(\mathrm{0})\\ \mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp }\end{array}\right)。

易知{(B-\lambda I)}_{\mathrm{1}}为可逆算子，故存在可逆算子T\in\mathrm{ℬ}((\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\bigcap A{(\mathrm{0})}^{\perp })\oplus A(\mathrm{0})\oplus \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\oplus(\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)\bigcapB{(\mathrm{0})}^{\perp })\oplus B(\mathrm{0})\oplus \mathrm{r}\mathrm{a}\mathrm{n}{(B-\lambda I)}^{\perp })，使得

T(M_X-\lambda I)=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& \mathrm{0}\\ A-A& {(X-\lambda I)}_{\mathrm{2}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{3}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& B-B\\ \mathrm{0}& \mathrm{0}\end{array}\right)。

因为\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)不闭，所以\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}不闭，故\mathrm{r}\mathrm{a}\mathrm{n}T(M_X-\lambda I)不闭。由引理5可得，\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)不闭，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形6： A-\lambda I可逆，B-\lambda I不是单射且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})。此时，M_X-\lambda I可分解为如下形式

M_X-\lambda I=\left(\begin{array}{ccc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{2}}\\ A-A& {(X-\lambda I)}_{\mathrm{3}}& {(X-\lambda I)}_{\mathrm{4}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}& B-B\end{array}\right):\left(\begin{array}{c}H\\ \begin{array}{l}\mathrm{k}\mathrm{e}\mathrm{r}{(B-\lambda I)}^{\perp }\\ \mathrm{k}\mathrm{e}\mathrm{r}(B-\lambda I)\end{array}\end{array}\right)\to \left(\begin{array}{c}A{(\mathrm{0})}^{\perp }\\ \begin{array}{l}A(\mathrm{0})\\ K\end{array}\end{array}\right)。

易知{(A-\lambda I)}_{\mathrm{1}}为可逆算子，则存在\mathrm{ℬ}(A{(\mathrm{0})}^{\perp }\oplus A(\mathrm{0})\oplus K)上的可逆算子

W=\left(\begin{array}{ccc}I& -{(A-\lambda I)}_{\mathrm{1}}^{-\mathrm{1}}{(X-\lambda I)}_{\mathrm{1}}& -{(A-\lambda I)}_{\mathrm{1}}^{-\mathrm{1}}{(X-\lambda I)}_{\mathrm{2}}\\ \mathrm{0}& I& \mathrm{0}\\ \mathrm{0}& O& I\end{array}\right)，

使得

(M_X-\lambda I)W=\left(\begin{array}{ccc}{(A-\lambda I)}_{\mathrm{1}}& \mathrm{0}& \mathrm{0}\\ A-A& {(X-\lambda I)}_{\mathrm{3}}& {(X-\lambda I)}_{\mathrm{4}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}& B-B\end{array}\right)。

此时，存在非零元素x_{\mathrm{0}}\in \mathrm{k}\mathrm{e}\mathrm{r}(B-\lambda I)，使得

(M_X-\lambda I)W\left(\begin{array}{l}\mathrm{0}\\ \mathrm{0}\\ x_{\mathrm{0}}\end{array}\right)\in M_X(\mathrm{0})=A(\mathrm{0})\oplus B(\mathrm{0})，

即M_X不是单射，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

情形7： A-\lambda I和B-\lambda I均是单射且\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)和\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)均不闭。M_X-\lambda I可分解为如下形式

M_X-\lambda I=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ A-A& {(X-\lambda I)}_{\mathrm{2}}\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\end{array}& \begin{array}{l}{(X-\lambda I)}_{\mathrm{31}}\\ X_{\mathrm{3}}-X_{\mathrm{3}}\end{array}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& B-B\end{array}\right):\left(\begin{array}{c}H\\ K\end{array}\right)\to \left(\begin{array}{c}\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\bigcap A{(\mathrm{0})}^{\perp }\\ A(\mathrm{0})\\ \begin{array}{l}{X}_{\mathrm{3}}{(\mathrm{0})}^{\perp }\\ X_{\mathrm{3}}(\mathrm{0})\end{array}\\ B{(\mathrm{0})}^{\perp }\\ B(\mathrm{0})\end{array}\right)。

定义

Q_{(X_{\mathrm{1}},X_{\mathrm{3}})}=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{31}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\end{array}\right)，

要证\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)不闭，只需证\mathrm{r}\mathrm{a}\mathrm{n}{Q}_{(X_{\mathrm{1}},X_{\mathrm{3}})}不闭。现设\mathrm{r}\mathrm{a}\mathrm{n}{Q}_{(X_{\mathrm{1}},X_{\mathrm{3}})}闭，因为\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)不闭，所以\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}不闭，即存在y_n\in \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}，使得y_n\to y(n\to \mathrm{\infty })且y\notin \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}。显然，存在x_n\in H(n\in \mathbb{N})，使得

\left(\begin{array}{l}{y}_n\\ \mathrm{0}\\ \mathrm{0}\end{array}\right)\in \left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{31}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\end{array}\right)\left(\begin{array}{c}{x}_n\\ \mathrm{0}\end{array}\right),

因此，{\left(\begin{array}{ccc}{y}_n& \mathrm{0}& \mathrm{0}\end{array}\right)}^{\mathrm{T}}\in \mathrm{r}\mathrm{a}\mathrm{n}{Q}_{\left(X_{\mathrm{1}},X_{\mathrm{3}}\right)}且\left(\begin{array}{c}{y}_n\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\end{array}\end{array}\right)\to \left(\begin{array}{c}y\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\end{array}\end{array}\right)，进而存在{\left(\begin{array}{cc}{x}_{\mathrm{1}}& x_{\mathrm{2}}\end{array}\right)}^{\mathrm{T}}\in H\oplus K，使得

\left(\begin{array}{c}{y}_n\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\end{array}\end{array}\right)\in \left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{31}}\\ \mathrm{0}& {(B-\lambda I)}_{\mathrm{1}}\end{array}\right)\left(\begin{array}{c}{x}_{\mathrm{1}}\\ x_{\mathrm{2}}\end{array}\right)=\left(\begin{array}{c}y\\ \begin{array}{l}\mathrm{0}\\ \mathrm{0}\end{array}\end{array}\right)。

因为{(B-\lambda I)}_{\mathrm{1}}是单值的，所以x_{\mathrm{2}}=\mathrm{0}。这意味着y\in \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}，与\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)不闭矛盾。因此\mathrm{r}\mathrm{a}\mathrm{n}{Q}_{(X_{\mathrm{1}},X_{\mathrm{3}})}不闭，从而\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)不闭，故\lambda \notin {\sigma }_{r,\mathrm{1}}(M_X)。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则\{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}=\mathrm{\varnothing }且

\{\lambda \in {\sigma }_{cr}(B):X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}=\{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

因此，当X(\mathrm{0})\subseteq A(\mathrm{0})时，

{\sigma }_{r,\mathrm{1}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{1}}(A)\bigcup{\sigma }_{r,\mathrm{1}}(B)\bigcup ({\sigma }_p(A)\bigcap {\sigma }_{cr}(B))\bigcup ({\sigma }_p(B)\bigcap {\sigma }_{cr}(A))\bigcup \{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

证毕。

定理4 设A\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(H),B\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(K),X\in \mathrm{ℬ}\mathrm{𝒞}\mathrm{ℛ}(K,H)为给定关系，则

\begin{array}{l}{\sigma }_{r,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{2}}(A)\bigcup {\sigma }_{r,\mathrm{2}}(B)\bigcup \{\lambda \in \mathbb{C}:d(A-\lambda I)=\mathrm{\infty }\}\\ \cup \{\lambda \in {\sigma }_{cr}(A):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K\}\\ \cup \{\lambda \in {\sigma }_{cr}(B):X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}\\ \cup \{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}\mathrm{。}\end{array}

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则

\begin{array}{l}{\sigma }_{r,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{2}}(A)\bigcup {\sigma }_{r,\mathrm{2}}(B)\bigcup \{\lambda \in \mathbb{C}:d(A-\lambda I)=\mathrm{\infty }\}\bigcup \{\lambda \in {\sigma }_{cr}(A):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K\}\\ \bigcup \{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}\mathrm{。}\end{array}

证明 设\lambda不属于右边集合。以下分5种情形进行讨论。

情形1： A-\lambda I不是单射。由引理9可知，M_X不是单射，则\lambda \notin {\sigma }_{r,\mathrm{2}}(M_X)。

情形2： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}=H且\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K。由引理3可知，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{r,\mathrm{2}}(M_X)。

情形3： \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=K且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }=\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }。此时，\overline{\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)}=\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\oplus \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\oplus \overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}=H\oplus K，故\lambda \notin {\sigma }_{r,\mathrm{2}}(M_X)。

情形4： \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)与\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)均闭且。此时，M_X-\lambda I可分解为如下形式

M_X-\lambda I=\left(\begin{array}{cc}{(A-\lambda I)}_{\mathrm{1}}& {(X-\lambda I)}_{\mathrm{1}}\\ \mathrm{0}& {(X-\lambda I)}_{\mathrm{2}}\\ \mathrm{0}& B-\lambda I\end{array}\right):\left(\begin{array}{c}H\\ K\end{array}\right)\to \left(\begin{array}{c}\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\\ \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\\ K\end{array}\right)。

因为\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)闭，所以\mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}_{\mathrm{1}}是满射，故\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)=\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\oplus \mathrm{r}\mathrm{a}\mathrm{n}\left(\begin{array}{c}{(X-\lambda I)}_{\mathrm{2}}\\ B-\lambda I\end{array}\right)。又因为，所以{(X-\lambda I)}_{\mathrm{2}}为有限秩线性关系，由引理6可得，\mathrm{r}\mathrm{a}\mathrm{n}\left(\begin{array}{c}{(X-\lambda I)}_{\mathrm{2}}\\ B-\lambda I\end{array}\right)闭，因此\mathrm{r}\mathrm{a}\mathrm{n}(M_X-\lambda I)闭，故\lambda \notin {\sigma }_{r,\mathrm{2}}(M_X)。

情形5： A-\lambda I可逆，B-\lambda I不是单射且X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)\subseteq A(\mathrm{0})。由定理3的情形6可得，M_X不是单射，故\lambda \notin {\sigma }_{r,\mathrm{2}}(M_X)。

另外，若X(\mathrm{0})\subseteq A(\mathrm{0})，则\{\lambda \in \mathbb{C}:X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)⊈A(\mathrm{0})\}=\mathrm{\varnothing }且

\{\lambda \in {\sigma }_{cr}(B):X(\mathrm{0})\bigcap \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\ne \mathrm{r}\mathrm{a}\mathrm{n}{(A-\lambda I)}^{\perp }\}=\{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}。

因此，

\begin{array}{l}{\sigma }_{r,\mathrm{2}}\left(M_X\right)\subseteq {\sigma }_{r,\mathrm{2}}(A)\bigcup {\sigma }_{r,\mathrm{2}}(B)\bigcup \{\lambda \in \mathbb{C}:d(A-\lambda I)=\mathrm{\infty }\}\bigcup \{\lambda \in {\sigma }_{cr}(A):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(B-\lambda I)}\ne K\}\\ \cup \{\lambda \in {\sigma }_{cr}(B):\overline{\mathrm{r}\mathrm{a}\mathrm{n}(A-\lambda I)}\ne H\}\mathrm{。}\end{array}

证毕。

参考文献

[1] VON NEUMANN J.Functional operator Ⅱ：The geometry of orthogonal spaces［M］.Princeton：Princeton University Press，1950.

[2] SHI Y M， XU G X， REN G J.Boundedness and closedness of linear relations［J］.Linear and Multilinear Algebra，2018，66（1/4）：309-333.

[3] CROSS R.Multivalued linear operators［M］.New York：Marcel Dekker，1998.

[4] DRAGANA S，CVETKOVIĆ-ILIĆ.The point，residual and continuous spectrum of an upper triangular operator matrix［J］.Linear Algebra and Its Applications，2014，459：357-367.

[5] HAI G J， CHEN A.The residual spectrum and the continuous spectrum of upper triangular operator matrices［J］.Filomat，2014，28（1）：65-71.

[6] HAI G J， CHEN A.Possible spectrums of upper triangular operator matrices［J］.Journal of Mathematical Research with Applications，2009，29（4）：649-661.

[7] WU X F， HUANG J J， CHEN A.The point spectrum and residual spectrum of upper triangular operator matrices［J］.Filomat，2019，33（6）：1759-1771.

[8] 吴秀峰，黄俊杰.缺项3×3阶上三角算子矩阵的可能点谱［J］.高校应用数学学报，2020，35（2）：235-244.

[9] DU Y Y， HUANG J J， RAN H.On the range of upper triangular relation matrices［J］.Linear and Multilinear Algebra，2022，70（20）：5750-5769.

[10] DU Y Y， HUANG J J.Spectral property of upper triangular relation matrices［J］.Linear and Multilinear Algebra，2022，70（8）：1526-1542.

[11] ALVAREZ T， KESKES S.Spectra for upper triangular linear relation matrices through local spectral theory［J］.Aequationes Mathematicae，2024，98（2）：399-422.

基金资助

内蒙古自治区自然科学基金项目(2022LHMS01003)

内蒙古自治区自然科学基金项目(2024ZD21)

内蒙古自治区高等学校青年科技英才项目(NJYT22029)

内蒙古自治区一流学科科研专项(YLXKZX-NSD-011)

内蒙古自治区一流学科科研专项(NYLXKZX-NSD-017)