최근 수정 시각 : 2024-05-26 01:22:49

힐베르트 공간

해석학· 미적분학
Analysis · Calculus
{{{#!wiki style="margin: 0 -10px -5px; min-height: calc(1.5em + 5px)"
{{{#!folding [ 펼치기 · 접기 ]
{{{#!wiki style="margin: -5px -1px -11px"
<colbgcolor=#26455A>실수와 복소수 실수( 실직선 · 아르키메데스 성질) · 복소수( 복소평면 · 극형식 · 편각) · 근방 · 유계 · 콤팩트성 · 완비성
함수 함수 · 조각적 정의 · 항등함수 · 역함수 · 멱함수 · 다변수함수( 동차함수 · 음함수) · 다가 함수 · 함수의 그래프 · 좌표계 · 닮은꼴 함수 · 극값 · 볼록/오목 · 증감표
초등함수( 대수함수 · 초월함수 · 로그함수 · 지수함수 · 삼각함수) · 특수함수 · 범함수( 변분법 · 오일러 방정식) · 병리적 함수
극한·연속 함수의 극한 · 수열의 극한 · 연속함수 · ε-δ 논법 · 수렴( 균등수렴) · 발산 · 부정형 · 점근선 · 무한대 · 무한소 · 0.999…=1
중간값 정리 · 최대·최소 정리 · 부동점 정리 · 스털링 근사 · 선형근사( 어림)
수열· 급수 수열 · 급수( 멱급수 · 테일러 급수( 일람) · 조화급수 · 그란디 급수( 라마누잔합) · 망원급수( 부분분수분해)) · 그물
오일러 수열 · 베르누이 수열 · 월리스 곱
단조 수렴 정리 · 슈톨츠-체사로 정리 · 축소구간정리 · 급수의 수렴 판정 · 리만 재배열 정리 · 바젤 문제 · 파울하버의 공식 · 오일러-매클로린 공식 · 콜라츠 추측미해결
미분 미분 · 도함수( 이계도함수 · 도함수 일람) · 곱미분 · 몫미분 · 연쇄 법칙 · 임계점( 변곡점 · 안장점) · 매끄러움
평균값 정리( 롤의 정리) · 테일러 정리 · 역함수 정리 · 다르부 정리 · 로피탈 정리
립시츠 규칙 · 뉴턴-랩슨 방법 · 유율법
적분 적분 · 정적분( 예제) · 스틸체스 적분 · 부정적분( 부정적분 일람) · 부분적분( LIATE 법칙 · 도표적분법 · 예제) · 치환적분 · 이상적분( 코시 주요값)
미적분의 기본정리 · 적분의 평균값 정리
리시 방법 · 2학년의 꿈
다변수· 벡터 미적분 편도함수 · 미분형식 · · 중적분( 선적분 · 면적분 · 야코비안) · 야코비 공식
라그랑주 승수법 · 오일러 동차함수 정리 · 선적분의 기본정리 · 스토크스 정리( 발산 정리 · 그린 정리 변분법
미분방정식 미분방정식( 풀이) · 라플라스 변환
측도론 측도 · 가측함수 · 곱측도 · 르베그 적분 · 절대 연속 측도 · 라돈-니코딤 도함수
칸토어 집합 · 비탈리 집합
복소해석 코시-리만 방정식 · 로랑 급수 · 유수 · 해석적 연속 · 오일러 공식( 오일러 등식 · 드 무아브르 공식) · 리우빌의 정리 · 바이어슈트라스 분해 정리 · 미타그레플레르 정리
함수해석 공간 위상 벡터 공간 · 국소 볼록 공간 · 거리공간 · 프레셰 공간 · 노름공간 · 바나흐 공간 · 내적공간 · 힐베르트 공간 · Lp 공간
작용소 수반 작용소 · 에르미트 작용소 · 정규 작용소 · 유니터리 작용소 · 컴팩트 작용소
대수 C*-대수 · 폰 노이만 대수
정리 한-바나흐 정리 · 스펙트럼 정리 · 베르 범주 정리
이론 디랙 델타 함수( 분포이론)
조화해석 푸리에 해석( 푸리에 변환 · 아다마르 변환)
관련 분야 해석기하학 · 미분기하학 · 해석적 정수론( 1의 거듭제곱근 · 가우스 정수 · 아이젠슈타인 정수 · 소수 정리 · 리만 가설미해결) · 확률론( 확률변수 · 중심극한정리) · 수치해석학 · 카오스 이론 · 분수계 미적분학 · 수리물리학 · 수리경제학( 경제수학) · 공업수학
양-밀스 질량 간극 가설미해결 · 나비에 스토크스 방정식의 해 존재 및 매끄러움미해결
기타 퍼지 논리
}}}}}}}}} ||


1. 개요2. 정의
2.1. 내적공간2.2. 힐베르트 공간2.3. 선형 부분공간2.4. 정규직교기저2.5. 동형사상
3. 연산4. 성질
4.1. 내적공간의 성질4.2. 부분공간의 성질
4.2.1. 부분공간의 생성4.2.2. 거리 최소원의 존재4.2.3. 직교 여집합 및 정사영
4.3. 정규직교기저의 성질
4.3.1. 정규직교집합과 기저4.3.2. 차원과 동형4.3.3. 컴팩트 집합의 조건
4.4. 연속 쌍대공간의 성질
4.4.1. 리즈 표현 정리4.4.2. 자기 쌍대성
5. 작용소
5.1. 기본 성질
5.1.1. 유계 작용소 C*-대수5.1.2. 작용소의 핵과 상5.1.3. 작용소의 가역성
5.2. 수반 작용소
5.2.1. 수반 작용소의 성질5.2.2. 에르미트 작용소
5.3. 사영
5.3.1. 불변 및 축소 부분공간5.3.2. 사영의 연산
5.4. 컴팩트 작용소
5.4.1. 유한계수 작용소5.4.2. 컴팩트 작용소
5.5. 작용소의 스펙트럼
5.5.1. 스펙트럼의 성질5.5.2. 스펙트럼 정리
6. 예시7. 적용8. 관련 문서

1. 개요

힐베르트 공간(Hilbert space, 힐베르트 , ()Hilbertraum)은 완비성을 갖춘 내적공간이다.

완비성은 공간의 코시열이 수렴하는 성질로, 힐베르트 공간 안에서 극한을 다룰 수 있게 한다. 내적은 두 벡터의 순서쌍에 스칼라 값을 대응시키도록 정의된 반쌍선형 형식으로 힐베르트 공간에 벡터의 크기, 벡터 사이의 거리 및 직교성의 개념을 부여하여 유한차원에서 성립하는 기하적 성질이 무한차원으로 일반화될 수 있게 한다.

즉, 힐베르트 공간은 유클리드 공간에서 성립하는 개념인 원소의 크기, 두 원소 사이의 거리와 직교성 등의 개념을 무한차원으로 일반화한 것이다.

독일의 수학자 다비트 힐베르트와 그의 제자 에르하르트 슈미트가 유클리드 공간의 성질을 제곱 적분 가능 실함수 공간에서 일반화하면서 최초로 무한차원 내적공간이 대두되었고 측도론의 도입과 함께 함수 공간에 대한 이론이 발전하였다. 이후 폰 노이만이 완비 내적공간을 추상적인 형태로 정립하며 이를 힐베르트 공간으로 명명하였다.

힐베르트 공간은 함수해석학, 푸리에 해석, 미분방정식, 양자역학, 제어이론 등 다양한 수학과 과학 분야에서 중요하게 활용된다.

2. 정의

2.1. 내적공간

[math(X)]가 체 [math(\mathbb{K\in\{R,C\}})] 위의 벡터공간일 때, 모든 [math(x,y,z\in X)]와 [math(\alpha,\beta\in\mathbb{K})]에 대하여 다음을 만족시키는 사상 [math(\left<\cdot,\cdot\right>:X\times X\to\mathbb{K})]를 [math(X)]의 반내적(semi-inner product)이라고 한다.
  • [math(\left<\alpha x+\beta y,z\right>=\alpha \left<x,z\right>+\beta \left<y,z\right>)]
  • [math(\left<x,y\right>=\overline{\left<y,x\right>})]
  • [math(\left<x, x\right>\ge 0)]

[math(X)]의 내적(inner product)는 다음을 만족시키는 반내적이다.
  • [math(\left<x, x\right>=0)]이면 [math(x=0)]이다.

벡터공간 [math(X)]가 내적 [math(\left<\cdot,\cdot\right>)]를 갖추었을 때, 범함수 [math(\|\cdot\|:X\to\mathbb{K})]를 [math(\|x\|=\sqrt{\left<x,x\right>})]로 정의하면 범함수 [math(\|\cdot\|)]는 코시-슈바르츠 부등식
[math(|\left<x, y\right>|\le\|x\|\|y\|\quad \forall x, y\in X)]
를 만족시킨다. 극화 항등식
[math(\begin{aligned}\|x+y\|^2&=\left<x+y,x+y\right>\\
&=\|x\|^2+2\operatorname{Re}(\left<x,y\right>)+\|y\|^2,\\
\end{aligned})]
과 등식
[math((\|x\|+\|y\|)^2=\|x\|^2+2\|x\|\|y\|+\|y\|^2)]
및 코시-슈바르츠 부등식에 의해 [math(\|\cdot\|)]은 삼각 부등식을 만족시켜 벡터공간 [math(X)] 위의 노름이다. 따라서 함수 [math(d:X\times X\to[0,\infty))]를
[math(d(x,y)=\|x-y\|)]
로 정의하면 [math(d)]는 벡터공간 [math(X)] 위의 거리함수이다. 이와 같이 내적을 갖춘 벡터공간 [math(X)]는 거리공간으로, 이를 내적공간(예비 힐베르트 공간, inner product space, pre-Hilbert space)라고 한다.

2.2. 힐베르트 공간

체 [math(\mathbb{K})] 위의 힐베르트 공간(Hilbert space) [math(H)]는 완비 내적공간이다. 이는 [math(H)]가 내적을 갖춘 [math(\mathbb{K})]- 바나흐 공간임과 동치이다. [math(X)]가 내적 [math(\left<\cdot,\cdot\right>_X)]를 갖춘 내적공간이고 [math(X)]의 완비화를 [math(H)]라고 할 때, 완비거리공간 [math(H)]를 유도하는 [math(H)]의 내적 [math(\left<\cdot,\cdot\right>_H)]가 존재며, 이는 [math(\left<\cdot,\cdot\right>_X)]의 확장이다. 즉, 힐베르트 공간은 내적공간의 완비화이다.

2.3. 선형 부분공간

체 [math(\mathbb{K})] 위의 힐베르트 공간 [math(H)]의 부분집합 [math(M)]이 모든 [math(x,y\in M)]와 [math(\alpha,\beta\in\mathbb{K})]에 대하여
[math(\alpha x+\beta y \in M)]
를 만족시키면 [math(M)]을 [math(H)]의 선형다양체(linear manifold)라고 하며, [math(H)]의 닫힌 선형다양체를 선형 부분공간(부분공간, linear subspace, subspace)이라고 한다. [math(M)]이 [math(H)]의 선형 부분공간인 경우, [math(M\le H)]로 나타낸다. 힐베르트 공간 [math(H)]의 선형다양체 [math(M)]이 닫힌 공간이 아니면 [math(M)]은 완비성을 갖추지 못해 힐베르트 공간이 아니다. 따라서 힐베르트 공간의 부분공간을 다룰 때에는 완비성을 갖출 수 있도록 닫힌 집합임을 추가로 가정한다.

선형다양체의 정의에서 [math(\alpha=t(0\le t\le1), \beta=1-t)]라 하면 임의의 [math(x, y\in M)]에 대하여 [math(tx+(1-t)y\in M)]이므로 선형다양체와 선형 부분공간은 볼록 집합이다.

[math(X)]의 부분집합 [math(W)]에 대하여 [math(W)]를 포함하는 선형 부분공간의 임의의 교집합은 선형 부분공간이다. 이는 [math(W)]를 포함하는 [math(X)]의 가장 작은 선형 부분공간으로, 이를 [math(\vee W)]로 나타낸다.

2.4. 정규직교기저

내적공간 [math(X)]의 두 원소 [math(x, y)]가 [math(\left<x,y\right>=0)]를 만족시키면 [math(x, y)]는 서로 직교(orthogonal)라 하며, [math(x\perp y)]로 나타낸다. 직교성은 두 벡터 사이에서 뿐만 아니라 벡터와 집합, 집합과 집합 사이에서도 정의된다.
  • [math(X)]의 부분집합 [math(A)]에 대하여 벡터 [math(x)]가 [math(A)]에 속하는 임의의 벡터 [math(y)]와 직교하면 [math(x)]와 [math(A)]는 직교라 하고 [math(x\perp A)]로 나타낸다.
  • [math(X)]의 부분집합 [math(A, B)]와 임의의 [math(x\in A, y\in B)]에 대하여 [math(x)]와 [math(y)]가 직교하면 [math(A)]와 [math(B)]는 직교라 하고 [math(A\perp B)]로 나타낸다.

힐베르트 공간 [math(H)]의 부분집합 [math(A\subseteq H)]에 대하여 다음과 같이 정의된 [math(H)]의 부분집합 [math(A^\perp)]를 [math(A)]의 직교여공간(직교여집합, orthogonal complement)라 한다.
[math(A^\perp=\left\{x\in H:x\perp A\right\})]
직교여공간은 힐베르트 공간 [math(H)]의 부분공간이다.

힐베르트 공간 [math(H)]의 부분집합 [math(E)]의 모든 벡터가 단위 벡터이고 서로 직교하면 [math(H)]는 정규직교(orthonormal) 집합이라고 한다. 정규직교집합 [math(E)]가 [math(\vee E=H)]를 만족시키면 [math(E)]를 [math(H)]의 정규직교기저(기저, orthonormal basis, basis)라고 한다. 힐베르트공간 [math(H)]의 정규직교기저의 기수(cardinality)를 [math(H)]의 차원(dimension)이라 하며, [math(\dim H)]로 나타낸다.

힐베르트 공간의 정규직교기저는 유한차원 벡터공간의 정규직교기저를 일반화한 개념으로, 벡터공간으로서 지니는 하멜 기저와 구분된다. 힐베르트 공간 [math(H)]의 정규직교기저는 일반적으로 벡터공간 [math(H)]로서의 하멜 기저와 같지 않으며, 정규직교기저의 기수는 하멜 기저의 기수보다 작거나 같다. 힐베르트 공간의 기저는 일반적으로 정규직교기저를 지칭하며, 이 문서에서 또한 힐베르트 공간의 기저는 하멜 기저가 아닌 정규직교기저를 의미한다.

2.5. 동형사상

두 힐베르트 공간이 동형(isomorphic)이기 위해서는 두 힐베르트 공간 사이에 선형성과 내적으로부터 유도된 거리 구조를 보존하는 전단사 사상이 존재해야 한다. 여기서 선형성을 보존하는 사상을 선형사상(선형변환, linear map, linear transformation), 거리 구조를 보존하는 사상을 등거리변환(isometry)라 한다. 두 힐베르트 공간 [math(H, K)]사이의 선형사상이 등거리변환이기 위해서는 거리를 유도하는 내적을 보존하는 것만으로 충분하다. 즉, 선형사상 [math(A:H\to K)]가 등거리변환일 필요충분조건은
[math(\left<A(x), A(y)\right>=\left<x,y\right> \quad \forall x, y \in H)]
이다. 선형 등거리변환은 내적을 보존하므로 단사임이 보장되고, 이에 따라 힐베르트 공간 [math(H, K)] 사이의 동형사상(isomorphism)을 전사 선형 등거리변환 [math(U:H\to K)]로 정의한다.
증명
[math((\Rightarrow))] 임의의 [math(x\in H)]에 대하여 [math(\|A(x)\|^2=\|x\|^2)]이므로 [math(A)]는 등거리변환이다.

[math((\Leftarrow))] [math(A)]가 등거리변환이므로 [math(x, y\in H)]와 [math(\alpha\in\mathbb{K})]에 대하여 [math(\|x+\alpha y\|^2=\|A(x)+\alpha A(y)\|^2)]이다. 즉
[math(\|x\|^2+2\operatorname{Re}\overline{\alpha}\left<x,y\right>+|\alpha|^2\|y\|=\|A(x)\|^2+2\operatorname{Re}\overline{\alpha}\left<A(x),A(y)\right>+|\alpha|^2\|A(y)\|)]
이다. [math(\|A(x)\|=\|x\|, \|A(y)\|=\|y\|)]이므로 위 등식은 [math(\operatorname{Re}\overline{\alpha}\left<x,y\right>=\operatorname{Re}\overline{\alpha}\left<A(x),A(y)\right>)]이다. [math(\alpha=1)]이면 [math(\operatorname{Re}\left<x,y\right>=\operatorname{Re}\left<A(x),A(y)\right>)] 이고, [math(\alpha=i)]이면 [math(\operatorname{Im}z=\operatorname{Re}(-iz))]에 따라 [math(\operatorname{Im}\left<x,y\right>=\operatorname{Im}\left<A(x),A(y)\right>)]이다. 즉, 두 내적의 각 실수부와 허수부가 서로 같으므로 [math(A)]는 내적을 보존한다.

3. 연산

3.1. 직합

두 힐베르트 공간 [math(H, K)]에 대하여 벡터공간으로서의 직합 [math(H\oplus K)]에 다음과 같은 내적을 부여하여 힐베르트 공간의 직합을 구성할 수 있다.
[math(\left<x_1\oplus y_1,x_2\oplus, y_2\right>=\left<x_1,x_2\right>_{H}+\left<y_1,y_2\right>_K)]
힐베르트 공간의 직합은 유한합 뿐만 아니라 임의의 합에서도 정의 가능하다. 힐베르트 집합렬 [math(\{H_n\}_{n=1}^\infty)]에 대하여 벡터공간 [math(H)]를
[math(\displaystyle {H=\left\{(x_n)_{n=1}^\infty:x_n\in H_n,\ \sum_{n=1}^\infty \|x_n\|_{H_n}^2<\infty\right\}})]
라 하자. [math(x=(x_n)_{n=1}^\infty, y=(y_n)_{n=1}^\infty\in H)]에 대하여
[math(\displaystyle\left<x,y\right>=\sum_{n=1}^\infty \left<x_n, y_n\right>_{H_n})]
라 하면 [math(\left<\cdot,\cdot\right>)]는 [math(H)]의 내적이며, 내적공간 [math(H)]는 힐베르트 공간이다.
증명
[math(x=(x_n)_{n=1}^\infty, y=(y_n)_{n=1}^\infty\in H)]에 대하여 코시-슈바르츠 부등식에 의해
[math(\displaystyle\sum_{n=1}^\infty|\left<x_n, y_n\right>_{H_n}|\le \sum_{n=1}^\infty\|x_n\|_{H_n}\|y_n\|_{H_n}\le\left(\sum_{n=1}^\infty \|x_n\|_{H_n}^2\right)^{1/2}\left(\sum_{n=1}^\infty \|y_n\|_{H_n}^2\right)^{1/2}<\infty)]
이므로 [math(\left<x,y\right>)]는 절대수렴하여 내적의 조건을 만족시킨다. [math(H)]의 코시열 [math(\{x_k\}_{k=1}^\infty)]에 대하여 [math(x_k=(x_{n,k})_{n=1}^\infty)]라 할 때, 각 [math(n\in\mathbb{N})]에 대하여
[math(\displaystyle\|x_{n,k}-x_{n,l}\|^2_{H_n}\le\sum_{n=1}^\infty\|x_{n,k}-x_{n,l}\|_{H_n}^2)]
이므로 [math(k, l\to\infty)]에 따라 [math(\|x_{n,k}-x_{n,l}\|_{H_n}\to 0)]이다. 따라서 [math(\{x_{n,k}\}_{k=1}^\infty)]는 [math(H_n)]의 코시열이고 극한 [math(x_n)]을 갖는다. [math(H)]의 코시열 [math(\{x_k\}_{k=1}^\infty)]가 [math(x=(x_n)_{n=1}^\infty)]로 수렴함을 보인다. [math(\{x_k\}_{k=1}^\infty)]가 코시열이므로 임의의 [math(\epsilon>0)]에 대하여 [math(K<k, l)]일 때
[math(\displaystyle\sum_{n=1}^\infty\|x_{n, k}-x_{n, l}\|_{H_n}<\epsilon)]
을 만족시키는 [math(K>0)]가 존재한다. 임의의 [math(N)]에 대하여
[math(\displaystyle\sum_{n=1}^N\|x_{n, k}-x_{n, l}\|_{H_n}\le{\sum_{n=1}^\infty\|x_{n, k}-x_{n, l}\|_{H_n}}<\epsilon)]
이고, [math(l\to\infty)]에 따라 [math(x_{n,l}\to x_n)]이므로
[math(\displaystyle\sum_{n=1}^N\|x_{n, k}-x_n\|_{H_n}<\epsilon)]
이다. [math(N)]은 임의의 자연수이므로 [math(N\to\infty)]에 따라 [math(\|x_{k}-x\|_H<\epsilon)]을 얻는다.

힐베르트 공간 [math(H)]의 두 부분공간 [math(M, N)]이 서로 직교하면 [math(M\oplus N)]은 [math(M\vee N)]과 동형사상 [math(U(x\oplus y)=x+y)]에 의해 동형이다. 이를 일반화하여 힐베르트 공간 [math(H)]의 쌍마다 직교하는 부분공간열 [math(\{M_i\})]에 대하여 [math(\bigoplus_i M_i:=\bigvee_i M_i)]로 정의한다. 또한 두 부분공간 [math(M, N)]에 대하여 [math(M\ominus N:=M\cap N^\perp)]로 정의한다.

3.2. 텐서곱

두 [math(\mathbb{K})]-힐베르트 공간 [math(H, K)]에 대하여
[math(\displaystyle\mathcal{F}(H,K)=\left\{\sum_{k=1}^n\alpha_k(x_k, y_k):(x, y)\in H\times K, \alpha_k\in\mathbb{K}\right\})]
라 하자. 즉, [math(\mathcal{F}(H, K))]는 곱집합 [math(H\times K)]의 원소의 유한 선형결합 집합이다. 또한 집합 [math(\mathcal{N}(H,K))]를
[math(\displaystyle\mathcal{N}(H,K)=\operatorname{span}\left\{\sum_{k,l=1}^n\alpha_k\beta_l(x_k, y_l)-\left(\sum_{k=1}^n\alpha_k x_k, \sum_{l=1}^n\beta_k y_k\right)\right\})]
할 때, [math(H\otimes K=\mathcal{F}(H, K)/\mathcal{N}(H, K))]라 하고 [math(x\in H, y\in K)]에 대하여 [math(x\otimes y)]를 [math((x, y))]의 [math(H\otimes K)]에서 동치류라 하자. [math(H\otimes K)] 위에 대칭 반쌍선형 형식 [math(\left<\cdot, \cdot\right>)]을
[math(\left<x_1\otimes y_1,x_2\otimes y_2 \right>=\left<x_1,x_2\right>_H\left<y_1,y_2\right>_K)]
로 정의하면 [math(\left<\cdot, \cdot\right>)]는 [math(H\otimes K)]의 내적이다.

두 힐베르트 공간 [math(H, K)]의 기저가 각각 [math(\{e_k\}, \{f_l\})]일 때, [math(H, K)]의 텐서곱 [math(H\otimes K)]의 기저는 [math(\{e_k\otimes f_l\})]이다.

4. 성질

4.1. 내적공간의 성질

[math(\mathbb{K})]-힐베르트 공간 [math(H)]의 내적 [math(\left<\cdot,\cdot\right>:H\times H\to \mathbb{K})]는 연속사상이다. 즉, 내적은 [math(H)]의 그물의 수렴성을 보존한다.

피타고라스 정리는 내적공간에서 일반화된다. 내적공간 [math(X)]의 벡터 [math(x_1, \ldots, x_n)]이 쌍마다 직교하면 다음이 성립한다.
[math(\displaystyle\left\|\sum_{k=1}^n x_k \right\|^2=\sum_{k=1}^n \|x_k\|^2)]
유클리드 평면에서 성립하는 평행사변형 법칙 또한 내적공간에서 일반화된다. 내적공간 [math(X)]의 벡터 [math(x, y\in X)]에 대하여 다음이 성립한다.
[math(2(\|x\|^2+\|y\|^2)=\|x+y\|^2+\|x-y\|^2)]
평행사변형 법칙은 노름이 내적으로부터 유도되었음을 판별하는 필요충분조건이다. 즉, 평행사변형 법칙을 만족시키는 노름공간은 내적공간이다.

4.2. 부분공간의 성질

4.2.1. 부분공간의 생성

힐베르트 공간 [math(H)]의 부분집합 [math(W\subseteq H)]에 대하여 [math(W)]로 생성된 선형 부분공간은 [math(W)]로 생성된 선형다양체의 완비화와 같다. 즉, [math(W(\ne\varnothing)\subseteq H)]에 대하여 [math(M=\bigvee W, N=\operatorname{span}W)]라 하면 [math(M=\overline{N})]이다.
증명
[math(W\subseteq N)]이고 [math(M)]은 [math(W)]를 포함하는 최소 선형 부분공간이므로 [math(M\subseteq\overline{N})]이다. 반대로 [math(M)]은 선형다양체이므로 [math(N \subseteq M)]이다. [math(M)]은 닫힌집합이므로 [math(\overline{N}\subseteq M)]이다.

4.2.2. 거리 최소원의 존재

힐베르트 공간의 부분공간은 임의의 벡터와 그 부분공간의 거리가 최소가 되도록 하는 원소를 갖는다. 이는 힐베르트 공간의 완비성으로부터 유도되는 것으로, 내적공간과 힐베르트 공간을 구분짓는 성질이다. [math(K)]가 힐베르트 공간 [math(H)]의 공집합이 아닌 닫힌 볼록 집합이면 임의의 [math(x\in H)]에 대하여 [math(\|x-y\|=d(x, K))]를 만족시키는 유일한 [math(y\in K)]가 존재한다. 여기서 부분집합 [math(A\subseteq H)]에 대하여 [math(d(x, A)=\inf\{\|x-a\|:a\in A\})]이다.
증명
[math(D=d(x, a))]라 하면 [math(\|x-y_n\|\to D)]인 [math(K)]의 열 [math(\{y_n\})]이 존재한다. [math(K)]는 볼록집합이므로
[math(\dfrac{y_n+y_m}{2}\in K)], [math(\left\|x-\dfrac{y_n+y_m}{2}\right\|\ge D)]
이다. 평행사변형 법칙에 의해
[math(\displaystyle
\|y_n-y_m\|^2=\|(y_n-x)-(y_m-x)\|^2\\
=2(\|y_n-x\|^2+\|y_m-x\|^2)-4\left\|x-\dfrac{y_n+y_m}{2}\right\|^2
)]
이므로 [math(n, m\to\infty)]에 따라 [math(\|y_n-y_m\|\to0)]으로 [math(\{y_n\})]은 코시열이다. [math(H)]가 힐베르트 공간, [math(K)]가 [math(H)]의 닫힌 부분집합이므로 [math(\{y_n\})]의 극한 [math(y)]가 [math(K)]에 존재한다. 삼각 부등식에 의해
[math(\begin{aligned}
\|x-y_n\|&=\|x-y+y-y_n\|\\
&\le\|x-y\|+\|y-y_n\|
\end{aligned})]
이므로 [math(n\to\infty)]에 따라 [math(\|x-y_n\|\to D)]로, [math(\|x-y\|=D)]이다. [math(y^\prime(\ne y))]을 [math(\|x-y^\prime\|=D)]인 [math(K)]의 벡터라 하자. [math(K)]는 볼록집합이므로 [math({(y+y^\prime)/2\in K})]이고, 평행사변형 법칙에 의해
[math(\displaystyle\begin{aligned}
&\left\|\frac{y+y^\prime}{2}\right\|^2\\
<&\frac{1}{4}(\|2x-(y+y^\prime)\|^2+\|y-y^\prime\|^2)\\
=&\frac{1}{2}(\|x-y\|^2+\|x-y^\prime\|^2)\\
=&D^2
\end{aligned})]
으로, [math(\|x-(y+y^\prime)/2\|<D)]이다. 이는 [math(\|x-(y+y^\prime)/2\|\ge D)]에 모순으로, [math(y=y^\prime)]이다.
선형 부분공간은 닫힌 볼록 집합이므로 위 성질을 만족시키며, 직교성과 관련된 성질이 추가로 성립한다. 힐베르트 공간 [math(H)]의 선형 부분공간 [math(M)]과 벡터 [math(x\in H)]에 대하여 [math(y_0)]가 [math(d(x, M)=\|x-y_0\|)]를 만족시키는, [math(M)]의 유일한 벡터일 필요충분조건은 [math(x-y_0\perp M)]이다.
증명
[math((\Rightarrow))] [math(y\in M)]에 대하여 [math(y+y_0\in M)]이므로 삼각부등식에 의해
[math(\begin{aligned}
&\|x-y_0\|^2\\
&\le\|x-(y+y_0)\|^2\\
&=\|(x-y_0)-y\|^2\\
&=\|x-y_0\|^2-2\operatorname{Re}\left<x-y_0,y\right>+\|y\|^2
\end{aligned})]
이므로 임의의 [math(y\in M)]에 대하여
[math(2\operatorname{Re}\left<x-y_0,y\right>\le \|y\|^2\quad\cdots(*))]
이다. [math(\left<x-y_0,y\right>=re^{i\theta}(r\ge0))]인 [math(\theta)]에 대하여 [math(te^{i\theta}y\in M)]에 부등식 [math((*))]를 적용하면 부등식의 좌변은
[math(2\operatorname{Re}\left<x-y_0,te^{i\theta}y\right>=2\operatorname{Re}(te^{-i\theta}\left<x-y_0,y\right>)=2\operatorname{Re}(te^{-i\theta}re^{i\theta})=2tr)]
이고 부등식의 우변은 [math(t^2 \|y\|^2)]으로,
[math(2tr\le t^2\|y\|^2)]
을 얻는다. [math(t\to 0)]에 따라 [math(r=0)]이므로 [math(\left<x-y_0,y\right>=0)], 즉 [math(x-y_0\perp y)]이다. [math(y)]는 [math(M)]의 임의의 벡터이므로 [math(x-y_0\perp M)]이다.

[math((\Leftarrow))] 임의의 [math(y\in M)]에 대하여 [math(y_0-y\in M)]이므로 [math(x-y_0\perp y_0-y)]이다. 따라서 피타고라스 정리에 의해
[math(\begin{aligned}
\|x-y\|^2&=\|(x-y_0)+(y_0-y)\|^2\\
&=\|x-y_0\|^2+\|y_0-y\|^2\\
&\ge\|x-y_0\|^2\end{aligned})]
이다. 즉, [math(\|x-y_0\|=d(x, M))]이다.

4.2.3. 직교 여집합 및 정사영

[math(\mathbb{K})]-힐베르트 공간 [math(H)]의 공집합이 아닌 부분집합 [math(A)]에 대하여 [math(A^\perp)]은 [math(H)]의 선형부분공간이다. 임의의 [math(x, y\in A^\perp, a\in A)]와 [math(\alpha, \beta\in\mathbb{K})]에 대하여
[math(\left<\alpha x+\beta y, z\right>=\alpha\left<x, z\right>=\beta\left<y,z\right>=0)]
이므로 [math(A^\perp)]는 [math(H)]의 선형다양체이다. 또한 [math(\{x_n\})]을 [math(x)]로 수렴하는 [math(A^\perp)]의 열이라고 하면 내적은 연속사상이므로 임의의 [math(a\in A)]에 대하여
[math(\displaystyle\left<x, a\right>=\left<\lim_{n\to\infty}x_n,a\right>=\lim_{n\to\infty}\left<x_n,y\right>=0)]
이므로 [math(x\in A^\perp)]이다. 즉, [math(A^\perp)]는 닫힌집합이다.

힐베르트 공간 [math(H)]의 부분집합 [math(A, B\subseteq H)]에 대하여 다음이 성립한다.
  1. [math(A\cap A^\perp=\{0\})]
  2. [math(A\subseteq (A^\perp)^\perp)]
  3. [math(A\subseteq B \Rightarrow A^\perp\supseteq B^\perp)]
  4. [math(A^\perp=((A^\perp)^\perp)^\perp)]
증명
  1. [math(x\in A\cap A^\perp=\varnothing)]라 하면 [math(\left<x, x\right>=0)]이므로 내적의 정의에 의해 [math(x=0)]이다.
  2. 임의의 [math(x\in A, y\in A^\perp)]에 대하여 [math(\left<x, y\right>=0)]이므로 [math(x\in (A^\perp)^\perp)]로 [math(A\subseteq(A^\perp)^\perp)]이다.
  3. [math(a\in A, b\in B^\perp)]에 대하여 [math(a\in B)]이므로 [math(\left<a, b\right>=0)]이다. 따라서 [math(b\in A^\perp)]로, [math(B^\perp\subseteq A^\perp)]이다.
  4. [math(A^\perp)]에 대하여 (a)를 적용하면 [math(A^\perp\subseteq((A^\perp)^\perp)^\perp)]이다. [math(A\subseteq (A^\perp)^\perp)]에 (b)를 적용하면 [math(A^\perp\supseteq((A^\perp)^\perp)^\perp)]이다. 따라서 [math(A^\perp=((A^\perp)^\perp)^\perp)]이다.
특히, 부분공간 [math(M\le H)]에 대하여 [math((M^\perp)^\perp=M)]이며, [math(M+M^\perp=H)]이다.
증명
[math(M\subsetneq (M^\perp)^\perp)]라고 가정하면 [math(x\in (M^\perp)^\perp\setminus M)]에 대하여 [math(x-y_0\perp M)]인 [math(y_0\in M\subset(M^\perp)^\perp(y\ne0))]이 존재한다. [math(x-y_0\in(M^\perp)^\perp)]이므로 [math(M^\perp\cap(M^\perp)^\perp\ne\{0\})]이다. 이는 모순으로, [math(M= (M^\perp)^\perp)]이다.

[math(H)]의 두 부분공간 [math(M, N)]에 대하여 [math(M+N)]이 닫혀있음을 보인다. [math(M+N)]의 벡터열 [math(\{z_n\})]에 대하여 [math(z_n=x_n+y_n, x_n\in M, y_n\in N)]이라 하자. [math(\{z_n\})]이 [math(z\in H)]로 수렴한다고 하면 피타고라스 정리에 의해 [math(\|z_n-z_m\|^2=\|x_n-x_m\|^2+\|y_n-y_m\|^2)]이고 [math(\{z_n\})]이 코시열이므로 [math(\{x_n\}, \{y_n\})]은 각각 부분공간 [math(M, N)]의 코시열로 [math(x\in M, y\in N)]으로 수렴한다. 따라서 [math(z_n=x_n+y_n\to x+y\in M+N)]이다. 따라서 [math(M+N)]은 닫힌 집합이다.

부분공간 [math(M)]에 대하여 [math(M+M^\perp=N)]이라 하면 [math(N)]은 닫한집합이다. [math(M, M^\perp\subseteq N)]이므로 [math(N^\perp\subseteq M^\perp, N^\perp\subseteq M=(M^\perp)^\perp)]이다. 따라서 [math(N^\perp=\{0\})]으로, [math(N=H)]이다.

일반 집합의 여집합에 대한 드 모르간의 법칙과 유사한 성질이 직교 여집합에도 존재한다. 힐베르트 공간 [math(H)]의 부분공간들의 집합 [math(\{M_i:i\in I\})]에 대하여 다음이 성립한다.
[math(\displaystyle{\bigcap_{i\in I} M_i^\perp=\left(\bigvee_{i\in I}M_i\right)^\perp},\quad
{\left(\bigcap_{i\in I} M_i\right)^\perp=\bigvee_{i\in I}M_i^\perp})]
증명
임의의 [math(y\in\bigvee_{i\in I}M_i)]에 대하여 [math(\{y_n\})]을 [math(y)]로 수렴하는 [math(\bigcup_{i\in I}M_i)]의 벡터열이라 하자. 임의의 [math(x\in\bigcap_{i\in I} M_i^\perp)] 및 [math(i\in I)]대하여 [math(x\perp M_i)]이므로 각 [math(n\in\mathbb{N})]에 대하여 [math(\left<x, y_n\right>=0)]이다. 내적은 연속사상이므로 [math(\displaystyle\left<x, y\right>=0)]이다. 따라서 [math(\bigcap_{i\in I} M_i^\perp\subseteq\left(\bigvee_{i\in I}M_i\right)^\perp )]이다. 반대로 [math(x)]를 [math(\left(\bigvee_{i\in I}M_i\right)^\perp)]의 임의의 벡터라 하자. 임의의 [math(i\in I)]에 대하여 [math(M_i\subseteq\bigvee_{i\in I}M_i )]이므로 [math(x \perp M_i)]이다. 즉, [math(x\in \bigcap_{i\in I}M_i^\perp)]으로 [math(\bigcap_{i\in I} M_i^\perp\supseteq\left(\bigvee_{i\in I}M_i\right)^\perp)]이다. 두 번째 식 또한 같은 방법으로 증명한다.

유클리드 공간에서 성립하는 직교 정사영에 대한 성질은 힐베르트 공간의 부분공간에 대하여 일반화된다. [math(\mathbb{K})]- 힐베르트 공간 [math(H)]의 부분공간 [math(M)]과 [math(x\in M^c)]에 대하여 [math(x-y_0\perp M)]인 [math(y_0\in M)]가 유일하게 존재하므로 대응 [math(P_M:H\to M, P_M(x)=y_0)]는 사상이다. 이를 [math(H)]에서 [math(M)] 위로의 직교 정사영(orghogonal projection)이라 한다. 직교 정사영은 다음과 같은 성질을 갖는다.
  1. [math(P_M)]은 [math(H)]의 선형변환이다.
  2. 임의의 [math(x\in H)]에 대하여 [math(\|P_M(x)\|\le\|x\|)]이다.
  3. [math(P_M\circ P_M=P_M)]이다.
  4. [math(\ker P_M=M^\perp, \operatorname{Im} P_M=M)]이다.
증명
a. 임의의 [math(x, y\in H, \alpha, \beta\in \mathbb{K})]에 대하여 [math(P_M(x)=z_x, P_M(y)=z_y)]라 하면 임의의 [math(z\in M)]에 대하여
{{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
[math(\left<(\alpha x+\beta y)-(\alpha z_x+\beta z_y) , z\right>=\alpha\left<x-z_x,z\right>+\beta\left<y-z_y,z\right>=0)]
}}}이므로 [math((\alpha x+\beta y)-(\alpha z_x+\beta z_y)\perp M)]이다. 따라서
{{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
[math(P_M(\alpha x+\beta y)=\alpha z_x+\beta z_y=\alpha P_M(x)+\beta P_M(y))]
}}}로, [math(P_M)]은 선형변환이다.
  1. [math(x\in H)]에 대하여 [math(x=(x-P_M(x))+P_M(x))]이고 [math(P_M(x)\in M, x-P_M(x)\in M^\perp)]이므로 피타고라스 정리에 의해
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(\|x\|^2=\|x-P_M(x)\|^2+\|P_M(x)\|^2\ge\|P_M(x)\|^2)]
    }}}이다.
  2. [math(y\in M)]이면 [math(P_M(y)=y)]이므로 임의의 [math(x\in H)]에 대하여 [math(y=P_M(x))]라 하면 [math((P_M\circ P_M)(x)=P_M(y)=y=P_M(x))]이다.
  3. 임의의 [math(x\in \ker P^M)]와 [math(y\in M)]에 대하여 [math( \left<x-P_M(x), y\right>=0)]에서
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(\left<x,y\right>-\left<P_M(x),y\right>=\left<x, y\right>=0)]}}}이므로 [math(x\in M^\perp)]이다. 반대로, 임의의 [math(x\in M^\perp)]와 [math(y\in M)]에 대하여 [math( \left<x-P_M(x), y\right>=0)]에서
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(\left<x,y\right>-\left<P_M(x),y\right>=-\left<P_M(x), y\right>=0)]}}}이므로 [math(x\in \ker P_M)]이다. 따라서 [math(M^\perp = \ker P_M)]이다.

4.3. 정규직교기저의 성질

4.3.1. 정규직교집합과 기저

모든 벡터공간은 극대 선형 독립 집합인 하멜 기저를 갖는다. 힐베르트 공간은 하멜 기저뿐만 아니라 직교성을 이용해 정의되는 정규직교기저를 가지며, 특히 무한차원 힐베르트 공간에서 하멜기저와 정규직교기저는 서로 구분된다. 힐베르트 공간에서의 기저는 정규직교기저를 칭한다.

힐베르트 공간 [math(H)]의 기저의 존재성은 그람-슈미트 직교화 과정(Gram-Schmidt orthgonalization process)과 초른의 보조정리를 이용해 밝힐 수 있다. 그람-슈미트 직교화 과정을 통하여 가산 선형독립 집합[math(\{x_n:n\in\mathbb{N}\})]에서 정규직교집합 [math(\{e_n:n\in\mathbb{N}\})]을 구성한다. [math(E_0\subset H)]가 정규직교집합일 때, [math(E_0)]를 포함하는 정규직교집합의 족을 [math(\mathcal{E})]라 하면 [math(\mathcal{E})]는 집합의 포함관계를 부분순서로 갖는다. [math(\mathcal{E})]의 전순서 부분족 [math(\mathcal{F})]는 [math(\bigcup_{F\in\mathcal{F}}F)]를 상계로 가지므로 초른의 보조정리에 의해 [math(\mathcal{E})]는 극대원 [math(E)]를 갖는다. [math(E)]가 극대 정규직교집합이므로 [math(E^\perp=\{0\})]이다. [math(E\subset \vee E)]이므로 [math(E^\perp \supset (\vee E)^\perp)]로 [math((\vee E)^\perp=\{0\})]이다. [math(\vee E +(\vee E)^\perp =H)]이므로 [math(\vee E =H)]이다. 즉, [math(E)]는 [math(H)]의 기저이다.

베셀 부등식(Bessel's inequality)는 힐베르트 공간의 기저의 성질을 설명하는 데에 유용하게 활용된다. 정규직교집합 [math(\{e_n:n\in\mathbb{N}\})]과 [math(x\in H)]에 대하여 다음이 성립한다.
[math(\displaystyle\sum_{n=1}^\infty |\left<x,e_n\right>|^2\le\|x\|^2)]
증명
[math(x_n=x-\sum_{k=1}^n\left<x,e_k\right>e_k)]라 하면 각 [math(1\le l\le n)]에 대하여
[math(\displaystyle\begin{aligned}\left<x_n,e_l\right>&=\left<x,e_l\right>-\sum_{k=1}^n\left<\left<x,e_k\right>e_k, e_l\right>\\
&=\left<x,e_l\right>-\sum_{k=1}^{n}(\left<x,e_k\right>\left<e_k,e_l\right>)\\
&=\left<x,e_l\right>-\left<x,e_l\right>\left<e_l,e_l\right>\\
&=\left<x,e_l\right>-\left<x,e_l\right>\cdot1\\
&=0\end{aligned})]
이므로 [math(x_n\perp e_l)]이다. 따라서 피타고라스 정리에 의해
[math(\displaystyle\begin{aligned}
\|x\|^2&=\|x_n\|^2+\left\|\sum_{k=1}^n \left<x,e_k\right>e_k\right\|^2\\
&=\|x_n\|^2+\sum_{k=1}^n|\left<x,e_k\right>|^2\\
&\ge \sum_{k=1}^n |\left<x,e_k\right>|^2
\end{aligned})]
이다. 따라서 [math(n\to\infty)]에 따라 위 명제가 성립한다.

베셀 부등식에 따라 힐베르트 공간 [math(H)]의 벡터 [math(x\in H)]와 정규직교집합 [math(E)]에 대하여 [math(\left<x, e\right>\ne 0)]을 만족시키는 [math(e\in E)]의 기수는 최대 가산이며, 따라서 임의의 기수를 갖는 정규직교집합 [math(E)]에 대하여 [math(\sum_{e\in E}\left<x,e\right>^2 \le \|x\|^2)]이 성립한다. 이때 비가산 기수의 정규직교집합 [math(E)]에 대하여 [math(\sum_{e\in E}\left<x, e\right>)]는 포함관계에 대한 유향집합 [math(\mathcal{F}=\{F\subset E:|F|<\infty\})]에 대하여 [math(x_F=\sum_{k\in F} x_k)]로 정의된 그물 [math(\{x_F\}_{F\in\mathcal{F}})]의 극한을 뜻한다. 이에 따라 그물 [math(\sum_{e\in E}\left<x,e\right>e)]는 수렴한다.
증명
각 자연수 [math(n)]에 대하여 [math(E_n=\{e\in E : |\left<x,e\right>|\ge n^{-1}\})]이라 할 때, [math(|E_n|=\infty)]이면 [math(\sum_{e\in E_n}|\left<x,e\right>|^2)]이 발산하여 베셀 부등식에 모순이므로 [math(|E_n|<\infty)]이다. [math(\{e\in E:\left<x,e\right>\ne0\}=\bigcup_{n=1}^\infty E_n)]이므로 [math(\{e\in E:\left<x,e\right>\ne0\})]의 기수는 최대 가산이다.

[math(x\in H)]에 대하여 [math(\{e_1, e_2, \ldots\}=\{e\in E:\left<x,e\right>\ne0\})]이라 하자. [math(\sum_{n=1}^\infty |\left<x, e_n\right>|^2\le \|x\|^2<\infty)]이므로 임의의 [math(\epsilon>0)]에 대하여 [math(\sum_{n=N}^\infty |\left<x, e_n\right>|^2<\epsilon^2)]을 만족시키는 [math(N\in\mathbb{N})]이 존재한다. [math(F_0=\{e_1,\ldots,e_{N-1}\})]에 대하여 [math(F, G\in\mathcal{F})]가 모두 [math(F_0)]를 포함하는 유한집합이면 [math(K=F\triangle G)]라 할 때,
[math(\displaystyle\begin{aligned}\|x_F-x_G\|&=\sum_{e\in K}|\left<x,e\right>|^2\\
&\le \sum_{n=N}^\infty |\left<x, e_n\right>|^2\\
&<\epsilon^2
\end{aligned})]
이다. 따라서 [math(\{x_F\}_{F\in\mathcal{F}})]는 [math(H)]의 코시 그물이고 [math(H)]는 완비공간이므로 [math(\sum_{e\in E}\left<x, e\right>)]는 수렴한다. 특히, [math(F_0\subseteq F)]일 때,
[math(\displaystyle\left\|x_F-\sum_{n=1}^\infty \left<x,e_n\right>e_n\right\|^2\le\sum_{n=N}^\infty|\left<x,e_n\right>|^2)]
이므로 [math(\sum_{e\in E}\left<x,e\right>e)]는 [math(\sum_{n=1}^\infty\left<x,e_n\right>e_n)]으로 수렴한다.

힐베르트 공간 [math(H)]의 정규직교집합 [math(E)]에 대하여 다음은 서로 동치다.
  1. [math(E)]는 [math(H)]의 기저이다. 즉, [math(\vee E =H)]이다.
  2. [math(x\in H)]에 대하여 [math(x\perp E)]이면 [math(x=0)]이다.
  3. (Fourier-Bessel expansion) [math(x\in H)]에 대하여 [math(x=\sum_{e\in E}\left<x, e\right>e)]이다.
  4. [math(x, y\in H)]에 대하여 [math(\left<x, y\right>=\sum_{e\in E}\left<x, e\right>\left<e, y\right>)]이다.
  5. (Parseval's identity) [math(x\in H)]에 대하여 [math(\|x\|^2=\sum_{e\in E}|\left<x, e\right>|^2)]
  6. [math(E)]는 [math(H)]의 극대 정규직교집합이다.
증명
[math((\text{a.}\Rightarrow\text{b.}))] [math(y\in E^\perp)]에 대하여 [math(A:H\to H)]를 [math(A(x)=\left<x, y \right>)]로 정의하면 [math(A(E)=\{0\})]이다. 내적은 연속사상이고 [math(E)]는 조밀하므로 [math(A(H)=\{0\})]이다. 즉, [math(y\in H^\perp)]로, [math(y=0)]이다.

[math((\text{b.}\Rightarrow\text{c.}))] [math(y=x-\sum_{e\in E}\left<x,e\right>e)]라 하자. [math(\left<x,e_m\right>\ne0)]인 각 [math(e_m\in E(m=1, 2, \ldots))]에 대하여 [math(\left<y,e_m\right>=\left<x,e_m\right>-\left<\sum_{e\in E}\left<x,e\right>e,e_m\right>)]이고
[math(\displaystyle\begin{aligned}\left<\sum_{e\in E}\left<x,e\right>e,e_m\right>&=\left<\sum_{n=1}^\infty\left<x,e_n\right>e_n,e_0\right>\\
&=\sum_{n=1}^\infty(\left<x,e_n\right>\left<e_n,e_m\right>)\\
&=\left<x,e_m\right>\end{aligned}
)]
이므로 [math(\left<y, e_m\right>=0)]이다. 또한 [math(e_0\in E)]에 대하여 [math(\left<x,e_0\right>=0)]인 경우 [math(\left<\sum_{n=1}^\infty\left<x,e_n\right>e_n,e_0\right>=0)]이므로 [math(\left<y,e_0\right>=0)]으로 [math(y\in E^\perp)]이다. 즉, [math(x=\sum_{e\in E}\left<x,e\right>e)]이다.

[math((\text{c.}\Rightarrow\text{d.}))] [math(x, y\in X)]에 대하여 [math(x=\sum_{e\in E}\left<x,e\right>e)]이고 사상 [math(x\to\left<x, y\right>)]는 선형 연속이므로 [math(\left<x,y\right>=\left<\sum_{e\in E}\left<x, e\right>e,y\right>=\sum_{e\in E}\left<x, e\right>\left<e, y\right>)]이다.

[math((\text{d.}\Rightarrow\text{e.}))] [math(\|x\|^2=\left<x, x\right>)]에서 유도된다.

[math((\text{e.}\Rightarrow\text{f.}))] [math(E)]가 극대 정규직교집합이 아니라고 가정하면 [math(e_0\perp E)]인 단위벡터 [math(e_0\in H)]가 존재한다. [math(\text{e.})]에 의해 [math(\|e_0\|^2=0)]이므로 이는 모순이다. 따라서 [math(E)]는 극대 정규직교집합이다.

[math((\text{f.}\Rightarrow\text{a.}))] 상술한 기저의 존재성 증명 참조.

4.3.2. 차원과 동형

유한차원의 경우처럼 힐베르트 공간의 기저들은 동일한 기수를 가지며, 이 성질을 이용하여 힐베르트 공간의 차원을 기저의 기수로 정의한다. 힐베르트 공간의 기저는 조밀한 집합이므로 힐베르트 공간이 분리 가능 공간일 필요충분조건은 기저의 기수가 가산인 것이다.
증명
힐베르트 공간 [math(H)]에 대하여 [math(E, F)]를 [math(H)]의 두 기저라 하자. [math(\zeta=\operatorname{card}E, \eta=\operatorname{card}F)]라 하면 [math(\zeta, \eta<\infty)]일 때 [math(E, F)]는 하멜 기저를 이루므로 [math(\zeta=\eta)]이다. [math(\zeta, \eta)]가 무한할 때 각 [math(e\in E)]에 대하여 [math(F_e=\{f\in F:\left<e,f\right>\ne0\})]이라 하면 [math(F_e)]는 가산이다. 각 [math(f)]에 대하여 [math(f\in F_e)]인 [math(e\in E)]가 적어도 하나 존재하므로 [math(F=\bigcup_{e\in E}F_e)]이다. 따라서 [math(\eta \le \zeta \cdot \aleph_0=\zeta)]이고 같은 방법으로 [math(\zeta \le \eta)]이다. 따라서 [math(\eta=\zeta)]이다.

무한차원 힐베르트 공간 [math(H)]의 유한차원 선형다양체 [math(W)]는 부분공간을 이룬다.
증명
[math(W)]가 유한차원이므로 정규직교기저 [math(B_0=\{e_1,\ldots e_m\})]을 갖는다. [math(B_0)]를 포함하는 [math(H)]의 기저를 [math(B=\{e_i\}_{i\in I})]라 하자. [math(W)]의 점렬 [math(\{x_n\}_{n=1}^\infty)]이 [math(x\in H)]로 수렴한다고 하자. 임의의 [math(e_i\in B\setminus B_0)]에 대하여 [math(E_iw=\left<w, e_i\right>)]라 하면 내적은 극한을 보존하므로 [math(E_ix=\lim_{n\to\infty}\left<x_n,e_i\right>=0)]이다. 따라서 [math(x\in W)]이다.

유한차원과 마찬가지로 두 힐베르트 공간이 동형일 필요충분조건은 두 힐베르트 공간이 동일한 차원을 갖는 것이다. 즉, 힐베르트 공간은 각 차원마다 (동형으로서)유일하다. 특히, 임의의 힐베르트 공간은 그 기저 [math(E)]에 대하여 [math(l^2(E))]와 동형이다.
증명
[math((\Rightarrow))] 힐베르트 공간 [math(H, K)]에 대하여 [math(U:H\to K)]를 동형사상, [math(E)]를 [math(H)]의 기저라 하자. [math(F=U(E))]라 하면 각 [math(A(e), A(e^\prime)\in F)]에 대하여 [math(\|A(e)\|=\|e\|=1)]이고 [math(\left<A(e),A(e^\prime)\right>=\left<e, e^\prime\right>=0)]이므로 [math(A(E))]는 정규직교집합이다. 또한 [math(A(f)\in A(H)^\perp)]라 하면 임의의 [math(A(e)\in A(E))]에 대하여 [math(0=\left<A(e), A(f)\right>=\left<e, f\right>)]이므로 [math(f=0)]으로, [math(A(f)=0)]이다. 즉, [math(A(E)^\perp=\{0\})]으로 [math(A(E))]는 [math(K)]의 기저이고, 따라서 [math(\dim H=\dim K)]이다.

[math((\Leftarrow))] 힐베르트 공간 [math(H)]에 대하여 [math(E)]를 [math(H)]의 기저라 하자. [math(x\in H)]에 대하여 [math(\widehat{x}:E\to\mathbb{K})]를 [math(\widehat{x}(e)=\left<x,e\right>)]로 정의한다. [math(\|x\|^2=\sum_{e\in E}\left<x,e\right>^2)](Persival's identity)에서 [math(|\widehat{x}(e)|\le \|x\|)]이므로 [math(\widehat{x}\in l^2(E))]와
[math(\displaystyle\|\widehat{x}\|_{l^2(E)}=\sqrt{\sum_{e\in E}|\widehat{x}(e)|^2}=\|x\|)]
가 성립한다. 따라서 사상 [math(U:H\to l^2(E))]를 [math(U(x)=\widehat{x})]로 정의하면 [math(U)]는 선형 등거리 사상이다. [math(E)]의 모든 유한 부분집합족을 [math(\mathcal{F})]라 하자. 임의의 [math(f\in l^2(E))]에 대하여 [math(x_F=\sum_{e_k\in F\in \mathcal{F}}f(e_k)e_k)]라 하면 각 [math(e_k\in F)]에 대하여 [math(\widehat{x}_F(e_k)=f(e_k))]이므로
[math(\displaystyle\sum_{e_k\in F\in\mathcal{F}}|\widehat{x}_F(e_k)|^2=\sum_{e_k\in F\in\mathcal{F}}|f(e_k)|^2)]
이며, 그물 [math(\sum_{e_k\in F\in\mathcal{F}}|\widehat{x}_F(e_k)|^2)]는 [math(\|f\|_{l^2(E)}^2)]으로 수렴한다. 따라서 [math(U(H))]는 [math(l^2(E))]의 조밀한 집합이다. 또한 [math(U)]는 등거리 사상이므로 내적을 보존하고, 내적은 극한을 보존하므로 [math(U(H))]는 닫힌 집합이다. 즉, [math(U(H)=l^2(E))]이다. 힐베르트 공간 [math(K)]의 기저가 [math(F)]이고 [math(\dim H=\dim K)]이면 [math(\operatorname{card} H=\operatorname{card} K)]이다. 따라서 일대일 대응 [math(\varphi:F\to E)]가 존재하고, [math(U:l^2(E)\to l^2(F))]를 [math(U(f)=f\circ\varphi^{-1})]라 하면 [math(U)]는
[math(\displaystyle\|U(f)\|_{l^2(F)}^2=\sum_{f\in F}|f(\varphi^{-1}(f))|^2=\sum_{e\in E}|f(e)|^2=\|f\|_{l^2(E)}^2)]
이므로 등거리 사상이다. 또한 각 [math(g\in l^2(F))]에 대하여 [math(f=g\circ\varphi\in l^2(E))]가 존재하므로 [math(U)]는 동형사상이다. 따라서 차원이 같은 힐베르트 공간은 서로 동형이다.

4.3.3. 컴팩트 집합의 조건

거리공간의 컴팩트성은 점렬 컴팩트성과 동치이다. 즉, 거리공간 [math(X)]의 부분집합 [math(K)]가 컴팩트일 필요충분조건은 [math(K)]의 임의의 점렬 [math(\{x_n\}_{n=1}^\infty)]이 [math(K)]의 한 점으로 수렴하는 부분점렬 [math(\{x_{n_k}\}_{k=1}^\infty)]를 갖는 것이다. 이에 따라 거리공간의 컴팩트 집합은 닫힌 유계집합이며, 유한차원 내적공간의 경우 하이네-보렐 정리에 의해 그 역 또한 참이다.

그러나 무한차원 내적 공간에서는 닫힌 유계 조건만으로 컴팩트성을 보장할 수 없다. 예를 들어, 무한차원 힐베르트 공간 [math(H)]의 단위구 [math(\{x\in H:\|x\|_H\le1\})]는 유계 닫힌 집합이지만 정규직교기저의 유한 덮개가 존재하지 않아 컴팩트 집합이 아니다.[1]

상술한 바와 같이 무한차원 힐베르트 공간에서 하이네-보렐 정리는 성립하지 않으나, 유한차원 근사 조건을 추가하여 컴팩트성의 동치 명제를 얻을 수 있다. 이는 힐베르트 공간에서 수렴하는 점렬의 다음 성질을 이용한 것이다. 힐베르트 공간 [math(H)]의 점렬 [math(\{x_n\}_{n=1}^\infty)]가 [math(x)]로 수렴하면 임의의 정규직교점렬 [math(\{e_k\}_{k=1}^\infty)]에 대하여 임의의 [math(\epsilon>0)]이 주어졌을 때 다음을 만족시키는 자연수 [math(N)]이 존재한다.
[math(\displaystyle\sum_{k=N+1}^\infty|\left<x_n,e_k\right>|^2 <\epsilon^2\quad \forall n)]
이는 분리가능 힐베르트 공간, 즉 가산 기저를 갖는 힐베르트 공간의 경우 [math(x)]로 수렴하는 푸리에-베셀 급수열이 균등수렴함을 의미한다. 이 성질은 분리 가능 힐베르트 공간에서 컴팩트성의 필요조건 또한 구성한다. 분리가능 힐베르트 공간 [math(H)]의 부분집합 [math(K)]가 컴팩트일 필요충분조건은 [math(K)]가 유계 닫힌집합이며, [math(H)]의 임의의 기저에 대한 푸리에-베셀 급수열이 균등수렴하는 것이다.

위 조건은 비가산 차원의 힐베르트 공간으로 일반화 가능하다. 힐베르트 공간 [math(H)]의 부분집합 [math(K)]가 컴팩트일 필요충분조건은 [math(K)]가 유계 닫힌집합이며, 임의의 [math(\epsilon>0)]에 대하여 다음을 만족시키는 유한차원 부분공간 [math(W\subset H)]가 존재하는 것이다.
[math(\displaystyle\sup_{x\in K}\inf_{w\in W}\|x-w\|_H <\epsilon\quad)]
이는 [math(K)]의 임의의 점과 유한차원 부분공간 [math(W)] 사이의 거리가 충분히 작음을 의미한다.

4.4. 연속 쌍대공간의 성질

4.4.1. 리즈 표현 정리

유한차원 [math(\mathbb{K})]-내적공간 [math(V)]의 선형범함수 [math(L:V\to\mathbb{K})]는 어떤 벡터 [math(w_0\in V)]에 대하여 [math(L(v)=\left<v,w_0\right>)]로 유일하게 표현된다. 일반적인 힐베르트 공간에서도 이와 같은 성질이 성립한다.
힐베르트 공간의 리즈 표현 정리(Riesz representation thm. on Hilbert space)
[math(\mathbb{K})]-힐베르트 공간 [math(H)]의 유계 선형범함수 [math(L:H\to\mathbb{K})]에 대하여 다음을 만족시키는 유일한 벡터 [math(x_0\in H)]가 존재한다.
[math(L(x)=\left<x,x_0\right>\quad\forall x\in H)]
또한, [math(\|L\|=\|x_0\|)]가 성립한다.
증명
[math(M=\ker L)]이라 하자. [math(L)]은 유계이므로 연속이고, 따라서 [math(M)]은 [math(H)]의 부분공간이다. [math(M=H)]인 경우 임의의 [math(x\in H)]에 대하여 [math(L(x)=0)]이므로 [math(L(x)=\left<x,0\right>)]이다. [math(M\subsetneq H)]인 경우, [math(M^\perp)]는 영이 아닌 벡터 [math(y_0)]를 포함한다. [math(\alpha=L(y_0))]에 대하여 [math(\alpha^{-1}y_0\in M^{-1}, L(\alpha^{-1}y_0)=1)]이므로 [math(L(y_0)=1)]이라 가정할 수 있다. [math(x\in H)]에 대하여 [math(L(x-L(x)y_0)=L(x)-L(x)L(y_0)=0)]이므로 [math(x-L(x)y_0\in M)]이다. 따라서 [math(x_0=\|y_0\|^{-2}y_0)]라 하면 임의의 [math(x\in H)] 대하여
[math(\begin{aligned}
0&=\left<x-L(x) y_0, y_0\right>\\
&=\left<x,y_0\right>-L(x)\|y_0\|^2
\end{aligned})]
에서 [math(L(x)=\left<x,x_0\right>)]를 얻는다. [math(x_0^\prime)]이 [math(L(x)=\left<x, x_0^\prime\right>)]을 만족시킨다 가정하면 임의의 [math(x\in H)]에 대하여 [math(\left<x, x_0-x_0^\prime\right>=0)]이므로 [math(x_0-x_0^\prime\perp H)]이다. 따라서 [math(\left<x_0-x_0^\prime,x_0-x_0^\prime\right>=0)]으로, [math(x_0=x_0^\prime)]이다. 코시-슈바르츠 부등식에 의해 [math(|L(x)|=|\left<x, x_0\right>|\le\|x\|\|x_0\|)]이므로 [math(\|L\|\le \|x_0\|)]이고, [math(L(x_0/\|x_0\|)=\|x_0\|)]이므로 [math(\|L\|=\|x_0\|)]이다.

4.4.2. 자기 쌍대성

힐베르트 공간 [math(H)]의 노름공간 [math(H^*)]에 대하여 유계 선형범함수 [math(L\in H^*)]을 그 리즈 표현 정리에 의한 벡터 [math(x)]로 대응시키는 사상을 [math(U)]라 하면 [math(U)]는 [math(H^*)]와 [math(H)]사이의 동형사상이다. 즉, 힐베르트 공간의 연속 쌍대공간은 자기 자신이다. 그러나 그 역은 성립하지 않는다.

5. 작용소

5.1. 기본 성질

5.1.1. 유계 작용소 C*-대수

일반적인 노름 공간의 연속 선형범함수와 마찬가지로, 두 [math(\mathbb{K})]-힐베르트 공간 [math(H, K)] 사이의 선형변환 [math(A:H\to K)]에 대하여 다음은 동치이다.
  • [math(A)]는 연속이다.
  • [math(A)]는 [math(0)]에서 연속이다.
  • 임의의 [math(x\in H)]에 대하여 [math(\|Ax\|_K\ \le C\|x\|_H)]를 만족시키는 상수 [math(C>0)]가 존재한다.
또한 [math(A)]의 작용소 노름도 같은 방식으로 정의한다.
[math(\begin{aligned}\|A\|&=\sup\{\|Ax\|_K:\|x\|_H=1\}\\
&=\sup\{\|Ax\|_K:\|x\|_H\le 1\}\\
&=\sup\{\|Ax\|_K/\|x\|_H:x \ne0\}\\
&=\inf\{C>0:\|Ax\|_K\ \le C\|x\|_H\}
\end{aligned})]
[math(H, K)] 사이의 유계 선형변환의 집합을 [math(\mathcal{B}(H,K))]로 나타낸다. 특히, [math(K=H)]인 경우 [math(\mathcal{B}(H))]로 표기한다. [math(\mathcal{B}(H,K))]는 작용소의 합 및 스칼라 곱, 작용소의 합성 연산에 대한 [math(mathbb{K})]-대수이며 동시에 작용소 노름에 대한 완비성을 갖춘 바나흐 공간으로, 바나흐 대수이다. 특히 바나흐 대수 [math(\mathcal{B}(H,K))]는 후술할 작용소의 수반 연산으로 정의된 대합(involution)연산에 닫혀있어 C*-대수이다. [math(H, K)]가 모두 힐베르트 공간이더라도 [math(\mathcal{B}(H,K))]는 일반적으로 힐베르트 공간이 아니다.

부분공간 [math(M\le H)]에 대하여 [math(H=M\oplus M^\perp)]이므로 [math(A\in \mathcal{B}(H))]는 다음과 같은 작용소 행렬 표현을 갖는다.
[math(A=\begin{bmatrix}W&X\\Y&Z\end{bmatrix})]
여기서 [math(W\in\mathcal{B}(M), X\in\mathcal{B}(M^\perp, M),Y\in\mathcal{B}(M, M^\perp), Z\in\mathcal{B}(M^\perp))]이다.

5.1.2. 작용소의 핵과 상

작용소 [math(A\in \mathcal{B}(H, K))]의 핵(kernel) [math(\ker A)]와 상(range) [math(\operatorname{ran} A)]는 각각 다음 집합을 의미한다.
[math(\ker A=\{x\in H:Ax=0\}\\
\operatorname{ran}A=\{y\in K: y=Ax\text{ for some }x\in H\}=A(H))]
임의의 [math(A\in\mathcal{B}(H,K))]에 대하여 [math(\ker A)]는 [math(H)]의 부분공간이다. [math(x, y\in \ker A, \alpha\in\mathbb{K})]에 대하여
[math(A(\alpha x+y)=\alpha Ax+Ay=0)]
이므로 [math(\alpha x+y \in \ker A)]으로 [math(\ker A)]는 [math(H)]의 선형 다양체이고, [math(x\in H)]로 수렴하는 [math(\ker A)]의 점렬 [math(\{x_n\}_{n=1}^\infty)]에 대하여
[math(\displaystyle Ax=A\left(\lim_{n\to\infty}x_n\right)=\lim_{n\to \infty}Ax_n=0)]
이므로 [math(x\in \ker A)]으로 [math(\ker A)]는 닫힌 부분공간이다.

반면 작용소의 상은 부분공간임이 보장되지 않는다. [math(l^2)]의 벡터 [math(a=(1/n)_{n=1}^\infty)]에 대하여 [math(A:l^2\to l^2)]를 [math(Ax=ax)]라 하면 [math(A)]는 선형사상이고 횔더 부등식 바젤 합 의해
[math(\displaystyle\begin{aligned}
\|A_x\|_{l^2}&=\|ax\|_{l^2}\\
&\le \|a\|_{l^2}\|x\|_{l^2}\\
&\le\frac{\pi^2}{6}\|x\|_{l^2}
\end{aligned})]
이므로 [math(A\in \mathcal{B}(l^2))]이다. [math(\operatorname{ran}A)]의 점렬 [math(\{y_n\}_{n=1}^\infty)]를
[math(\displaystyle\begin{aligned}
y_n&=\left(1,\frac{1}{2},\ldots,\frac{1}{n},0,0,\ldots\right)\\
&=A(1,1,\ldots,1,0,0,\ldots)\end{aligned})]
로 정의하면 [math(\{y_n\}_{n=1}^\infty)]은 [math(y=(1/n)_{n=1}^\infty)]로 수렴한다. 그러나 어떤 [math(x\in l^2)]에 대하여 [math(y=ax)]라 하면 [math(x=(1,1,\ldots))]이고 이는 [math(l^2)]의 원소가 아니므로 모순이다. 따라서 [math(y\notin\operatorname{ran}A )]이다.

작용소의 상이 닫힌 부분공간을 이룰 조건은 다음과 같다. 작용소 [math(A\in\mathcal{B}(H, K))]에 대하여
[math(\|Ax\|_K\ge\alpha\|x\|_H\quad\forall x\in H)]
를 만족시키는 [math(\alpha>0)]가 존재하면 [math(\operatorname{ran} A)]는 [math(K)]의 닫힌집합이다.
증명
[math(\operatorname{ran} A)]의 작용소열 [math(\{y_n\}_{n=1}^\infty)]이 [math(y\in K)]로 수렴한다고 하자. 각 [math(n\in\mathbb{N})]에 대하여 [math(y_n=Ax_n(x_n\in H))]라 하면 임의의 [math(m, n\in\mathbb{N})]에 대하여여
[math(\|y_m-y_n\|_K=\|A(x_m-x_n)\|_K\ge\alpha\|x_m-x_n\|_H)]
이므로 [math(H)]의 점렬 [math(\{x_n\}_{n=1}^\infty)]은 코시열로, 극한 [math(x\in H)]를 갖는다. [math(y=Ax)]라 하면
[math(\displaystyle \lim_{n\to\infty}y_n=\lim_{n\to\infty}A(x_n)=A\left(\lim_{n\to\infty}x_n\right)=Ax=y)]
이므로 [math(y\in\operatorname{ran} A)]이다. 즉, [math(\operatorname{ran}A)]는 닫힌집합이다.
이 때, [math(x\ne 0)]이면 [math(\|Ax\|_K>0)]이므로 [math(x\notin\ker A)]이다. 즉, [math(\ker A=\{0\})]으로 [math(A)]는 단사이다.

5.1.3. 작용소의 가역성

작용소 [math(A\in\mathcal{B}(H, K))]와 항등작용소 [math(I\in\mathcal{B}(H, K))]에 대하여 [math(AS=SA=I)]를 만족시키는 작용소 [math(S\in\mathcal{B}(H, K))]가 존재하면 [math(A)]를 가역(invertible)이라 한다. 이때 [math(S)]를 [math(A)]의 역원(inverse)라 하고 [math(S=A^{-1})]로 나타낸다.

힐베르트 공간 [math(H)]의 조밀한 부분공간은 [math(H)]와 같으므로 작용소 [math(A\in\mathcal{B}(H, K))]가 가역일 필요충분조건은 [math(\operatorname{ran} A)]가 [math(K)]의 조밀한 부분집합이고,
[math(\|Ax\|_K\ge \alpha\|x\|_H\quad\forall x\in H)]
를 만족시키는 [math(\alpha>0)]가 존재하는 것이다.

작용소의 가역성은 등비급수와 유사한 성질을 갖는다. 작용소 [math(A\in\mathcal{B}(H))]에 대하여 [math(\|I-A\|<1)]이면 [math(A)]는 가역이고
[math(\displaystyle \sum_{n=0}^\infty (I-A)^n=A^{-1})]
가 성립한다.
증명
[math(\|I-A\|=c)] 라 하면 [math(\sum_{n=0}^\infty \|I-A\|^n=1/(1-c))]이다. 즉, [math(\sum_{n=0}^\infty (I-A)^n)]은 절대수렴 급수이다. [math(\mathcal{B}(H))]는 바나흐 공간이므로 [math(\sum_{n=0}^\infty (I-A)^n)]는 [math(S\in\mathcal{B}(H))]로 수렴한다. 이 때, [math(\|(I-A)^n\|\to 0)]이므로 [math((I-A)^n\to 0)]이다. [math(A)]는 선형사상이므로 임의의 [math(n\in\mathbb{N})]에 대하여
[math(\displaystyle A\left[\sum_{k=0}^n(I-A)^k\right]=\sum_{k=0}^nA(I-A)^k=\left[\sum_{k=0}^n(I-A)^k\right]A)]
이다.
[math(\displaystyle \sum_{k=0}^nA(I-A)^k=I-(I-A)^{n+1})]
이고 [math(A)]는 연속이므로 [math(AS=SA=I)]이다. 즉, [math(S=A^{-1})]이다.

위 성질을 이용하여 [math(\mathcal{B}(H))]의 가역 작용소 집합이 [math(\mathcal{B}(H))]의 열린집합임을 보일 수 있다.
증명
[math(A_0\in\mathcal{B}(H) )]가 가역이라고 하자. [math(r=\|A_0^{-1}\|^{-1})]에 대하여 [math(A\in\mathcal{B}(H))]가 [math(\|A-A_0\|<r)]이면
[math(\|AA_0^{-1}-I\|\le\|A-A_0\|\|A_0^{-1}\|<1)]
이므로 [math(AA_0^{-1})]은 가역이다. 즉, [math(A)]는 가역이다.

5.2. 수반 작용소

수반 작용소는 복소수체에서 켤레 복소수의 정의 및 성질과 유사한 개념이다. 두 힐베르트 공간 [math(H, K)]사이의 유계 선형변환 공간 [math(\mathcal{B}(H, K))]의 작용소 [math(A)]에 대하여 [math(A)]의 수반 작용소(adjoint operator)[2]는 임의의 [math(x\in H, y\in K)]에 대하여 다음을 만족시키는 작용소 [math(B\in \mathcal{B}(K, H))]이다.
[math(\left<Ax, y\right>_K=\left<x, By\right>_H)]
[math(A)]의 수반 작용소 [math(B)]를 [math(B=A^*)]로 나타낸다. 수반 작용소의 존재성은 리즈 표현 정리에 의해 보장된다. 두 [math(\mathbb{K})]-힐베르트 공간 [math(H, K)]에 대하여 반쌍선형 형식 [math(u:H\times K\to \mathbb{K})]가
[math(M=\sup\{|u(x,y)|:\|x\|_H=\|y\|_K=1\}<\infty)]
에 의해 유계일 때, 다음을 만족시키는 작용소 [math(A\in \mathcal{B}(H, K), B\in \mathcal{B}(K, H))]가 유일하게 존재한다.
[math(u(x, y)=\left<Ax, y\right>_K=\left<x, By\right>_H\quad\forall x\in H, y\in K)]
또한 [math(\|A\|=\|B\|=M)]이 성립한다.
증명
각 [math(x\in H)]에 대하여 [math(u_x(y)=\overline{u(x,y)})]라 하면 [math(y_1, y_2\in K, \alpha\in\mathbb{K})]에 대하여
[math(\begin{aligned}u_x(y_1+\alpha y_2)&=\overline{u(x,y_1+\alpha y_2)}\\
&=\overline{u(x,y_1)+\overline{\alpha}u(x,y_2)}\\
&=u_x(y_1)+\alpha u_x(y_2)
\end{aligned})]
이므로 [math(u_x:K\to\mathbb{K})]는 선형범함수이고 [math(|u_x(y)|\le M\|x\|_H\|y\|_K)]에서 [math(\| u_x\|\le M\|x\|)]가 성립한다. 따라서 리즈 표현 정리에 의해
[math(u_x(y)=\left<y, z\right>_K, \|z\|_K=\|u_x\|)]
를 만족시키는 유일한 벡터 [math({z\in K})]가 존재한다. 사상 [math(A:H\to K)]를 [math(Ax=z)]로 정의하자. [math(x_1, x_2\in H, \alpha\in \mathbb{K})]에 대하여
[math(\begin{aligned}u_{x_1+x_2}(y)&=\overline{u(x_1+\alpha x_2,y)}\\
&=\overline{u(x_1,y)}+\alpha\overline{u(x_2,y)}\\
&=u_{x_1}(y)+\alpha u_{x_2}(y)\\
&=\left<y, Ax_1\right>_K+\alpha\left<y, Ax_2\right>_K\end{aligned})]
이므로 [math(A)]는 선형사상이며
[math(\begin{aligned}
에서 [math(\|A\|\le M)]이므로 [math(A\in\mathcal{B}(H,K))]이다. 또한
[math(\begin{aligned}
에서 [math(\|A\|\ge M)]이므로 [math(\|A\|=M)]이다. [math(B\in\mathcal{B}(K, H))]의 경우도 동일하게 증명한다.

5.2.1. 수반 작용소의 성질

수반 작용소의 기본적인 성질은 다음과 같다. [math(A, B\in \mathcal{B}(H))]와 [math(\alpha\in\mathbb{}K)]에 대하여
  1. [math((\alpha A+B)^*=\overline{\alpha}A^* +B^*)],
  2. [math((AB)^*=B^*A^*)],
  3. [math(A^{**}:=(A^*)^*=A)],
  4. [math(A)]가 가역이면 [math(A^*)]도 가역이고 [math((A^*)^{-1}=(A^{-1})^*)]이다.
증명
내적의 성질에 의해 임의의 [math(x,y\in H)]에 대하여 [math(\left<Ax,y\right>=\left<A^\prime x,y\right>)]이면 [math(A=A^\prime)]이다.
  1. [math(\left<x, (\alpha A+B)^*(y)\right>=\left<(\alpha A+B)x,y\right>=\left<x,\overline{\alpha}A^*y\right>+\left<x,B^*y\right>=\left<x,(\overline{\alpha}A^* +B^*)y\right>)]
  2. [math(\left<x,(AB)^*(y)\right>=\left<ABx,y\right>=\left<Bx,A^*y\right>=\left<x,B^*A^*y\right> )]
  3. [math(\left<Ax,y\right>=\left<x,A^*y\right>=\left<(A^*)^*x,y\right>)]
가 성립한다. 또한 b.에 의하여 [math((A^{-1})^*A^*=(AA^{-1})^*=I^*=I)]이므로 [math((A^{-1})^*=(A^*)^{-1})]이다.

수반 작용소의 정의 및 성질에서 확인할 수 있는 켤레 복소수와의 유사성과 같이, 작용소 및 수반 작용소의 작용소 노름의 관계 또한 복소수와 그 켤레의 크기 사이의 관계와 유사하다. 작용소 [math(A\in \mathcal{B}(H))]에 대하여 다음이 성립한다.
[math(\|A\|=\|A^*\|=\|A^*A\|^{1/2})]
증명
[math(\|x\|_H\le 1)]인 [math(x\in H)]에 대하여
[math(\|Ax\|^2_H=\left<Ax,Ax\right>=\left<A^*Ax,A\right>\le \|A^*Ax\|_H\|x\|_H)]
이다. 따라서
[math(\|A\|^2\le \|A^*A\|\le\|A^*\|\|A\|)]
이다. 또한 [math(A^{**}=A)]이므로 부등식의 [math(A)]를 [math(A^*)]로 치환하면 [math(\|A^*\|\le\|A\|)]를 얻는다.

힐베르트 공간에서 작용소와 그 수반 작용소의 핵과 상은 직교성과 관련된 성질을 갖는다. [math(A\in \mathcal{B}(H, K))]에 대하여 다음이 성립한다.
  1. [math(\ker A=(\operatorname{ran} A^*)^\perp,\ \ker A^*=(\operatorname{ran} A)^\perp)]
  2. [math(\overline{\operatorname{ran}A}=(\ker A^*)^\perp,\ \overline{\operatorname{ran}A^*}=(\ker A)^\perp)]
증명
임의의 [math(x\in \ker A)]와 [math(w=A^*y\in \operatorname{ran} A^*)]에 대하여 [math(\left<x, A^*y\right>=\left<Ax, y\right>=0)]이므로 [math(\ker A \subseteq (\operatorname{ran} A^*)^\perp)]이다. 반대로 임의의 [math(x\in(\operatorname{ran} A^*)^\perp )]와 [math(w\in H)]에 대하여 [math(\left<Ax,w\right>=\left<x,A^*w\right>=0)]이므로 [math(Ax=0)]이다. 즉, [math(\ker A \supseteq (\operatorname{ran} A^*)^\perp)]이다. 따라서 [math(\ker A=(\operatorname{ran} A^*)^\perp)]이다.

[math(\operatorname{ran} A\subseteq (\operatorname{ran}A)^{\perp\perp}=(\ker A^*)^\perp)]에서 [math(\overline{\operatorname{ran} A}\subseteq(\ker A^*)^\perp )]이다. 또한 [math(\overline{\operatorname{ran} A}=\overline{\operatorname{ran} A}^{\perp\perp}\supseteq(\operatorname{ran} A)^{\perp\perp}=(\ker A^*)^\perp )]이므로 [math(\overline{\operatorname{ran}A}=(\ker A^*)^\perp)]이다.

[math(A^{**}=A)]에 의해 [math(\ker A^*=(\operatorname{ran} A)^\perp)], [math(\overline{\operatorname{ran}A^*}=(\ker A)^\perp)]이다.

5.2.2. 에르미트 작용소

실수 [math(x)]에 대하여 [math(\overline{x}=x)]가 성립하는 것과 마찬가지로 [math(A^*=A)]를 만족시키는 작용소는 실수와 유사한 성질을 갖는다. 힐베르트 공간 [math(H)]의 작용소 [math(A\in \mathcal{B}(H))]가 [math(A^*=A)]를 만족시키면 [math(A)]를 에르미트 작용소(자기 수반 작용소, Hermitian, self-adjoint)라고 한다. 임의의 작용소 [math(A\in\mathcal{B}(H))]에 대하여
[math(\displaystyle B=\frac{A+A^*}{2},\quad C=\frac{A-A^*}{2i})]
라 하면 [math(B, C)]는 [math(A=B+iC)]를 유일하게 만족시키는 에르미트 작용소이다. 복소수와 유사하게 두 에르미트 작용소 [math(B, C)]를 각각 작용소 [math(A)]의 실부분(real part)허부분(imaginary part)이라고 한다. 일반적으로 작용소의 합성은 교환법칙이 성립하지 않으며, 이는 작용소와 그 수반 작용소의 합성에서도 마찬가지다. 예를 들어, [math(l^2)] 공간의 우측 이동 작용소 [math(S(\alpha_1,\alpha_2,\ldots)=(0,\alpha_1,\alpha_2,\ldots))]와 좌측 이동 작용소 [math(A(\alpha_1, \alpha_2, \ldots)=(\alpha_2,\alpha_3,\ldots))]에 대하여
[math(\left<S\alpha_n,\beta_n\right>=0\cdot\overline{\beta_1}+\alpha_1\overline{\beta_2}+\alpha_2\overline{\beta_3}+\ldots=\left<\alpha_n, A\beta_n\right>)]
이므로 [math(S^*=A)]이고,
[math(AS(\alpha_1,\alpha_2,\ldots)=A(0,\alpha_1,\ldots)=(\alpha_1,\alpha_2,\ldots),\\
SA(\alpha_1,\alpha_2,\ldots)=A(\alpha_2,\alpha_3\ldots)=(0,\alpha_2,\ldots))]
이므로 [math(SS^*\ne S^*S)]이다. 이는 작용소 체계를 복소수와 유사하게 다루는 데에 제한이 된다. 따라서 [math(AA^*=A^*A)]를 만족시키는 작용소를 정규 작용소(normal operator)로 정의한다. 특히 [math(UU^*=U^*U=I)]를 만족시키는 정규 작용소 [math(U)]를 유니터리 작용소(unitary operator)라 한다. 정규 작용소는 복소수의, 유니터리 작용소는 단위 크기를 갖는 복소수의 일반화로 볼 수 있다.

일반적으로 에르미트 작용소의 합성은 에르미트 작용소가 아니다. 두 에르미트 작용소 [math(A, B)]에 대하여 [math(AB)]가 에르미트 작용소일 필요충분조건은 [math(AB=BA)]인 것이다.
증명
[math((\Rightarrow ))] [math(AB)]가 에르미트 작용소이므로 [math(AB=(AB)^*=B^*A^*)]이다. 또한 [math(A, B)]가 에르미트 작용소이므로 [math(AB=A^*B^*)]이다. 따라서 [math((BA)^*=A^*B^*=B^*A^*=(AB)^*)]로, [math(AB=BA)]이다.
[math((\Leftarrow))] [math(AB=BA=B^*A^*=(AB)^*)]이므로 [math(AB)]는 에르미트 작용소이다.

내적을 이용하여 에르미트 작용소의 판단과 그 작용소 노름을 계산할 수 있다. [math(\mathbb{C})]-힐베르트 공간 [math(H)]의 작용소 [math(A)]가 에르미트 작용소일 필요충분조건은
[math(\left<Ax, x\right>\in\mathbb{R}\quad\forall x\in H)]
이다. 이때, [math(\mathbb{R})]-힐베르트 공간에서 내적은 항상 실숫값을 가지므로 위 판정법을 적용할 수 없다. 예를 들어, [math(\mathbb{R^2})]의 작용소 [math(A=\begin{bmatrix}0&1\\-1&0\end{bmatrix})]는 모든 [math((x,y)\in\mathbb{R^2})]에 대하여 [math(\left<A(x,y), (x,y)\right>=\left<(y,-x),(x,y)\right>=0)]이지만 [math(A^*=A^T\ne A)]이므로 에르미트 작용소가 아니다.
증명
[math((\Rightarrow))] [math(\mathbb{C}-)] 힐베르트 공간 [math(H)]의 에르미트 작용소 [math(A\in \mathcal{B}(H))]에 대하여 [math(\left<Ax,x\right>=\left<x, Ax\right>=\overline{\left<Ax,x\right>})]이므로 [math(\left<Ax, x\right>\in\mathbb{R})]이다.

[math((\Leftarrow))] 임의의 [math(x\in H)]에 대하여 작용소 [math(A\in\mathcal{B}(H))]가 [math(\left<Ax,x\right>\in\mathbb{R})]을 만족시킨다고 하자. 임의의 [math(x, y\in H, \alpha\in\mathbb{C})]에 대하여
[math(\left<A(x+\alpha y),x+\alpha y\right>=\left<Ax,x\right>+\overline{\alpha}\left<Ax, y\right>+\alpha\left<Ay,x\right>+|\alpha|^2\left<Ay,y\right>\in\mathbb{R})]
이고 [math(\left<Ax,x\right>, \left<Ay,y\right>\in\mathbb{R})]이므로
[math(\overline{\alpha}\left<Ax, y\right>+\alpha\left<Ay,x\right>=\overline{\overline{\alpha}\left<Ax, y\right>+\alpha\left<Ay,x\right>})]
이다. 따라서
[math(\overline{\alpha}\left<Ax, y\right>+\alpha\left<Ay,x\right>=\alpha\left<A^* y, x\right>+\overline{\alpha}\left<A^*x,y\right>)]
이다. 위 등식에 [math(\alpha=1)]과 [math(\alpha=i)]를 차례로 대입하면
[math(\left<Ax,y\right>+\left<Ay,x\right>=\left<A^*x,y\right>+\left<A^*y,x\right>\cdots(1)\\
-i\left<Ax,y\right>+i\left<Ay,x\right>=i\left<A^* y, x\right>-i\left<A^*x,y\right>\cdots(2))]
이고, 등식 [math((2))]의 양변에 [math(i)]를 곱하여 등식 [math((1))]의 각 변에 더하면 [math(\left<Ax,y\right>=\left<A^*x,y\right>)]를 얻는다.
또한 에르미트 작용소 [math(A\in H)]에 대하여
[math(\|A\|=\sup\{|\left<Ax,x\right>|:\|x\|_H=1\})]
이다. 이를 통해 에르미트 작용소 [math(A)]가 모든 [math(x\in H)]에 대하여 [math(\left<Ax,x\right>=0)]을 만족시키면 [math(A=0)]임을 밝힐 수 있다. 이 명제는 실수체 위의 힐베르트 공간에서 에르미트 조건을 생략할 수 없지만, 복소수체 위의 힐베르트 공간에서는 에르미트 조건 없이 성립한다.
증명
[math(M=\sup\{|\left<Ax,x\right>|:\|x\|_H=1\})]라 하자. 코시-슈바르츠 부등식에 의해 [math(|\left<Ax,x\right>|\le\|Ax\|_H \|x\|_H \le \| A \|\|x\|^2_H )]이므로 [math(\|x\|_H=1)]이면 [math(M\le\|A\|)]이다. [math(\|x\|_H=\|y\|_H=1)]인 경우
[math(\left<A(x\pm y), x\pm y\right>=\left<Ax,x\right>\pm\left<Ax,y\right>\pm\left<Ay,x\right>+\left<Ay,y\right>)]
이고 [math(\left<Ax,y\right>=\left<x,A^*y\right>=\left<x,Ay\right>)]에서
[math(\left<A(x\pm y), x\pm y\right>=\left<Ax,x\right>\pm2\operatorname{Re}\left<Ax,y\right>+\left<Ay,y\right>)]
이다. 따라서
[math(4\operatorname{Re}\left<Ax,y\right>=\left<A(x+y),x+y\right>-\left<A(x-y),x-y\right>)]
이다. 임의의 [math(z\in H)]에 대하여 [math(u=z/\|z\|_H)]라 하면 [math(\left<Au,u\right>\le M)]에서 [math(\left<Az ,z\right>\le M\|z\|_H^2)]이므로 평행사변형 법칙에 의해
[math(\begin{aligned}4\operatorname{Re}\left<Ax,y\right>&\le M(\|x+y\|^2_H+\|x-y\|^2_H)\\
&=2M(\|x\|^2_H+\|y\|^2_H)\\
&=4M\end{aligned})]
이다. [math(\left<Ax, y\right>=e^{i\theta}|\left<Ax,y\right>|)]라 하고 위 부등식에서 [math(x=e^{-i\theta}x)]로 놓으면 임의의 [math(\|x\|_H=\|y\|_H=1)]인 [math(x, y\in H)]에 대하여 [math(|\left<Ax,y\right>|\le M)]을 얻는다. 따라서 [math(\|x\|_H=1)]일 때
[math(\displaystyle\|Ax\|_H=\left|\left<Ax,\frac{Ax}{\|Ax\|_H}\right>\right|\le \sup_{\|y\|_H=1}|\left<Ax, y\right>|\le M)]
이므로 [math(\|A\|\le M)]이다. 즉, [math(\|A\|=M)]이다.

에르미트 작용소 [math(A\in \mathcal{B}(H))]가 임의의 [math(x\in H)]에 대하여 [math(\left<Ax ,x\right>=0)]을 만족시키면 [math(A)]의 작용소 노름이 [math(\|A\|=0)]이므로 노름의 성질에 의해 [math(A=0)]이다. [math(H)]가 [math(\mathbb{C})]-힐베르트 공간이면 임의의 [math(x,y\in H)] 및 [math(\alpha\in \mathbb{C})]에 대하여
[math(\left<A(x+\alpha y),x+\alpha y\right>=\overline{\alpha}\left<Ax, y\right>+\alpha\left<Ay, x\right>=0)]
이다. 위 등식에서 [math(\alpha=1, \alpha=i)]를 각각 대입하면
[math(\begin{aligned}\left<Ax, y\right>+\left<Ay, x\right>=0\\
-\left<Ax, y\right>+\left<Ay, x\right>=0\end{aligned})]
에서 [math(\left<Ax, y\right>=0)]을 얻는다. [math(x, y)]는 임의의 원소이므로 임의의 [math(x)]에 대하여 [math(Ax=0)]으로, [math(A=0)]이다.

정규 작용소의 필요충분조건은 다음과 같다. [math(A\in \mathcal{B}(H))]에 대하여 다음은 동치이다.
  1. [math(A)]는 정규 작용소이다.
  2. 모든 [math(x\in H)]에 대하여 [math(\|Ax\|_H=\|A^*x\|_H)]이다.
  3. 작용소 [math(A)]의 실부분 [math(B)]와 허부분 [math(C)]에 대하여 [math(BC=CB)]이다.
명제 b.는 수반 작용소 사이에 성립되는 작용소 노름에 대한 성질인 [math(\|A\|=\|A^*\|)]와 구분된다. 예를 들어, [math(l^2)] 공간의 우측 이동 작용소 [math(S)], 좌측 이동 작용소 [math(S^*)]에 대하여 [math(\|S\|=\|S^*\|=1)]이지만 자연수 [math(n\in\mathbb{N})]에 대하여 [math(\alpha_n=\sqrt{2^{-n}})]으로 정의된 벡터 [math((\alpha_1,\alpha_2,\ldots))]에 대하여 [math(\|S(\alpha_1,\alpha_2,\ldots)\|_{l^2}=1)], [math(\|S^*(\alpha_1,\alpha_2,\ldots)\|_{l^2}=2^{-1})]이다.
증명
[math((a.\Leftrightarrow b.))] [math(x\in H)]에 대하여
[math(\|Ax\|^2-\|A^*x\|^2=\left<Ax,Ax\right>-\left<A^*x,A^*x\right>=\left<(A^*A-AA^*)x,x\right>)]
이다. [math(A)]가 정규 작용소인 경우 [math(\|Ax\|^2-\|A^*x\|^2=0)]을 얻으며, [math(\|Ax\|_H=\|A^*x\|_H)]인 경우 [math(AA^*-A^*A)]는 에르미트 작용소이고 [math(x)]는 임의의 벡터이므로 [math(AA^*-A^*A=0)]으로 [math(AA^*=A^*A)]를 얻는다.

[math((a.\Leftrightarrow c.))] 에르미트 작용소 [math(B, C)]에 대하여 [math(A=B+iC)]라 하자.
[math(AA^*=B^2+iCB-iBC+C^2\\
AA^*=B^2-iCB+iBC+C^2)]
이므로 [math(AA^*=A^*A)]의 필요충분조건은 [math(BC=CB)]이다.

유니터리 작용소의 필요충분조건은 다음과 같다. [math(U\in \mathcal{B}(H))]에 대하여 다음은 동치이다.
  1. [math(U)]는 유니터리 작용소이다.
  2. [math(U)]는 자기동형사상이다.
  3. [math(U)]는 정규 등거리 변환이다.
증명
[math((a.\Rightarrow b.))] [math(U^*U=UU^*=I)]이므로 [math(U)]는 가역으로 전사이다. 또한 임의의 [math(x, y\in H)]에 대하여 [math(\left<Ux, Uy\right>=\left<U^*Ux,y\right>=\left<x,y\right>)]이므로 [math(U)]는 등거리 변환이다.
[math((b.\Rightarrow c.))] [math(U)]는 자기동형사상이므로 등거리 변환이고, 임의의 [math(x, y\in H)]에 대하여 [math(\left<Ux, Uy\right>=\left<U^*Ux,y\right>=\left<x,y\right>)]에서 [math(U^*U=I)]로 [math(U^{-1}=U^*)]이다. 따라서 [math(U^*U=UU^*)]로 [math(U)]는 정규 작용소이다.
[math((c.\Rightarrow a.))] 임의의 [math(x, y\in H)]에 대하여 [math(\left<Ux, Uy\right>=\left<x,y\right>)]에서 [math(\left<U^*Ux, y\right>=\left<UU^*x, y\right>=\left<x,y\right>)]이므로 [math(U^*U=UU^*=I)]이다.

5.3. 사영

힐베르트 공간 [math(H)]의 유계 작용소 [math(E\in\mathcal{B}(H))]가 [math(E^2=E)]를 만족시키면 [math(E)]를 멱등(idempotent)라고 한다. 작용소 [math(E\in\mathcal{B}(H))]가 멱등일 필요충분조건은 [math(I-E)]가 멱등인 것이다. 또한 멱등 작용소 [math(E)]에 대하여 다음이 성립한다.
  1. [math(\operatorname{ran} E, \ker E )]는 모두 [math(H)]의 부분공간이다.
  2. [math(\operatorname{ran} E=\ker(I-E), \ker E=\operatorname{ran}(I-E))]이다.
  3. [math(\operatorname{ran} E \cap \ker E=\{0\}, \operatorname{ran} E+\ker E=H)]이다.
증명
[math(E)]가 멱등이면 [math((I-E)^2=I-2E+E^2=I-E)]이므로 [math(I-E)]는 멱등이다. [math(E=I-(I-E))]이므로 그 역 또한 성립한다.
  1. [math(E)]가 선형변환이므로 [math(\operatorname{ran} E, \ker E)]는 선형다양체이며, [math(E)]는 유계로 연속사상이므로 [math(\operatorname{ran} E, \ker E)]는 닫힌공간이다. 즉, [math(\operatorname{ran} E, \ker E)]는 [math(H)]의 부분공간이다.
  2. [math(y\in\operatorname{ran} E)]에 대하여 [math(y=Ex(x\in H))]라 하면
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math((I-E)y=y-Ey=y-E^2x=y-Ex=y-y=0)]
    }}}이므로 [math(\operatorname{ran} E\subseteq\ker(I-E))]이다. 반대로 [math(x\in\ker(I-E))]인 경우 [math((I-E)x=0)]에서 [math(Ex=x)]이므로 [math(x\in \operatorname{ran} E)]로 [math(\operatorname{ran} E\supseteq\ker(I-E))]이다.
  3. [math(z\in \operatorname{ran} E \cap \ker E)]에 대하여 [math(z=Ey)]라 하면 [math(0=Ez=E^2y=Ey=z)]이다. 각 [math(x\in H)]에 대하여 [math(y=Ex, z=x-Ex)]라 하면 [math(Ez=Ex-E^2x=Ex-Ex=0)]으로 [math(z\in\ker E)]이고 [math(x=y+z)]이므로 [math(\operatorname{ran} E+\ker E=H)]이다.

작용소 [math(P)]가 멱등이며 [math(\ker P=(\operatorname{ran} P)^\perp)]을 만족시키면 [math(P)]를 사영(projection)라고 한다. 사영은 힐베르트 공간보다 더 일반적인 공간에서도 정의 가능하며, 힐베르트 공간의 사영 작용소는 직교성과 관련된 성질을 추가로 갖는다. 힐베르트 공간 [math(H)]의 영이 아닌 멱등 작용소 [math(E\in \mathcal{B}(H))]에 대하여 다음은 동치이다.
  1. [math(E)]는 사영이다.
  2. [math(E)]는 [math(H)]에서 [math(\operatorname{ran} E)] 위로의 직교정사영이다.
  3. [math(\|E\|=1)]이다.
  4. [math(E)]는 에르미트 작용소이다.
  5. [math(E)]는 정규 작용소이다.
  6. 모든 [math(x\in H)]에 대하여 [math(\left<Ex, x\right>\ge 0)]이다.

5.3.1. 불변 및 축소 부분공간

힐베르트 공간 [math(H)]의 유계 작용소 [math(A\in\mathcal{B}(H))]와 부분공간 [math(M\le H)]에 대하여 [math(AM\subseteq M)]을 만족시키면 [math(M)]을 [math(A)]의 불변 부분공간(invariant subspace)라 한다. [math(M)]이 [math(AM^\perp\subseteq M^\perp)]를 추가로 만족시키면, 즉 [math(M, M^\perp)]이 동시에 [math(A)]의 불변 부분공간이면 [math(M)]을 [math(A)]의 축소 부분공간(reducing subspace)라 한다.

불변 및 축소 부분공간의 필요충분조건은 다음과 같다. 힐베르트 공간 [math(H)]의 작용소 [math(A\in\mathcal{B}(H))]와 부분공간 [math(M\le H)] 및 [math(M)] 위로의 직교정사영 [math(P=P_M)]에 대하여 다음은 서로 동치다.
  1. [math(M)]은 [math(A)]의 불변 부분공간이다.
  2. [math(PAP=AP)]
  3. [math(A)]의 작용소 행렬 표현 [math(\begin{bmatrix}W&X\\Y&Z\end{bmatrix})]에 대하여 [math(Y=0)]이다.
증명
[math((a.\Rightarrow b.))] [math(x\in H)]에 대하여 [math(Px\in M)]이므로 [math(APx\in M)]이다. 따라서 [math(PAPx=APx)]이다.
[math((b. \Rightarrow c.))] [math(H=M\oplus M^\perp)]이고 [math(P)]는 [math(M)] 위로의 직교 정사영이므로 [math(P)]의 작용소 행렬 표현은
[math(P=\begin{bmatrix}I&0\\0&0\end{bmatrix})]
이다. 따라서
[math(\begin{aligned}PAP&=\begin{bmatrix}W&0\\0&0\end{bmatrix}\\
=AP&=\begin{bmatrix}W&0\\Y&0\end{bmatrix}\end{aligned})]
으로, [math(Y=0)]이다.
[math((c. \Rightarrow a.))] [math(x\in M)]에 대하여 [math(x=(x,0)\in M\oplus M^\perp)]이므로
[math(Ax=\begin{bmatrix}W&X\\0&Z\end{bmatrix}\begin{bmatrix}x\\0\end{bmatrix}=\begin{bmatrix}Wx\\
0\end{bmatrix}\in M)]
이다.

또한 다음은 서로 동치다.
  1. [math(M)]은 [math(A)]의 축소 부분공간이다.
  2. [math(PA=AP)]
  3. [math(A)]의 작용소 행렬 표현 [math(\begin{bmatrix}W&X\\Y&Z\end{bmatrix})]에 대하여 [math(X=Y=0)]이다.
  4. [math(M)]은 [math(A, A^*)]에 대한 불변 부분공간이다.
증명
[math((a.\Rightarrow b.))] [math(x\in H=M\oplus M^\perp)]에 대하여
[math(x=x_1\oplus x_2\quad(x_1\in M, x_2\in M^\perp))]
라 하자. [math(Ax_1\in M, Ax_2\in M^\perp)]이므로 [math(PAx=Ax_1)]이다. 반대로 [math(Px_1=x_1, Px_2=0)]이므로 [math(APx=Ax_1)]이다. 따라서 [math(PAx=APx)]이다.
[math((b. \Rightarrow c.))][math(P)]의 작용소 행렬 표현 [math(\begin{bmatrix}I&0\\0&0\end{bmatrix})]에 대하여여
[math(\begin{aligned}PA&=\begin{bmatrix}W&X\\0&0\end{bmatrix}\\
=AP&=\begin{bmatrix}W&0\\Y&0\end{bmatrix}\end{aligned})]
으로, [math(X=Y=0)]이다.
[math((c. \Rightarrow a.))] [math((x,0)\in M\oplus M^\perp)]에 대하여
[math(Ax=\begin{bmatrix}W&0\\0&Z\end{bmatrix}\begin{bmatrix}x\\0\end{bmatrix}=\begin{bmatrix}Wx\\
0\end{bmatrix}\in M)]
이다. 또한 [math((0,y)\in M\oplus M^\perp)]에 대하여
[math(Ax=\begin{bmatrix}W&0\\0&Z\end{bmatrix}\begin{bmatrix}0\\y\end{bmatrix}=\begin{bmatrix}0\\
Zy\end{bmatrix}\in M^\perp)]
이다.
[math((a.\Leftrightarrow d.))] [math(M)]이 [math(A)]의 축소 부분공간이므로 [math(M)]이 [math(A)]의 불변 부분공간임은 자명하다. 임의의 [math(x\in M, y\in M^\perp)]에 대하여 [math(Ay\in M^\perp)]이므로 [math(\left<y, A^*x\right>=\left<Ay, x\right>=0)]으로, [math(A^*x\in (M^\perp)^\perp=M)]이다. 즉, [math(M)]은 [math(A^*)]의 불변 부분공간이다. 반대로, [math(M)]이 [math(A, A^*)]의 불변 부분공간이면 임의의 [math(x\in M, y\in M^\perp)]에 대하여 [math(\left<Ay,x\right>=\left<y,A^*x\right>=0)]이므로 [math(Ay\in M^\perp)]으로 [math(A)]는 [math(M^\perp)]의 불변 부분공간이다.

5.3.2. 사영의 연산

힐베르트 공간의 두 사영 [math(P, Q)]에 대하여 [math(P+Q)]가 사영일 필요충분조건은 [math(\operatorname{ran}P\perp \operatorname{ran} Q)]이다. 이 때,
[math(\begin{aligned}\operatorname{ran}(P+Q)&=\operatorname{ran}P+\operatorname{ran}Q,\\
\ker(P+Q)&=\ker P \cap \ker Q\end{aligned})]
가 성립한다.
증명
[math((\Rightarrow))] [math(P, Q, P+Q)]는 사영이므로 멱등 작용소로, [math((P+Q)^2=P^2+PQ+QP+Q^2=P+Q)]에서 [math(PQ+QP=0)]을 얻는다. 따라서 임의의 [math(x\in H)]에 대하여
[math(\begin{aligned}
&\|(P+Q)x\|^2-\|Qx\|^2\\
&=\|Px\|^2+\left<Px,Qx\right>+\left<Qx,Px\right>\\
&=\|Px\|^2+\left<x,(PQ+QP)x\right>\\
&=\|Px\|^2
\end{aligned})]
이다. 즉, [math(\|Px+Qx\|^2=\|Px\|^2+\|Qx\|^2)]이다. 임의의 [math(x\in \operatorname{ran}P(x\ne0))]에 대하여 [math(Px=x)]이므로
[math(\|x+Qx\|^2=\|x\|^2+\|Qx\|^2)]
를 얻고, 따라서 [math(\operatorname{Re}\left<x, Qx\right>=0)]이다. [math(Q)]는 사영이므로 [math(\left<x, Qx\right>\ge0)]이고 따라서 [math(x\in \ker Q)]이다. [math(\ker Q \perp \operatorname{ran} Q)]이므로 [math(\operatorname{ran}P\perp\operatorname{ran}Q)]이다.
[math((\Leftarrow))] [math(\operatorname{ran}P\perp\operatorname{ran}Q)]이므로 [math(PQ=QP=0)]이다. 따라서 [math((P+Q)^2=P^2+PQ+QP+Q^2=P+Q)]로 [math(P+Q)]는 멱등 작용소이다. 또한 [math((P+Q)^*=P^*+Q^*=P+Q)]이므로 [math(P+Q)]는 사영이다.

임의의
[math(x=(P+Q)(u)\in\operatorname{ran}(P+Q)\quad(u\in H) )]
에 대하여 [math(x=(P+Q)(u)=Pu+Qu\in\operatorname{ran}P+\operatorname{ran}Q)]이다. 반대로 [math(0)]이 아닌 임의의
[math(x=Pu+Qv\in\operatorname{ran}P+\operatorname{ran}Q\quad(u,v\in H))]
라 하면 [math(\operatorname{ran}P\perp \operatorname{ran} Q)]이므로
[math((P+Q)x=Pu+PQv+QPu+Qv=Pu+Qv=x)]
이다. 즉, [math(x\in \operatorname{ran}(P+Q))]이다.

[math(x\in\ker(P+Q))]에 대하여 [math((P+Q)x=0)]이므로 [math(Px=-Qx)]이다. [math(\operatorname{ran}P\perp \operatorname{ran} Q)]이므로
[math(P^2x=Px=-PQx=0\\
Q^2x=Qx=-QPx=0)]
이다. 즉, [math(x\in \ker P \cap\ker Q)]이다. 반대로 [math(x\in \ker P \cap\ker Q)]이면 [math((P+Q)x=Px+Qx=0)]이므로 [math(x\in\ker(P+Q))]이다.

또한 [math(PQ)]가 사영일 필요충분조건은 다음과 같다.
  • [math(PQ=QP)]
  • [math(P+Q-PQ)]가 사영이다.
이 때,
[math(\begin{aligned}\operatorname{ran}(P+Q-PQ)&=\operatorname{ran}P+\operatorname{ran}Q,\\
\ker(P+Q-PQ)&=\ker P \cap \ker Q\end{aligned})]
가 성립한다.
증명
[math(PQ)]는 사영이므로 에르미트 작용소로 [math(PQ=QP)]가 성립한다. 반대로 [math(PQ=QP)]이면 [math((PQ)^2=PQPQ=P^2Q^2=PQ)]로 [math(PQ)]는 멱등 작용소이고, [math(PQ)]는 에르미트 작용소이므로 [math(PQ)]는 사영이다.

5.4. 컴팩트 작용소

5.4.1. 유한계수 작용소

힐베르트 공간 [math(H)]의 작용소 [math(A\in \mathcal{B}(H,K))]에 대하여 [math(\operatorname{ran}A)]의 차원을 계수(rank)라고 한다. 계수가 유한인 작용소를 유한계수 작용소(finite rank operator)라고 하며, [math(H)]에서 [math(K)]로의 연속 유한 계수 작용소들의 공간을 [math(\mathcal{R}(H, K))]로 나타내며, 특히 [math(H=K)]인 경우 [math(\mathcal{R}(H,K)=\mathcal{R}(H))]로 나타낸다.

유한차원 선형사상이 행렬인 것과 같이 유한계수 작용소 또한 행렬과 유사하게 표현할 수 있다. [math(\mathbb{K})]-힐베르트 공간 [math(H, K)]에 대하여 작용소 [math(A\in\mathcal{R}(H,K))]가 유한 계수일 필요충분조건은 다음을 만족시키는 [math(K)]의 유한 정규직교집합 [math(\{e_k\}_{k=1}^N)]과 상수 [math(c_{i,j}\in\mathbb{K})]가 존재하는 것이다.
[math(\displaystyle Ax=\sum_{i, j=1}^N c_{i,j}\left<x,e_j\right>e_i\quad \forall x\in H)]
증명
[math((\Rightarrow))] [math(A(H))]는 [math(K)]의 유한차원 부분공간이므로 유한 정규직교기저 [math(\{d_k\}_{k=1}^n)]을 갖는다. 따라서 임의의 [math(x\in H)]에 대하여
[math(\displaystyle Ax=\sum_{k=1}^n\left<Ax,d_k\right>d_k)]
이다. 수반 작용소의 정의에 따라 위 식은
[math(\displaystyle Ax=\sum_{k=1}^n\left<x,A^*d_k\right>d_k)]
으로 다시 쓸 수 있다. 집합 [math(\{d_1,\ldots,d_n,A^*d_1,\ldots,A^*d_n\})]에 그람-슈미트 직교화 과정을 적용하여 얻은 정규직교집합을 [math(\{e_1,\ldots e_N\})]이라 하면
[math(\displaystyle d_k=\sum_{i=1}^N a_{k,i}e_i,\ A^*d_k=\sum_{j=1}^N b_{k, j}e_j)]
이므로
[math(\displaystyle Ax=\sum_{i, j=1}^N\left(\sum_{k=1}^n a_{k,i}\overline{b_{k, j}}\right)\left<x,e_j\right>e_i)]
이다.
[math((\Leftarrow))] [math(A(H)\subseteq \operatorname{span}\{e_k\}_{k=1}^N)]이므로 [math(\dim A(H)<\infty)]이다.

유한계수 작용소 공간은 대수적 구조를 이룬다. 세 [math(\mathbb{K})]-힐베르트 공간 [math(H, K, L)]에 대하여 다음이 성립한다.
  1. [math(\mathcal{R}(H, K))]는 [math(\mathcal{B}(H, K))]의 선형다양체이다.
  2. [math(A\in \mathcal{R}(K, L), T\in \mathcal{B}(H, K)\Rightarrow AT\in \mathcal{R}(H, L))]
  3. [math(B\in \mathcal{R}(H, K), T\in \mathcal{B}(K, L)\Rightarrow TB\in \mathcal{R}(H, L) )]
  4. [math(A\in \mathcal{R}(H, K)\Leftrightarrow A^*\in \mathcal{R}(H, K) )]이고 [math(\dim(\operatorname{ran}A)=\dim(\operatorname{ran}A^*))]이다.
따라서 힐베르트 공간 [math(H)]의 유한계수 작용소 공간 [math(\mathcal{R}(H))]는 유계 작용소 공간 [math(\mathcal{B}(H))]의 양측 아이디얼이며, 대합 [math(A\mapsto A^*)]를 갖는다.
증명
  1. [math(A_1, A_2\in \mathcal{R}(H, K))], [math(\alpha\in\mathbb{K})]에 대하여 [math(\dim\operatorname{ran}(\alpha A_1+A_2)\le \dim \operatorname{ran}A_1+\dim\operatorname{ran}A_2)]이므로 [math(\alpha A_1+ A_2\in\mathcal{R}(H, K) )]이다.
  2. [math(A(H)\le K)]이므로 [math(AT(H)\le A(K))]이고 따라서 [math(\dim AT(H)\le \dim A(K)<\infty)]이다.
  3. [math(B(H))]의 기저 [math(\{e_1,\ldots e_n\})]에 대하여 [math(TB(H)=\operatorname{span}\{Te_1,\ldots Te_n\})]이므로 [math(\dim TB(H)\le n)]이다.
  4. [math(A\in\mathcal{R}(H, K))]이면 수반 작용소의 성질에 의해 [math(\overline{\operatorname{ran} A}= (\ker A^*)^\perp)]이다. [math(\operatorname{ran} A)]는 유한차원이므로 [math(K)]의 닫힌 부분공간이고, 따라서 [math(\operatorname{ran} A= (\ker A^*)^\perp)]이다. [math(A)]는 유한계수 작용소이므로 [math(A)]의 정의역을 [math((\ker A)^\perp)]으로 제한하면 [math((\ker A)^\perp)]과 [math(\operatorname{ran}A)]사이의 동형사상을 얻고, [math((\ker A)^\perp= \operatorname{ran}A^*)]이므로 [math(\operatorname{ran}(A))]와 [math(\operatorname{ran}(A^*))]는 동형이다. 따라서 [math(A^*)]는 유한계수 작용소이고 [math(\dim(\operatorname{ran}A)=\dim(\operatorname{ran}A^*) )]이 성립한다.

유한계수 작용소 집합은 유계 작용소 공간의 선형다양체이므로 작용소 노름에 의한 노름공간이지만 바나흐 공간은 아니다. [math(l^2)] 공간의 작용소 [math(A_n)]을 [math(x=(x_1,x_2,\ldots))]에 대하여
[math(\displaystyle A_nx=\left(x_1,\frac{x_2}{2}, \ldots,\frac{x_n}{n},0,\ldots\right))]
로 정의하면 각 [math(n)]에 대하여 [math(\dim(\operatorname{ran}A_n)=n)]으로 [math(A_n)]은 유한계수 작용소이다. 또한
[math(\displaystyle Ax=\left(x_1,\frac{x_2}{2}, \ldots,\frac{x_n}{n},\ldots\right))]
로 정의된 작용소 [math(A\in\mathcal{B}(l^2))]에 대하여
[math(\displaystyle\begin{aligned}
\|Ax-A_nx\|_{l^2}^2&=\left(\sum_{m=n+1}^\infty\frac{|x_n|^2}{n^2}\right)\\
&\le\frac{1}{n+1}\|x\|_{l^2}^2
\end{aligned})]
이므로 [math(\|A-A_n\|\le1/(n+1)\to 0)]이다. 그러나 [math(\dim\operatorname{ran}A=\infty)]이므로 [math(A\notin\mathcal{R}(l^2))]이다.

5.4.2. 컴팩트 작용소

두 힐베르트 공간 [math(H, K)]에 대하여 선형변환 [math(A:H\to K)]가 [math(H)]의 유계 부분집합을 [math(K)]의 상대 컴팩트 집합, 즉 컴팩트 폐포를 갖는 집합으로 사상하면 [math(A)]를 컴팩트(compact) 작용소라고 한다. 이는 [math(H)]의 단위구 [math(B)]에 대하여 [math(\overline{A(B)})]가 [math(K)]의 컴팩트 집합임과 동치다. [math(H)]에서 [math(K)]로의 컴팩트 작용소 공간을 [math(\mathcal{K}(H, K))]로 나타내며, 특히 [math(H=K)]인 경우 [math(\mathcal{K}(H,K)=\mathcal{K}(
H))]로 나타낸다. 유한계수 작용소에 의한 단위구의 상은 유한차원 유계 집합이므로 하이네-보렐 정리에 의해 그 폐포는 컴팩트 집합이다. 따라서 유한계수 작용소는 컴팩트 작용소이다.

힐베르트 공간의 컴팩트 집합은 유한차원 부분공간으로 근사 가능한 유계 닫힌 집합이므로 유한계수 작용소의 근사를 통해 컴팩트 작용소의 필요충분조건을 얻을 수 있다. 두 힐베르트 공간 [math(H, K)]의 작용소 [math(A\in\mathcal{B}(H, K))]가 컴팩트일 필요충분조건은 [math(\|A-A_n\|\to0)]를 만족시키는 [math(\mathcal{R}(H, K))]의 작용소열 [math(\{A_n\}_{n=1}^\infty)]이 존재하는 것이다.
증명
[math((\Rightarrow))] [math(A(H))]가 힐베르트 공간 [math(K)]의 컴팩트 부분공간이므로 각 자연수 [math(n)]에 대하여
[math(\displaystyle\sup_{y\in A(H)}\inf_{w\in W_n}\|w-y\|_K<\frac{1}{n})]
을 만족시키는 유한차원 부분공간 [math(W_n\le K)]가 존재한다. [math(W_n)] 위로의 직교정사영 [math(P_n)]에 대하여 [math(A_n=P_nA)]라 하자. [math(P_n)]이 유한계수 작용소이므로 [math(A_n)] 또한 유한계수 작용소이다. 직교정사영의 정의에 의해 임의의 [math(x\in H)]에 대하여
[math(\displaystyle\|Ax-P_n Ax\|_K=\inf_{w\in W_n}\|Ax-w\|_K)]
이므로 [math(\|Ax-P_nAx\|_K<n^{-1})]이다. 따라서 [math(\|A-P_nA\|<n^{-1})]로, [math(n\to\infty)]에 따라 [math(\|A-P_nA\|\to0)]이다. 즉, [math(\|A-A_n\|\to0)]이다.

[math((\Leftarrow))] [math(\mathcal{R}(H, K))]의 작용소열 [math(\{A_n\})]이 [math(A\in\mathcal{B}(H, K))]로 수렴한다 하자. [math(A(B))]가 컴팩트 폐포를 가짐을 보인다. 임의의 [math(\epsilon>0)]에 대하여 [math(\|A-A_n\|<\epsilon/3)]을 만족시키는 자연수 [math(n)]을 택한다. [math(A_n)]은 유한계수 작용소이므로 컴팩트 작용소로, [math(\|x\|_H\le1)]이면 [math(A_n(B)\subseteq \bigcup_{k=1}^m B(A_n x_k,\epsilon/3))]을 만족시키는 유한 개의 벡터 [math(x_1, \ldots , x_m)]이 존재한다. 따라서
[math(\|Ax_k-Ax\|_K\le\|Ax_k-A_n x_k\|_K+\|A_n x_k -A_nx\|_K+\|A_n x-Ax\|_K\\
<2\|A-A_n\|_K+\epsilon/3<\epsilon)]
으로, [math(A(B)\subseteq \bigcup_{k=1}^m B(Ax_k, \epsilon))]이다.

컴팩트 작용소 공간은 유한계수 작용소 공간과 마찬가지로 대수적 구조를 이룬다.
  1. [math(\mathcal{K}(H, K)\le\mathcal{B}(H, K))]이고 [math(\mathcal{R}(H, K))]는 [math(\mathcal{K}(H, K))]이다.
  2. [math(A\in \mathcal{K}(K, L), A\in \mathcal{B}(H, K)\Rightarrow AA\in \mathcal{K}(H, L))]
  3. [math(B\in \mathcal{K}(H, K), A\in \mathcal{B}(K, L)\Rightarrow AB\in \mathcal{K}(H, L) )]
  4. [math(A\in \mathcal{K}(H, K)\Leftrightarrow A^*\in \mathcal{K}(H, K) )]이다.
따라서 힐베르트 공간 [math(H)]의 컴팩트 작용소 공간 [math(\mathcal{K}(H))]는 유계 작용소 공간 [math(\mathcal{B}(H))]의 닫힌 양측 아이디얼이며, 대합 [math(A\mapsto A^*)]를 갖는다.
증명
  1. [math(H)]의 단위구 [math(B)]에 대하여 [math(\overline{\operatorname{ran} A})]가 [math(K)]의 컴팩트 집합이므로 모든 [math(\|x\|_K=1)]인 [math(x\in B)]에 대하여 [math(\|Ax\|_K\le M=M\|x\|_H)]를 만족시키는 [math(M>0)]이 존재한다. 즉, [math(A\le \mathcal{B}(H, K))]이다. [math(\{A_n\})]을 [math(A\in \mathcal{B}(H,K))]로 수렴하는 [math(\mathcal{K}(H, K))]의 작용소열이라 하자. 임의의 [math(\epsilon>0)]에 대하여 [math(\|A-A_n\|<\epsilon/2)]를 만족시키는 [math(A_n)]을 택하면 [math(A_n)]은 컴팩트 작용소이므로 [math(A_n)]으로 수렴하는 유한계수 작용소열 [math(\{A_{n_k}\}_{k=1}^\infty)]가 존재한다. [math(\|A_n-A_{n_k}\|<\epsilon/2)]를 만족시키는 [math(k\in \mathbb{N})]를 택하여 [math(S_n=A_{n_k})]라 하자.
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
[math(\|A-S_n\|\le\|A-A_n\|+\|A_n-S_n\|<\epsilon)]
}}}이므로 [math(\{S_n\})]은 [math(A)]로 수렴하는 유한계수 작용소열이다. 즉 [math(A)]는 컴팩트 작용소이다. 따라서 [math(\mathcal{K}(H, K))]는 [math(\mathcal{B}(H, K))]의 부분공간이다.
  1. [math(\{A_n\})]을 [math(A)]로 수렴하는 [math(\mathcal{R}(H, K))]의 유한계수 작용소열이라 하면 [math(A_n=A_nA)]는 [math(\mathcal{R}(H, L))]의 유한계수 작용소열이다. [math(\|x\|_H=1)]인 임의의 [math(x\in H)]에 대하여
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(\|(A-A_n)Ax\|_L\le\|A-A_n\|\|A\|)]
    }}}이므로 [math(\|AA-A_n\|\le \|A\|\|A-A_n\|\to 0)]로 [math(A_n\to AA)]이다. 즉, [math(AA\in \mathcal{K}(H, L))]이다.
  2. b.의 증명 방법과 동일하다.
  3. [math(\{A_n\})]을 [math(A)]로 수렴하는 [math(\mathcal{R}(H, K))]의 유한계수 작용소열이라 하면. [math(\{A_n^*\})]은 [math(\mathcal{R}(H, K))]의 유한계수 작용소열이다. [math((A-A_n)^*=A^*-A_n^*)]에서 [math(\|A-A_n\|=\|A^*-A_n^*\|)]이므로 [math(A_n^*\to A^*)]로 [math(A^*\in\mathcal{K}(H,K))]이다.

5.5. 작용소의 스펙트럼

유계 작용소의 스펙트럼(spectrum)은 유한차원 작용소의 고윳값을 일반화한 개념이다. 힐베르트 공간 [math(H)]의 유계 작용소 [math(A\in\mathcal{B}(H))]에 대하여 [math(\lambda I-A)]가 가역이 되도록 하는 복소수 [math(\lambda)]의 집합 [math(\rho(A))]를 [math(A)]의 분해집합(resolvent set)이라고 한다. 여기서 [math(I)]는 항등 작용소를 의미한다. 즉, [math(A)]의 분해집합은
[math(\rho(A)=\{\lambda\in\mathbb{C}:\lambda I-A\text{ is invertible} \})]
이다. [math(A)]의 분해집합의 여집합 [math(\sigma(A))]를 [math(A)]의 스펙트럼(spectrum)이라고 한다. 즉, [math(A)]의 스펙트럼은
[math(\sigma(A)=\{\lambda\in\mathbb{C}:\lambda I-A\text{ is not invertible} \}=\mathbb{C}\setminus\rho(M))]
이다. [math(\ker(A-\lambda I)\ne\{0\})]인 복소수 [math(\lambda)]를 [math(A)]의 고윳값(eigenvalue)라 하며, [math(A)]의 고윳값 [math(\lambda)]에 대하여 [math(\dim\ker(A-\lambda I))]를 [math(\lambda)]의 (기하적)중복도(multiplicity)라고 한다. 고윳값의 집합을 점 스펙트럼(point spectrum)이라 하며 [math(\sigma_P(A))]로 나타낸다. 즉, [math(A)]의 점 스펙트럼은
[math(\sigma_P(A)=\{\lambda\in\mathbb{C}:\ker(A-\lambda I)\ne\{0\}\})]
이다. 정의에 따라서 점 스펙트럼은 스펙트럼의 부분집합이다.

유한차원 힐베르트 공간에서 스펙트럼은 점 스펙트럼과 일치한다. 유한차원 힐베르트 공간의 작용소 [math(A)]의 행렬 표현을 [math(M_A)]라고 하면 복소수 [math(\lambda)]에 대하여 [math(A-\lambda)]가 가역일 필요충분조건은 [math(\det(M_A-\lambda I)=0)]이고 행렬 [math(M_A)]의 고윳값 집합은
[math(\{\lambda\in\mathbb{C}:\det(M_A-\lambda I)=0\}=\sigma_P(A))]
이므로 [math(\sigma(A)=\sigma_P(A))]이다.

그러나 무한차원 힐베르트 공간에서 스펙트럼과 점 스펙트럼은 일반적으로 일치하지 않는다. 예를 들어, [math(L^2([0,1]))] 위의 작용소 [math(Af\mapsto xf)]에 대하여 [math(\sigma_P(A)=\varnothing)]이지만 [math(\sigma(A)=[0,1])]이다.

5.5.1. 스펙트럼의 성질

작용소의 스펙트럼은 복소평면의 컴팩트 집합이다. [math(A\in \mathcal{B}(H))]에 대하여
[math(\sigma(A)\subseteq \{\lambda\in\mathbb{C}:|\lambda|\le\|A\|\})]
이다. 특히, 에르미트 작용소의 스펙트럼은 실직선의 컴팩트 집합이다. [math(A=A^*)]인 [math(A\in \mathcal{B}(H))]에 대하여
[math(\displaystyle a_-=\inf_{\|x\|_H=1}\left<Ax,x\right>,\quad a_+=\sup_{\|x\|_H=1}\left<Ax,x\right>)]
라고 할 때, [math(a_-, a_+\in \sigma(A))]이고 [math(\sigma(A)\subseteq [a_-, a_+])]이다. 이 때, [math(\|A\|=\max\{a_+, -a_-\})]이므로 [math(\|A\|)]와 [math(-\|A\|)] 중 적어도 하나의 값이 [math(\sigma(A))]에 속함을 알 수 있다.
증명
[math(A)]의 분해집합 [math(\rho(A))]가 [math(\rho(A)\supseteq \{\lambda\in\mathbb{C}:|\lambda|\le\|A\|\})]를 만족시키는 열린집합임을 보임과 동치이다. [math(\lambda_0\in\rho(A))]에 대하여 [math(A-\lambda_0)]는 가역이고, [math(\mathcal{B}(H))]의 가역작용소 집합 [math(I)]는 [math(\mathcal{B}(H))]의 열린집합이므로
[math(\|S-(A-\lambda_0)\|<\epsilon_0 \Rightarrow S\in I)]
를 만족시키는 [math(\epsilon_0>0)]가 존재한다.
[math(\begin{aligned}
&|\lambda-\lambda_0|<\epsilon_0\\
\Rightarrow&|\lambda-\lambda_0|\|x\|_H<\epsilon_0\|x\|_H\\
\Rightarrow&\|\lambda I -\lambda_0 I\|<\epsilon_0\\
\Rightarrow&\|(A-\lambda)-(A-\lambda_0)\|<\epsilon_0
\end{aligned})]
이므로 [math(\lambda \in \rho(A))]이다. 따라서 [math(\rho(A))]는 [math(\mathcal{B}(H))]의 열린집합이다. [math(|\lambda|>\|A\|)]라고 하자. 그러면 [math(\|\lambda^{-1}A\|<1)]이므로 [math(I-\lambda^{-1}A)]는 가역이다. 따라서 [math(A-\lambda=-\lambda(I-\lambda^{-1}A))]도 가역이고 [math(\lambda\in\rho(A))]이다.

에르미트 작용소 [math(A)]에 대하여 [math(\sigma(A)\subset\mathbb{R})]임을 보인다. 즉, [math(\lambda=s+it(t\ne0))]에 대하여 [math(A-\lambda I)]가 전단사임을 보인다. 이 때, [math(A-\lambda I = (A-sI)-itI)]에 대하여 [math(A-sI)]는 에르미트 작용소이므로 [math(\lambda=it(t\ne0))]인 경우를 고려하는 것만으로 충분하다. [math((A-itI)x=0)]이면 에르미트 작용소의 성질에 의해 [math(\left<Ax,x\right>=it\left<x,x\right>\in\mathbb{R})]이므로 [math(x=0)]이다. 즉, [math(A-itI)]는 단사이다. 또한 [math((A-itI)^*=A+itI)]이므로 [math((A-it)^*)]도 단사로,
[math(\operatorname{ran}(A-itI)^\perp=\ker(A-it)^*=\{0\})]
이다. 따라서
[math(\overline{\operatorname{ran}(A-itI)}=\{0\}^\perp=H)]
로, [math(\operatorname{ran}(A-itI))]는 [math(H)]의 조밀집합이다. 따라서 [math(\operatorname{ran}(A-itI))]가 닫힌집합임을 보인다. [math(\{y_n\}_{n=1}^\infty)]를 [math(\operatorname{ran}(A-itI))]의 수렴하는 점렬이라 하자. [math(y_n=(A-it)x_n\to y)]라 하면 [math(A)]의 에르미트성에 의해
[math(\operatorname{Im}\left<y_m-y_n,x_m-x_n\right>=|t|\|x_m-x_n\|^2)]
이고 코시-슈바르츠 부등식에 의해
[math(\operatorname{Im}\left<y_m-y_n,x_m-x_n\right>\le \|y_m-y_n\|\|x_m-x_n\|)]
이므로
[math(\displaystyle\|x_m-x_n\|\le \frac{1}{|t|}\|y_m-y_n\|)]
이다. [math(\{y_n\}_{n=1}^\infty)]이 수렴하는 점렬이므로 [math(\{x_n\}_{n=1}^\infty)]는 [math(H)]의 코시열이고, 힐베르트 공간의 완비성에 의해 극한 [math(x\in H)]가 존재한다. 유계 작용소의 연속성에 의해
[math(\displaystyle\begin{aligned} \lim_{n\to\infty}y_n&=\lim_{n\to\infty}(A-itI)(x_n)\\
&=(A-itI)\left(\lim_{n\to\infty}x_n\right)\\
&=(A-itI)x\end{aligned})]
이고 극한은 유일하므로 [math(y=\lim_{n\to\infty}(A-itI)x)]이다. 즉, [math(\operatorname{ran}(A-itI))]는 닫힌집합이고 따라서 [math(A-itI)]는 전단사이다.

에르미트 작용소의 성질에 의해 임의의 [math(x\in H)]에 대하여 [math(-\|A\|\le\left<Ax, x\right>\le \|A\|)]이다.
[math(-\|A\|\le a_-\le a_+\le \|A\|)]
이고 상한 및 하한의 정의에 의해 [math(\left<Ax_n^\pm,x_n^\pm\right>)]이 [math(a_\pm)]으로 수렴하는 두 단위벡터열 [math(\{e_n^\pm\})]이 존재한다. [math(\left<(A-a_\pm)e_n^\pm,e_n^\pm\right>\to0)]이므로 [math(a_\pm\in\sigma(A))]이다. [math(b=(a_+-a_-)/2)]라 하면 [math(S=A-bI)]는 에르미트 작용소이고, [math(\sup_{\|x\|=1}|\left<Sx, x\right>|=b)]를 만족시킨다. 따라서 [math(\|S\|=b)]이고 [math(\sigma(S)\subseteq\{x\in\mathbb{R}:|x|\le \|S\|\})]에 의해
[math(\sigma(A)\subseteq[-\|S\|+b, \|S\|+b]=[a_-,a_+])]
이다.

작용소의 스펙트럼은 작용소에 대한 변환에 자연스럽게 대응하여 변환된다. 작용소 [math(A\in \mathcal{B}(H))]에 대하여 다음이 성립한다.
  1. 다항식 [math(p(x)\in\mathbb{C}[x])]에 대하여 [math(\sigma(p(A))=p(\sigma(A))=\{p(\lambda):\lambda\in\sigma(A)\})]이다.
  2. [math(A)]가 가역이면 [math(\sigma(A^{-1})=\sigma(A)^{-1}=\{\lambda^{-1}:\lambda\in\sigma(A)\})]이다.
  3. [math(\sigma(A^*)=\overline{\sigma(A)}=\{\overline{\lambda}:\lambda\in\sigma(A)\})]이다.
증명
(a.) 다항식 [math(p)]와 임의의 [math(\lambda_0\in\sigma(A))]에 대하여 [math(p(\lambda)-p(\lambda_0)=(\lambda=\lambda_0)q(\lambda))]를 만족시키는 다항식 [math(q)]가 존재하고, 이에 따라
[math(p(A)-p(\lambda_0)I=(A-\lambda_0I)q(A))]
를 얻는다. [math(S=(A-\lambda_0I)q(A))]가 가역이라 가정하면
[math(\begin{aligned}
&(A-\lambda_0I)q(A)S^{-1}\\
=&I\\
=&S^{-1}(A-\lambda_0I)q(A)\\
=&S^{-1}q(A)(A-\lambda_0I)
\end{aligned})]
이므로 [math(A-\lambda_0I)]는 가역이다. 이는 모순이므로 [math(S)]는 비가역이다. 따라서 [math(p(\lambda_0)\in\sigma(p(A)))]로, [math(p(\lambda(A))\subseteq\sigma(p(A)))]이다. 반대로 [math(\lambda_0\in\sigma(p(A)))]일 때, [math(\lambda)]에 대한 방정식 [math(p(\lambda)=\lambda_0)]의 근을 [math(\lambda_1,\ldots,\lambda_n)]이라 하면
[math(p(A)-\lambda_0I=\alpha(A-\lambda_1I)\cdots(A-\lambda_nI),\quad\alpha=\lambda^np\left.\left(\dfrac{1}{\lambda}\right)\right|_{\lambda=0})]
이다. [math(p(A)-\lambda_0I)]가 비가역이므로 [math(A-\lambda_kI)]가 비가역인 [math(k(1\le k \le n))]가 존재하고 따라서 [math(\lambda_k\in\sigma(A))]이다. [math(p(\lambda_k)=\lambda_0)]이므로 [math(\lambda_0\in p(\sigma(A)))]로, [math(\sigma(p(A))\subseteq p(\sigma(A)))]이다. 따라서 [math(\sigma(p(A))=p(\sigma(A)))]이다.

(b.) [math(A)]가 가역이므로 [math(0\notin\sigma(A))]이다. [math(\lambda\in\rho(A))]에 대하여 등식
[math(A^{-1}-\lambda^{-1}I=(\lambda I-A)\lambda^{-1}A^{-1})]
에서 [math(A^{-1}-\lambda^{-1})]이므로 [math(\lambda^{-1}\in\rho(A^{-1}))]이다. 즉, [math(\lambda^{-1}\in\sigma(A^{-1}))]이면 [math(\lambda \in \sigma(A))]로, [math(\sigma(A^{-1})\subseteq\sigma(A)^{-1})]이다. 반대로 [math(\lambda\in\rho(A^{-1}))] 및 [math(A^{-1}, (A^{-1})^{-1}=A)]에 대하여 위 과정을 적용하면 [math(\sigma(A^{-1})\supseteq\sigma(A)^{-1})]를 얻는다. 따라서 [math(\sigma(A^{-1})=\sigma(A)^{-1})]이다.

(c.) [math(\lambda\in\rho(A))]에 대하여 [math(A-\lambda I)]가 가역이므로 [math((A-\lambda I)^*=A^*-\overline{\lambda}I)] 또한 가역이고 [math(\overline{\lambda}\in\rho(A^*))]이다. 즉, [math(\sigma(A^*)\subseteq\overline{\sigma(A)})]이다. 반대로 [math(\lambda\in\rho(\overline{A^*}))] 및 [math(A^*, A^{**}=A)]에 대하여 위 과정을 적용하면 [math(\sigma(A^*)\supseteq\overline{\sigma(A)})]를 얻는다. 따라서 [math(\sigma(A^*)=\overline{\sigma(A)})]이다.

5.5.2. 스펙트럼 정리

힐베르트 공간 [math(H)]의 컴팩트 에르미트 작용소 [math(A\in\mathcal{B}(H))]는 가산 개의 서로 다른 고윳값 [math(\lambda_1,\lambda_2,\ldots )] 을 가지며, [math(P_n)]을 [math(\ker(A-\lambda_n))] 위로의 정사영이라 하면 [math(m\ne n)]인 임의의 [math(m, n\in\mathbb{N})]에 대하여 [math(P_n P_m =P_m P_n=0)]이고 다음이 성립한다.
[math(\displaystyle A= \sum_{n=1}^\infty \lambda_n P_n)]
증명
[math(A)]가 에르미트 작용소이므로 [math(|\lambda_1|=\|T\|)]를 만족시키는 실수 [math(\lambda_1\in\sigma_P(A))]가 존재한다.

[math(A)]는 에르미트 작용소로, 정규 작용소이므로 [math(A-\lambda_1 I)]는 정규 작용소이다. 따라서 임의의 [math(x\in H)]에 대하여 [math(\|(A-\lambda_1I)x\|_H=\|(A-\lambda_1I)^*x\|_H)]로, [math(\ker(A-\lambda_1I)=\ker(A-\lambda_1I)^*)]이다. [math(x\in\ker(A-\lambda_1I))]에 대하여
[math(Ax=\lambda_1x\in\ker(A-\lambda_1 I))], [math(A^*x=\overline{\lambda_1}x\in\ker(A-\lambda_1 I))]
이므로 [math(\ker(A-\lambda_1I))]는 [math(A)]의 축소 부분공간이다.

부분공간 [math(E_1, H_2)]를 각각 [math(E_1:=\ker(A-\lambda_1I), H_2:=E_1^\perp)]라 하자. [math(E_1)]은 [math(A)]의 축소 부분공간이므로 [math(H_2)]도 [math(A)]의 축소 부분공간이다. [math(A_2=A|_{H_2})]라 하자. [math(x, y\in H_2)]에 대하여
[math(\left<A_2x, y\right>_H=\left<Ax, y\right>_H=\left<x, Ay\right>_H=\left<x, A_2y\right>_H)]
이고 [math(A_2H_2\subset H_2)]와 [math(A_2H_2=AH_2\subset AH)]에서 [math(\overline{A_2H_2})]는 [math(H_2)]의 컴팩트 부분공간이므로 [math(A_2)]는 [math(H_2)]의 컴팩트 에르미트 작용소이다. 따라서 [math(|\lambda_2|=\|A_2\|)]를 만족시키는 실수 [math(\lambda_2\in\sigma_P(A_2))]가 존재한다. [math(E_2=\ker(A_2-\lambda_2I))]라 하면 [math(\{0\}\ne E_2\subseteq\ker(A-\lambda_2))]이다. [math(\lambda_1=\lambda_2)]이면 [math(E_2 \subseteq E_1)]이다. 그러나 [math(E_1 \perp E_2)]이므로 이는 모순으로, [math(\lambda_1 \ne \lambda_2)]이다. 또한 [math(\|A_2\|\le \|A\|)]이므로 [math(|\lambda_2\|\le \|\lambda_1\|)]이다. [math(H_3=(E_1\oplus E_2)^\perp)]이라 하자. 이를 반복하여 다음을 만족시키는 [math(\sigma_P(A))]의 수열 [math(\{\lambda_n\})]을 얻는다.
  • [math(|\lambda_1\|\ge |\lambda_2|\ge\ldots)]
  • [math(E_n=\ker(A-\lambda_nI), |\lambda_{n+1}=\|T|_{H_{n+1}}\|)]

각 [math(E_n)]에서 단위벡터 [math(e_n)]을 택하자. [math(A)]가 컴팩트 작용소이므로 [math(\{e_n\})]의 수렴하는 부분열 [math(\{e_{n_k}\})]가 존재한다. [math(m\ne n)]이면 [math(e_m \perp e_n)]이고 [math(Te_{n_k}=\lambda_{n_k}e_{n_k})]이므로
[math(\|Te_{n_k}-Te_{n_l}\|^2=\lambda_{n_k}^2+\lambda_{n_l}^2)]
이고 [math(\|Te_{n_k}-Te_{n_l}\|^2\to0)]이므로 [math(|\lambda_{n_k}|\to 0)]이다. 따라서 [math(\lambda_n \to 0)]이다.

[math(P_n)]을 [math(H)]에서 [math(E_n)] 위로의 정사영이라 하자. [math(x\in E_i(1\le i\le n))]에 대하여 [math((A-\sum_{k=1}^n\lambda_k P_k)x=Ax-\lambda_ix=0)]이므로 [math(\bigoplus_{k=1}^n E_k \subseteq \ker(A-\sum_{k=1}^n\lambda_kP_k))]이다. 또한 [math(x\in\left(\bigoplus_{k=1}^n E_k\right)^\perp=H_{n+1} )]이면 [math((A-\sum_{k=1}^n\lambda_kP_k)x=Ax)]이다. 따라서 [math(H_{n+1})]은 [math(T)]의 축소 부분공간이고
[math(\displaystyle\left\|A-\sum_{k=1}^n \lambda_k P_k\right\|=\|T|_{H_{n+1}}\|=\left|\lambda_{n+1}\right|\to0)]
이다. 즉, [math(A=\sum_{n=1}^\infty \lambda_nP_n)]이다.

이는 컴팩트 정규 작용소로 일반화된다. 복소 힐베르트 공간 [math(H)]의 컴팩트 정규 작용소 [math(A\in\mathcal{B}(H))]는 가산 개의 서로 다른 고윳값 [math(\lambda_1, \lambda_2, \ldots)] 를 가지며, [math(P_n)]을 [math(\ker(A-\lambda_n))] 위로의 정사영이라 하면 [math(m\ne n)]인 임의의 [math(m, n\in\mathbb{N})]에 대하여 [math(P_n P_m =P_m P_n=0)]이고 다음이 성립한다.
[math(\displaystyle A= \sum_{n=1}^\infty \lambda_n P_n)]

6. 예시

  • [math(L^2)] 공간: 측도공간 [math((X,\mathcal{M},\mu))]에 대하여 [math(\mathcal{L}^2(X, \mathcal{M},\mu))]를
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(\displaystyle\|f\|_{L^2}=\left(\int_X|f|^2\,d\mu\right)^{\frac{1}{2}}<\infty)]}}}를 만족시키는 보렐 가측 함수의 집합이라 하자. 거의 어디에서나 같은 함수를 동치로 하는 동치 관계 [math(\sim)]에 의한 동치류
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
    [math(L^2(X,\mathcal{M},\mu):=\mathcal{L^2}(X,\mathcal{M},\mu)/\sim)]}}}
    은 내적
    {{{#!wiki style="margin:1.5em 1.5em ;text-align: center;"
[math(\displaystyle\left<f,g\right>=\int_X f\overline{g}\,d\mu)]}}}를 갖는 힐베르트 공간이다.

7. 적용

양자역학에서 힐베르트 공간의 ' 원소'를 바로 ' 양자'로 취급하는데, 이때의 원소란 힐베르트의 공간을 이루는 개개의 계(system)를 의미한다.

8. 관련 문서


[1] 단위구는 일반적인 무한차원 노름공간에서도 컴팩트 집합이 아니다. 자세한 내용은 노름공간문서 참조. [2] 역행렬을 구하는 데에 사용되는 여인수 행렬의 전치행렬과는 관계 없으며, 이러한 행렬은 고전적 수반 행렬이라 한다.