Idempotent linear transformation from a vector space to itself
"Orthogonal projection" redirects here. For the technical drawing concept, see
Orthographic projection . For a concrete discussion of orthogonal projections in finite-dimensional linear spaces, see
Vector projection .
The transformation P is the orthogonal projection onto the line m . 선형 대수(linear algebra) 와 함수형 해석학(functional analysis) 에서, 투영 (projection )은
P
∘
P
=
P
{\displaystyle P\circ P=P}
벡터 공간(vector space) 에서 자체로의 선형 변환(linear transformation)
P
{\displaystyle P}
자기 사상(endomorphism) )입니다. 즉,
P
{\displaystyle P}
P
{\displaystyle P}
거듭상등(idempotent) 입니다). 그것은 그 이미지(image) 를 변경되지 않게 남겨둡니다.[1] 그래픽 투영(graphical projection) 의 아이디어를 공식화하고 일반화합니다. 우리는 역시 대상에서 점(point) 위에 투영의 효과를 조사함으로써 기하학적 대상 위에 투영의 효과를 고려할 수 있습니다.
Definitions 벡터 공간
V
{\displaystyle V}
투영 은
P
2
=
P
{\displaystyle P^{2}=P}
P
:
V
→
V
{\displaystyle P:V\to V}
V
{\displaystyle V}
안의 곱(inner product) 을 가지고 완비 일 때 (즉,
V
{\displaystyle V}
힐베르트 공간 일 때), 직교성(orthogonality) 의 개념은 사용될 수 있습니다. 힐베르트 공간
V
{\displaystyle V}
P
{\displaystyle P}
x
,
y
∈
V
{\displaystyle \mathbf {x} ,\mathbf {y} \in V}
⟨
P
x
,
y
⟩
=
⟨
x
,
P
y
⟩
{\displaystyle \langle P\mathbf {x} ,\mathbf {y} \rangle =\langle \mathbf {x} ,P\mathbf {y} \rangle }
직교 투영 (orthogonal projection )이라고 불립니다. 직교가 아닌 힐베르트 공간 위에 투영은 경사 투영 (oblique projection )이라고 불립니다.
Projection matrix 유한-차원(finite-dimensional) 경우에서, 정사각 행렬(square matrix)
P
{\displaystyle P}
P
2
=
P
{\displaystyle P^{2}=P}
투영 행렬 (projection matrix )이라고 불립니다.[2] : p. 38 정사각 행렬
P
{\displaystyle P}
실수 행렬 에 대해
P
2
=
P
=
P
T
{\displaystyle P^{2}=P=P^{\mathrm {T} }}
복소수 행렬에 대해 각각
P
2
=
P
=
P
∗
{\displaystyle P^{2}=P=P^{*}}
P
T
{\displaystyle P^{\mathrm {T} }}
P
{\displaystyle P}
전치 를 나타내고
P
∗
{\displaystyle P^{*}}
P
{\displaystyle P}
에르미트 전치(Hermitian transpose) 를 나타냅니다.[2] : p. 223
직교 투영 행렬이 아닌 투영 행렬은 경사 투영 행렬 (oblique projection matrix )이라고 불립니다. 투영 행렬의 고윳값(eigenvalues) 은 0 또는 1이어야 합니다.
Examples Orthogonal projection 예를 들어, 삼-차원 공간
R
3
{\displaystyle \mathbb {R} ^{3}}
(
x
,
y
,
z
)
{\displaystyle (x,y,z)}
(
x
,
y
,
0
)
{\displaystyle (x,y,0)}
xy -평면 위로의 직교 투영입니다. 이 함수는 행렬에 의해 표현됩니다:
P
=
[
1
0
0
0
1
0
0
0
0
]
.
{\displaystyle P={\begin{bmatrix}1&0&0\\0&1&0\\0&0&0\end{bmatrix}}.}
임의적인 벡터(vector) 위에 이 행렬의 동작은 다음과 같습니다:
P
[
x
y
z
]
=
[
x
y
0
]
.
{\displaystyle P{\begin{bmatrix}x\\y\\z\end{bmatrix}}={\begin{bmatrix}x\\y\\0\end{bmatrix}}.}
P
{\displaystyle P}
P
=
P
2
{\displaystyle P=P^{2}}
P
2
[
x
y
z
]
=
P
[
x
y
0
]
=
[
x
y
0
]
=
P
[
x
y
z
]
.
{\displaystyle P^{2}{\begin{bmatrix}x\\y\\z\end{bmatrix}}=P{\begin{bmatrix}x\\y\\0\end{bmatrix}}={\begin{bmatrix}x\\y\\0\end{bmatrix}}=P{\begin{bmatrix}x\\y\\z\end{bmatrix}}.}
P
T
=
P
{\displaystyle P^{\mathrm {T} }=P}
Oblique projection 비-직교 (경사) 투영의 간단한 예제는 다음과 같습니다:
P
=
[
0
0
α
1
]
.
{\displaystyle P={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}.}
행렬 곱셈(matrix multiplication) 을 통해, 다음임을 압니다:
P
2
=
[
0
0
α
1
]
[
0
0
α
1
]
=
[
0
0
α
1
]
=
P
.
{\displaystyle P^{2}={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}{\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}={\begin{bmatrix}0&0\\\alpha &1\end{bmatrix}}=P.}
P
{\displaystyle P}
투영
P
{\displaystyle P}
α
=
0
{\displaystyle \alpha =0}
필요충분 조건인데 왜냐하면 오직
P
T
=
P
{\displaystyle P^{\mathrm {T} }=P}
Properties and classification The transformation T is the projection along k onto m . The range of T is m and the null space is k . Idempotence 정의에 의해, 투영
P
{\displaystyle P}
거듭상등 (즉,
P
2
=
P
{\displaystyle P^{2}=P}
Open map 모든 각 투영은 열린 맵(open map) 이며, 그것은 도메인(domain) 에서 각 열린 집합(open set) 을 이미지(image) 의 부분공간 토폴로지(subspace topology) 에서 열린 집합으로 매핑함을 의미합니다. 즉, 임의의 벡터
x
{\displaystyle \mathbf {x} }
x
{\displaystyle \mathbf {x} }
B
x
{\displaystyle B_{\mathbf {x} }}
P
(
B
x
)
{\displaystyle P(B_{\mathbf {x} })}
P
x
{\displaystyle P\mathbf {x} }
B
P
x
{\displaystyle B_{P\mathbf {x} }}
Complementarity of image and kernel
W
{\displaystyle W}
P
{\displaystyle P}
W
{\displaystyle W}
부분공간(subspaces)
U
{\displaystyle U}
V
{\displaystyle V}
P
{\displaystyle P}
이미지(image) 와 커널(kernel) 이라고 가정합니다. 그런-다음
P
{\displaystyle P}
P
{\displaystyle P}
U
{\displaystyle U}
항등 연산자(identity operator)
I
{\displaystyle I}
∀
x
∈
U
:
P
x
=
x
.
{\displaystyle \forall \mathbf {x} \in U:P\mathbf {x} =\mathbf {x} .}
우리는 직접 합(direct sum)
W
=
U
⊕
V
{\displaystyle W=U\oplus V}
x
∈
W
{\displaystyle \mathbf {x} \in W}
u
=
P
x
{\displaystyle \mathbf {u} =P\mathbf {x} }
v
=
x
−
P
x
=
(
I
−
P
)
x
{\displaystyle \mathbf {v} =\mathbf {x} -P\mathbf {x} =\left(I-P\right)\mathbf {x} }
u
∈
U
,
v
∈
V
{\displaystyle \mathbf {u} \in U,\mathbf {v} \in V}
x
=
u
+
v
{\displaystyle \mathbf {x} =\mathbf {u} +\mathbf {v} }
투영의 이미지와 커널은
P
{\displaystyle P}
Q
=
I
−
P
{\displaystyle Q=I-P}
보완적 (complementary )입니다. 연산자
Q
{\displaystyle Q}
P
{\displaystyle P}
Q
{\displaystyle Q}
P
{\displaystyle P}
V
{\displaystyle V}
U
{\displaystyle U}
Q
{\displaystyle Q}
U
{\displaystyle U}
V
{\displaystyle V}
Spectrum 무한-차원 벡터 공간에서, 투영의 스펙트럼(spectrum) 은
{
0
,
1
}
{\displaystyle \{0,1\}}
(
λ
I
−
P
)
−
1
=
1
λ
I
+
1
λ
(
λ
−
1
)
P
.
{\displaystyle (\lambda I-P)^{-1}={\frac {1}{\lambda }}I+{\frac {1}{\lambda (\lambda -1)}}P.}
고윳값(eigenvalue) 이 될 수 있습니다. 이것은 직교 투영
P
{\displaystyle P}
양의 반-한정 행렬 임을 의미합니다. 일반적으로, 해당하는 고유-공간(eigenspaces) 은 (각각) 투영의 커널과 치역입니다. 벡터 공간을 직접 합으로 분해하는 것은 고유하지 않습니다. 그러므로, 부분공간
V
{\displaystyle V}
V
{\displaystyle V}
만약 투영이 자명하지 않으면, 최소 다항식(minimal polynomial)
x
2
−
x
=
x
(
x
−
1
)
{\displaystyle x^{2}-x=x(x-1)}
P
{\displaystyle P}
대각화-가능(diagonalizable) 입니다.
Product of projections 투영의 곱은 심지어 그것들이 직교하더라도 일반적으로 투영이 아닙니다. 만약 두 개의 투영이 교환하면 그것들의 곱은 투영이지만, 그 전환(converse) 은 거짓입니다: 두 개의 비-교환하는 투영의 곱은 투영일 수 있습니다.
만약 두 개의 직교 투영이 교환하면 그것들의 곱은 직교 투영입니다. 만약 두 개의 직교 투영의 곱이 직교 투영이면, 두 개의 직교 투영은 교환합니다 (보다 일반적으로: 두 개의 자기-인접 자기사상(endomorphisms) 이 교환하는 것과 그것들의 곱이 자기-인접인 것은 필요충분 조건입니다).
Orthogonal projections 벡터 공간
W
{\displaystyle W}
안의 곱(inner product) 을 가지고 완비일 때 (힐베르트 공간 일 때), 직교성(orthogonality) 의 개념이 사용될 수 있습니다. 직교 투영 (orthogonal projection )은 치역
U
{\displaystyle U}
V
{\displaystyle V}
직교 부분공간(orthogonal subspaces) 인 투영입니다. 따라서,
W
{\displaystyle W}
x
{\displaystyle \mathbf {x} }
y
{\displaystyle \mathbf {y} }
⟨
P
x
,
(
y
−
P
y
)
⟩
=
⟨
(
x
−
P
x
)
,
P
y
⟩
=
0
{\displaystyle \langle P\mathbf {x} ,(\mathbf {y} -P\mathbf {y} )\rangle =\langle (\mathbf {x} -P\mathbf {x} ),P\mathbf {y} \rangle =0}
⟨
x
,
P
y
⟩
=
⟨
P
x
,
P
y
⟩
=
⟨
P
x
,
y
⟩
.
{\displaystyle \langle \mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,\mathbf {y} \rangle .}
투영이 직교인 것과 그것이 자기-인접(self-adjoint) 인 것은 필요충분 조건입니다.
P
{\displaystyle P}
W
{\displaystyle W}
x
{\displaystyle \mathbf {x} }
y
{\displaystyle \mathbf {y} }
y
−
P
y
∈
V
{\displaystyle \mathbf {y} -P\mathbf {y} \in V}
⟨
P
x
,
y
−
P
y
⟩
=
⟨
x
,
(
P
−
P
2
)
y
⟩
=
0
{\displaystyle \langle P\mathbf {x} ,\mathbf {y} -P\mathbf {y} \rangle =\langle \mathbf {x} ,\left(P-P^{2}\right)\mathbf {y} \rangle =0}
⟨
⋅
,
⋅
⟩
{\displaystyle \langle \cdot ,\cdot \rangle }
W
{\displaystyle W}
P
{\displaystyle P}
I
−
P
{\displaystyle I-P}
[3]
P
{\displaystyle P}
W
{\displaystyle W}
x
{\displaystyle x}
y
{\displaystyle y}
⟨
(
x
−
P
x
)
,
P
y
⟩
=
⟨
P
x
,
(
y
−
P
y
)
⟩
=
0
{\displaystyle \langle (\mathbf {x} -P\mathbf {x} ),P\mathbf {y} \rangle =\langle P\mathbf {x} ,(\mathbf {y} -P\mathbf {y} )\rangle =0}
⟨
x
,
P
y
⟩
=
⟨
P
x
,
P
y
⟩
=
⟨
P
x
,
y
⟩
=
⟨
x
,
P
∗
y
⟩
{\displaystyle \langle \mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,P\mathbf {y} \rangle =\langle P\mathbf {x} ,\mathbf {y} \rangle =\langle \mathbf {x} ,P^{*}\mathbf {y} \rangle }
P
=
P
∗
{\displaystyle P=P^{*}}
Proof of existence
H
{\displaystyle H}
안의 곱 을 갖는 완비 메트릭 공간이라고 놓고
U
{\displaystyle U}
H
{\displaystyle H}
선형 부분공간 (및 따라서 마찬가지로 완비)이라고 놓습니다.
모든 각
x
{\displaystyle \mathbf {x} }
노름 -값의 다음 집합
{
‖
x
−
u
‖
:
u
∈
U
}
{\displaystyle \{\|\mathbf {x} -\mathbf {u} \|:\mathbf {u} \in U\}}
하한 을 가지고,
U
{\displaystyle U}
최솟값 입니다. 우리는
P
x
{\displaystyle P\mathbf {x} }
U
{\displaystyle U}
분명하게
P
x
{\displaystyle P\mathbf {x} }
U
{\displaystyle U}
P
x
{\displaystyle P\mathbf {x} }
⟨
x
−
P
x
,
P
x
⟩
=
0
{\displaystyle \langle \mathbf {x} -P\mathbf {x} ,P\mathbf {x} \rangle =0}
a
=
x
−
P
x
{\displaystyle \mathbf {a} =\mathbf {x} -P\mathbf {x} }
U
{\displaystyle U}
v
{\displaystyle \mathbf {v} }
‖
a
−
⟨
a
,
v
⟩
‖
v
‖
2
v
‖
2
=
‖
a
‖
2
−
⟨
a
,
v
⟩
2
‖
v
‖
2
{\displaystyle \left\|\mathbf {a} -{\frac {\langle \mathbf {a} ,\mathbf {v} \rangle }{\|\mathbf {v} \|^{2}}}\mathbf {v} \right\|^{2}=\|\mathbf {a} \|^{2}-{\frac {{\langle \mathbf {a} ,\mathbf {v} \rangle }^{2}}{\|\mathbf {v} \|^{2}}}}
w
=
P
x
+
⟨
a
,
v
⟩
‖
v
‖
2
v
{\displaystyle \mathbf {w} =P\mathbf {x} +{\frac {\langle \mathbf {a} ,\mathbf {v} \rangle }{\|\mathbf {v} \|^{2}}}\mathbf {v} }
⟨
a
,
v
⟩
{\displaystyle \langle \mathbf {a} ,\mathbf {v} \rangle }
‖
x
−
w
‖
<
‖
x
−
P
x
‖
{\displaystyle \|\mathbf {x} -\mathbf {w} \|<\|\mathbf {x} -P\mathbf {x} \|}
P
x
{\displaystyle P\mathbf {x} }
⟨
a
,
v
⟩
{\displaystyle \langle \mathbf {a} ,\mathbf {v} \rangle }
y
=
P
x
{\displaystyle \mathbf {y} =P\mathbf {x} }
⟨
x
−
P
x
,
P
x
⟩
=
0
{\displaystyle \langle \mathbf {x} -P\mathbf {x} ,P\mathbf {x} \rangle =0}
선형성은 모든 각
v
∈
U
{\displaystyle \mathbf {v} \in U}
⟨
x
−
P
x
,
v
⟩
{\displaystyle \langle \mathbf {x} -P\mathbf {x} ,\mathbf {v} \rangle }
⟨
(
x
+
y
)
−
P
(
x
+
y
)
,
v
⟩
=
0
{\displaystyle \langle \left(\mathbf {x} +\mathbf {y} \right)-P\left(\mathbf {x} +\mathbf {y} \right),\mathbf {v} \rangle =0}
⟨
(
x
−
P
x
)
+
(
y
−
P
y
)
,
v
⟩
=
0
{\displaystyle \langle \left(\mathbf {x} -P\mathbf {x} \right)+\left(\mathbf {y} -P\mathbf {y} \right),\mathbf {v} \rangle =0}
⟨
P
x
+
P
y
−
P
(
x
+
y
)
,
v
⟩
=
0
{\displaystyle \langle P\mathbf {x} +P\mathbf {y} -P\left(\mathbf {x} +\mathbf {y} \right),\mathbf {v} \rangle =0}
v
=
P
x
+
P
y
−
P
(
x
+
y
)
{\displaystyle \mathbf {v} =P\mathbf {x} +P\mathbf {y} -P(\mathbf {x} +\mathbf {y} )}
U
{\displaystyle U}
P
x
+
P
y
=
P
(
x
+
y
)
{\displaystyle P\mathbf {x} +P\mathbf {y} =P(\mathbf {x} +\mathbf {y} )}
스칼라
λ
{\displaystyle \lambda }
λ
P
x
=
P
(
λ
x
)
{\displaystyle \lambda P\mathbf {x} =P(\lambda \mathbf {x} )}
Properties and special cases 직교 투영은 경계진 연산자(bounded operator) 입니다. 이는 코시–슈바르츠 부등식(Cauchy–Schwarz inequality) 에 의해 벡터 공간에서 모든 각
v
{\displaystyle \mathbf {v} }
‖
P
v
‖
2
=
⟨
P
v
,
P
v
⟩
=
⟨
P
v
,
v
⟩
≤
‖
P
v
‖
⋅
‖
v
‖
{\displaystyle \left\|P\mathbf {v} \right\|^{2}=\langle P\mathbf {v} ,P\mathbf {v} \rangle =\langle P\mathbf {v} ,\mathbf {v} \rangle \leq \left\|P\mathbf {v} \right\|\cdot \left\|\mathbf {v} \right\|}
‖
P
v
‖
≤
‖
v
‖
{\displaystyle \left\|P\mathbf {v} \right\|\leq \left\|\mathbf {v} \right\|}
유한-차원 복소수 또는 실수 벡터 공간에 대해, 표준 안의 곱(standard inner product) 이
⟨
⋅
,
⋅
⟩
{\displaystyle \langle \cdot ,\cdot \rangle }
Formulas 직교 투영이 직선 위에 있을 때 간단한 경우가 발생합니다. 만약
u
{\displaystyle \mathbf {u} }
단위 벡터(unit vector) 이면, 그 투영은 밖의 곱(outer product) 에 의해 제공됩니다:
P
u
=
u
u
T
.
{\displaystyle P_{\mathbf {u} }=\mathbf {u} \mathbf {u} ^{\mathsf {T}}.}
u
{\displaystyle \mathbf {u} }
u 를 불변으로 남기고,
u
{\displaystyle \mathbf {u} }
u
{\displaystyle \mathbf {u} }
[4]
x
{\displaystyle \mathbf {x} }
x
=
x
∥
+
x
⊥
{\displaystyle \mathbf {x} =\mathbf {x} _{\parallel }+\mathbf {x} _{\perp }}
점 곱(dot product) 의 속성에 의해 다음을 얻습니다:
P
u
x
=
u
u
T
x
∥
+
u
u
T
x
⊥
=
u
(
sgn
(
u
T
x
∥
)
‖
x
∥
‖
)
+
u
⋅
0
=
x
∥
{\displaystyle P_{\mathbf {u} }\mathbf {x} =\mathbf {u} \mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\parallel }+\mathbf {u} \mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\perp }=\mathbf {u} \left(\operatorname {sgn} \left(\mathbf {u} ^{\mathsf {T}}\mathbf {x} _{\parallel }\right)\left\|\mathbf {x} _{\parallel }\right\|\right)+\mathbf {u} \cdot \mathbf {0} =\mathbf {x} _{\parallel }}
차원(dimension) 의 부분공간에 대한 직교 투영으로 일반화될 수 있습니다.
u
1
,
…
,
u
k
{\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}
k
≥
1
{\displaystyle k\geq 1}
U
{\displaystyle U}
직교-정규 기저(orthonormal basis) 라고 놓고,
A
{\displaystyle A}
u
1
,
…
,
u
k
{\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}
n
×
k
{\displaystyle n\times k}
A
=
[
u
1
⋯
u
k
]
{\displaystyle A={\begin{bmatrix}\mathbf {u} _{1}&\cdots &\mathbf {u} _{k}\end{bmatrix}}}
[5]
P
A
=
A
A
T
{\displaystyle P_{A}=AA^{\mathsf {T}}}
P
A
=
∑
i
⟨
u
i
,
⋅
⟩
u
i
.
{\displaystyle P_{A}=\sum _{i}\langle \mathbf {u} _{i},\cdot \rangle \mathbf {u} _{i}.}
행렬
A
T
{\displaystyle A^{\mathsf {T}}}
U
{\displaystyle U}
직교 여(orthogonal complement) 에서 사라지는 부분 등거리-변환(partial isometry) 이고
A
{\displaystyle A}
U
{\displaystyle U}
P
A
{\displaystyle P_{A}}
A
{\displaystyle A}
마지막 공간 (final space )입니다.
A
A
T
{\displaystyle AA^{\mathsf {T}}}
U
{\displaystyle U}
직교-정규성 조건도 버려질 수 있습니다. 만약
u
1
,
…
,
u
k
{\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}
k
≥
1
{\displaystyle k\geq 1}
기저(basis) 이고,
A
{\displaystyle A}
[6] [7]
P
A
=
A
(
A
T
A
)
−
1
A
T
.
{\displaystyle P_{A}=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}.}
A
{\displaystyle A}
U
{\displaystyle U}
(
A
T
A
)
−
1
{\displaystyle \left(A^{\mathsf {T}}A\right)^{-1}}
랭크 -1 연산자
u
u
T
{\displaystyle \mathbf {u} \mathbf {u} ^{\mathsf {T}}}
‖
u
‖
≠
1
{\displaystyle \left\|\mathbf {u} \right\|\neq 1}
u
T
u
=
‖
u
‖
2
{\displaystyle \mathbf {u} ^{\mathsf {T}}\mathbf {u} =\left\|\mathbf {u} \right\|^{2}}
u
{\displaystyle u}
u
(
u
T
u
)
−
1
u
T
{\displaystyle \mathbf {u} \left(\mathbf {u} ^{\mathsf {T}}\mathbf {u} \right)^{-1}\mathbf {u} ^{\mathsf {T}}}
일반적인 경우에서, 안의 곱
⟨
x
,
y
⟩
D
=
y
†
D
x
{\displaystyle \langle x,y\rangle _{D}=y^{\dagger }Dx}
양의 한정(positive definite) 행렬
D
{\displaystyle D}
P
A
{\displaystyle P_{A}}
P
A
x
=
argmin
y
∈
range
(
A
)
‖
x
−
y
‖
D
2
{\textstyle P_{A}x=\operatorname {argmin} _{y\in \operatorname {range} (A)}\left\|x-y\right\|_{D}^{2}}
P
A
=
A
(
A
T
D
A
)
−
1
A
T
D
.
{\displaystyle P_{A}=A\left(A^{\mathsf {T}}DA\right)^{-1}A^{\mathsf {T}}D.}
투영의 치역 공간이 프레임(frame) 에 의해 생성될 때 (즉, 생성기의 숫자가 그것의 차원보다 클 때), 투영에 대한 공식은 형식:
P
A
=
A
A
+
{\displaystyle P_{A}=AA^{+}}
A
+
{\displaystyle A^{+}}
무어-펜로즈 유사역행렬(Moore–Penrose pseudoinverse) 을 나타냅니다. 이것은 투영 연산자를 구성하기 위한 여러 방법 중 하나일 뿐입니다.
만약
[
A
B
]
{\displaystyle {\begin{bmatrix}A&B\end{bmatrix}}}
A
T
B
=
0
{\displaystyle A^{\mathsf {T}}B=0}
B
{\displaystyle B}
A
{\displaystyle A}
널 공간(null space) 행렬이면),[8]
I
=
[
A
B
]
[
A
B
]
−
1
[
A
T
B
T
]
−
1
[
A
T
B
T
]
=
[
A
B
]
(
[
A
T
B
T
]
[
A
B
]
)
−
1
[
A
T
B
T
]
=
[
A
B
]
[
A
T
A
O
O
B
T
B
]
−
1
[
A
T
B
T
]
=
A
(
A
T
A
)
−
1
A
T
+
B
(
B
T
B
)
−
1
B
T
{\displaystyle {\begin{aligned}I&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}\left({\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}\right)^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A^{\mathsf {T}}A&O\\O&B^{\mathsf {T}}B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\[4pt]&=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}+B\left(B^{\mathsf {T}}B\right)^{-1}B^{\mathsf {T}}\end{aligned}}}
만약 직교 조건이
W
{\displaystyle W}
A
T
W
B
=
A
T
W
T
B
=
0
{\displaystyle A^{\mathsf {T}}WB=A^{\mathsf {T}}W^{\mathsf {T}}B=0}
I
=
[
A
B
]
[
(
A
T
W
A
)
−
1
A
T
(
B
T
W
B
)
−
1
B
T
]
W
.
{\displaystyle I={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}\left(A^{\mathsf {T}}WA\right)^{-1}A^{\mathsf {T}}\\\left(B^{\mathsf {T}}WB\right)^{-1}B^{\mathsf {T}}\end{bmatrix}}W.}
모든 이들 공식은 켤레 전치(conjugate transpose) 가 전치 대신 사용된다는 조건으로 해서 복소 안의 곱 공간에도 유지됩니다. 투영기의 합에 대한 자세한 내용은 Banerjee and Roy (2014)에서 확인할 수 있습니다.[9] 구형 삼각법(spherical trigonometry) 에서 투영기의 합의 적용에 대해 Banerjee (2004)[10]
Oblique projections 용어 경사 투영 (oblique projections )은 때때로 비-직교 투영을 나타내기 위해 사용됩니다. 이들 투영은 직각 투영만큼 자주는 아니지만 2-차원 도면에서 공간 그림을 나타내는 데에도 사용됩니다 (경사 투영 참조). 보통의 최소 제곱 회귀의 피팅된 값을 계산하려면 직교 투영이 필요한 반면 도구 변수 회귀 의 피팅된 값을 계산하려면 경사 투영이 필요합니다.
투영은 그것들의 널 공간과 그것들의 치역을 특성화하기 위해 사용되는 기저 벡터 (이는 널 공간의 여)에 의해 정의됩니다. 이들 기저 벡터가 널 공간에 직교하면 투영은 직교 투영입니다. 이들 기저 벡터가 널 공간에 직교하지 않으면 투영은 경사 투영이거나, 단지 일반적인 투영입니다.
A matrix representation formula for a nonzero projection operator
P
{\displaystyle P}
P
2
=
P
{\displaystyle P^{2}=P}
P
:
V
→
V
{\displaystyle P:V\to V}
P
:
V
→
V
{\displaystyle P:V\to V}
u
1
,
…
,
u
k
{\displaystyle \mathbf {u} _{1},\ldots ,\mathbf {u} _{k}}
n
×
k
{\displaystyle n\times k}
A
{\displaystyle A}
k
≥
1
{\displaystyle k\geq 1}
k
=
0
{\displaystyle k=0}
P
{\displaystyle P}
n
−
k
{\displaystyle n-k}
직교 여(orthogonal complement) 는 차원
k
{\displaystyle k}
v
1
,
…
,
v
k
{\displaystyle \mathbf {v} _{1},\ldots ,\mathbf {v} _{k}}
B
{\displaystyle B}
P
{\displaystyle P}
k
≥
1
{\displaystyle k\geq 1}
P
=
A
(
B
T
A
)
−
1
B
T
.
{\displaystyle P=A\left(B^{\mathsf {T}}A\right)^{-1}B^{\mathsf {T}}.}
이 표현은 위에 주어진 직교 투영에 대한 공식을 일반화합니다.[11] [12]
V
{\displaystyle V}
x
{\displaystyle \mathbf {x} }
x
=
x
1
+
x
2
{\displaystyle \mathbf {x} =\mathbf {x} _{1}+\mathbf {x} _{2}}
x
1
=
P
(
x
)
{\displaystyle \mathbf {x} _{1}=P(\mathbf {x} )}
P
{\displaystyle P}
x
2
=
x
−
P
(
x
)
{\displaystyle \mathbf {x} _{2}=\mathbf {x} -P(\mathbf {x} )}
P
(
x
2
)
=
P
(
x
)
−
P
2
(
x
)
=
0
{\displaystyle P(\mathbf {x} _{2})=P(\mathbf {x} )-P^{2}(\mathbf {x} )=\mathbf {0} }
x
2
{\displaystyle \mathbf {x} _{2}}
P
{\displaystyle P}
x
1
{\displaystyle \mathbf {x} _{1}}
x
1
{\displaystyle \mathbf {x} _{1}}
k
{\displaystyle k}
w
{\displaystyle \mathbf {w} }
x
1
=
A
w
{\displaystyle \mathbf {x} _{1}=A\mathbf {w} }
x
2
{\displaystyle \mathbf {x} _{2}}
B
{\displaystyle B}
B
T
x
2
=
0
{\displaystyle B^{\mathsf {T}}\mathbf {x} _{2}=\mathbf {0} }
B
T
x
2
=
0
{\displaystyle B^{\mathsf {T}}\mathbf {x} _{2}=\mathbf {0} }
w
{\displaystyle \mathbf {w} }
A
{\displaystyle A}
B
{\displaystyle B}
k
{\displaystyle k}
k
×
k
{\displaystyle k\times k}
B
T
A
{\displaystyle B^{\mathsf {T}}A}
B
T
(
x
−
A
w
)
=
0
{\displaystyle B^{\mathsf {T}}(\mathbf {x} -A\mathbf {w} )=\mathbf {0} }
w
=
(
B
T
A
)
−
1
B
T
x
{\displaystyle \mathbf {w} =(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}\mathbf {x} }
x
∈
V
{\displaystyle \mathbf {x} \in V}
P
x
=
x
1
=
A
w
=
A
(
B
T
A
)
−
1
B
T
x
{\displaystyle P\mathbf {x} =\mathbf {x} _{1}=A\mathbf {w} =A(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}\mathbf {x} }
P
x
=
x
1
=
A
w
=
A
(
B
T
A
)
−
1
B
T
x
{\displaystyle P\mathbf {x} =\mathbf {x} _{1}=A\mathbf {w} =A(B^{\mathsf {T}}A)^{-1}B^{\mathsf {T}}\mathbf {x} }
P
{\displaystyle P}
A
=
B
{\displaystyle A=B}
P
=
A
(
A
T
A
)
−
1
A
T
{\displaystyle P=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}}
P
=
P
T
{\displaystyle P=P^{\mathsf {T}}}
에르미트 전치(Hermitian transpose)
A
∗
{\displaystyle A^{*}}
P
=
A
(
A
∗
A
)
−
1
A
∗
{\displaystyle P=A\left(A^{*}A\right)^{-1}A^{*}}
A
{\displaystyle A}
무어-펜로즈 역(Moore–Penrose inverse) 을
A
+
=
(
A
∗
A
)
−
1
A
∗
{\displaystyle A^{+}=(A^{*}A)^{-1}A^{*}}
A
{\displaystyle A}
P
=
A
A
+
{\displaystyle P=AA^{+}}
Singular values
I
−
P
{\displaystyle I-P}
P
{\displaystyle P}
I
−
P
{\displaystyle I-P}
A
{\displaystyle A}
직교-정규 기저(orthonormal basis) 에 의해 계산될 수 있습니다.
Q
A
{\displaystyle Q_{A}}
A
{\displaystyle A}
A
{\displaystyle A}
Q
A
{\displaystyle Q_{A}}
직교 여(orthogonal complement) 라고 놓습니다. 양의 값
γ
1
≥
γ
2
≥
…
≥
γ
k
{\displaystyle \gamma _{1}\geq \gamma _{2}\geq \ldots \geq \gamma _{k}}
Q
A
T
A
(
B
T
A
)
−
1
B
T
Q
A
⊥
{\displaystyle Q_{A}^{T}A(B^{T}A)^{-1}B^{T}Q_{A}^{\perp }}
P
{\displaystyle P}
[13]
σ
i
=
{
1
+
γ
i
2
1
≤
i
≤
k
0
otherwise
{\displaystyle \sigma _{i}={\begin{cases}{\sqrt {1+\gamma _{i}^{2}}}&1\leq i\leq k\\0&{\text{otherwise}}\end{cases}}}
I
−
P
{\displaystyle I-P}
σ
i
=
{
1
+
γ
i
2
1
≤
i
≤
k
1
k
+
1
≤
i
≤
n
−
k
0
otherwise
{\displaystyle \sigma _{i}={\begin{cases}{\sqrt {1+\gamma _{i}^{2}}}&1\leq i\leq k\\1&k+1\leq i\leq n-k\\0&{\text{otherwise}}\end{cases}}}
P
{\displaystyle P}
I
−
P
{\displaystyle I-P}
행렬 노름(matrix norm) 이 같음을 의미합니다. 어쨌든, 조건 숫자(condition number) 는 관계
κ
(
I
−
P
)
=
σ
1
1
≥
σ
1
σ
k
=
κ
(
P
)
{\displaystyle \kappa (I-P)={\frac {\sigma _{1}}{1}}\geq {\frac {\sigma _{1}}{\sigma _{k}}}=\kappa (P)}
Finding projection with an inner product
V
{\displaystyle V}
u
1
,
u
2
,
…
,
u
p
{\displaystyle \mathbf {u} _{1},\mathbf {u} _{2},\dots ,\mathbf {u} _{p}}
y
{\displaystyle y}
V
{\displaystyle V}
y
{\displaystyle \mathbf {y} }
proj
V
y
=
y
⋅
u
i
u
i
⋅
u
i
u
i
{\displaystyle \operatorname {proj} _{V}\mathbf {y} ={\frac {\mathbf {y} \cdot \mathbf {u} ^{i}}{\mathbf {u} ^{i}\cdot \mathbf {u} ^{i}}}\mathbf {u} ^{i}}
아인슈타인 합 표기법 ). 벡터
y
{\displaystyle \mathbf {y} }
y
=
proj
V
y
+
z
{\displaystyle \mathbf {y} =\operatorname {proj} _{V}\mathbf {y} +\mathbf {z} }
proj
V
y
{\displaystyle \operatorname {proj} _{V}\mathbf {y} }
y
^
{\displaystyle {\hat {\mathbf {y} }}}
z
{\displaystyle \mathbf {z} }
y
{\displaystyle \mathbf {y} }
V
{\displaystyle V}
직교 거리 기계 학습(machine learning) 과 같은 영역에서 사용됩니다.
y is being projected onto the vector space V .Canonical forms 필드(field) 에 걸쳐 차원
d
{\displaystyle d}
P
=
P
2
{\displaystyle P=P^{2}}
대각-가능 행렬(diagonalizable matrix) 인데, 왜냐하면 최소 다항식(minimal polynomial) 이 별개의 선형 인수로 분할되는
x
2
−
x
{\displaystyle x^{2}-x}
P
{\displaystyle P}
P
=
I
r
⊕
0
d
−
r
{\displaystyle P=I_{r}\oplus 0_{d-r}}
여기서
r
{\displaystyle r}
P
{\displaystyle P}
랭크(rank) 입니다. 여기서
I
r
{\displaystyle I_{r}}
r
{\displaystyle r}
항등 행렬(identity matrix) 이고,
0
d
−
r
{\displaystyle 0_{d-r}}
d
−
r
{\displaystyle d-r}
영 행렬(zero matrix) 이고,
⊕
{\displaystyle \oplus }
직접 합(direct sum) 연산자입니다. 만약 벡터 공간이 복소수이고 안의 곱(inner product) 을 갖추고 있으면,
P
{\displaystyle P}
직교-정규 기저가 있습니다:[14]
P
=
[
1
σ
1
0
0
]
⊕
⋯
⊕
[
1
σ
k
0
0
]
⊕
I
m
⊕
0
s
.
{\displaystyle P={\begin{bmatrix}1&\sigma _{1}\\0&0\end{bmatrix}}\oplus \cdots \oplus {\begin{bmatrix}1&\sigma _{k}\\0&0\end{bmatrix}}\oplus I_{m}\oplus 0_{s}.}
여기서
σ
1
≥
σ
2
≥
⋯
≥
σ
k
>
0
{\displaystyle \sigma _{1}\geq \sigma _{2}\geq \dots \geq \sigma _{k}>0}
정수(integers)
k
,
s
,
m
{\displaystyle k,s,m}
σ
i
{\displaystyle \sigma _{i}}
2
k
+
s
+
m
=
d
{\displaystyle 2k+s+m=d}
I
m
⊕
0
s
{\displaystyle I_{m}\oplus 0_{s}}
P
{\displaystyle P}
P
{\displaystyle P}
k
=
0
{\displaystyle k=0}
직교 투영으로 작용하는 최대 불변 부분공간에 해당하고
σ
i
{\displaystyle \sigma _{i}}
경사 성분에 해당합니다.
Projections on normed vector spaces 놓여있는 벡터 공간
X
{\displaystyle X}
노름화된 벡터 공간 일 때, 유한-차원 경우와 무관한 해석적 질문은 고려되어야 합니다. 이제
X
{\displaystyle X}
바나흐 공간(Banach space) 이라고 가정합니다.
위에서 논의된 많은 대수적 결과는 이 문맥으로 넘어가도 살아남습니다.
X
{\displaystyle X}
X
{\displaystyle X}
X
=
U
⊕
V
{\displaystyle X=U\oplus V}
P
(
u
+
v
)
=
u
{\displaystyle P(u+v)=u}
U
{\displaystyle U}
V
{\displaystyle V}
P
2
=
P
{\displaystyle P^{2}=P}
P
{\displaystyle P}
X
{\displaystyle X}
P
2
=
P
{\displaystyle P^{2}=P}
(
1
−
P
)
2
=
(
1
−
P
)
{\displaystyle (1-P)^{2}=(1-P)}
1
−
P
{\displaystyle 1-P}
P
2
=
P
{\displaystyle P^{2}=P}
1
=
P
+
(
1
−
P
)
{\displaystyle 1=P+(1-P)}
X
{\displaystyle X}
rg
(
P
)
⊕
rg
(
1
−
P
)
{\displaystyle \operatorname {rg} (P)\oplus \operatorname {rg} (1-P)}
어쨌든, 유한-차원 경우와 달리, 투영은 일반적으로 연속(continuous) 일 필요는 없습니다. 만약
X
{\displaystyle X}
U
{\displaystyle U}
U
{\displaystyle U}
P
{\displaystyle P}
연속 투영
P
{\displaystyle P}
X
{\displaystyle X}
닫힌 부분공간으로 분해를 제공합니다:
X
=
rg
(
P
)
⊕
ker
(
P
)
=
ker
(
1
−
P
)
⊕
ker
(
P
)
{\displaystyle X=\operatorname {rg} (P)\oplus \ker(P)=\ker(1-P)\oplus \ker(P)}
그 전환은 추가 가정과 함께 유지됩니다.
U
{\displaystyle U}
X
{\displaystyle X}
X = U ⊕ V
V
{\displaystyle V}
U
{\displaystyle U}
V
{\displaystyle V}
P
{\displaystyle P}
닫힌 그래프 정리( closed graph theorem) 에서 따릅니다. xn → x Pxn → y
P
x
=
y
{\displaystyle Px=y}
U
{\displaystyle U}
{Pxn } ⊂ U 이므로, y 는
U
{\displaystyle U}
Py = y xn − Pxn = (I − P )xn → x − y
V
{\displaystyle V}
{(I − P )xn } ⊂ V 이기 때문에,
x
−
y
∈
V
{\displaystyle x-y\in V}
P
(
x
−
y
)
=
P
x
−
P
y
=
P
x
−
y
=
0
{\displaystyle P(x-y)=Px-Py=Px-y=0}
위의 논증은
U
{\displaystyle U}
V
{\displaystyle V}
U
{\displaystyle U}
V
{\displaystyle V}
힐베르트 공간(Hilbert spaces) 에 대해 이것은 항상 직교 여(orthogonal complement) 를 취함으로써 수행될 수 있습니다. 바나흐 공간에 대해, 일-차원 부분공간은 항상 닫힌 여적인 부분공간을 가집니다. 이것은 한–바나흐 정리(Hahn–Banach theorem) 의 즉각적인 결과입니다.
U
{\displaystyle U}
u
{\displaystyle u}
φ (u ) = 1선형 함수형(linear functional)
φ
{\displaystyle \varphi }
P
(
x
)
=
φ
(
x
)
u
{\displaystyle P(x)=\varphi (x)u}
P
2
=
P
{\displaystyle P^{2}=P}
φ
{\displaystyle \varphi }
P
{\displaystyle P}
ker
(
P
)
=
rg
(
I
−
P
)
{\displaystyle \ker(P)=\operatorname {rg} (I-P)}
U
{\displaystyle U}
Applications and further considerations 투영 (직교와 기타)은 특정 선형 대수 문제에 대한 알고리듬(algorithms) 에서 중요한 역할을 합니다:
위에서 언급했듯이, 투영은 거듭상등의 특수한 경우입니다. 해석적으로, 직교 투영은 특성 함수(characteristic functions) 의 비-교환적 일반화입니다. 거듭상등은 예를 들어 반-단순 대수(semisimple algebras) 를 분류하는 데 사용되고, 반면 측정 이론(measure theory) 은 측정-가능 집합(measurable sets) 의 특성 함수를 고려하는 것으로 시작합니다. 그러므로, 상상할 수 있듯이, 투영은 연산자 대수(operator algebras) 의 맥락에서 매우 자주 발생합니다. 특히, 폰 노이만 대수(von Neumann algebra) 는 투영의 완비 격자(lattice) 에 의해 생성됩니다.
Generalizations 보다 일반적으로, 노름화된 벡터 공간
T
:
V
→
W
{\displaystyle T\colon V\to W}
(
ker
T
)
⊥
→
W
{\displaystyle (\ker T)^{\perp }\to W}
부분 등거리변환(Partial isometry) 과 비교하십시오); 특히, 그것은 위로의(onto) 여야 합니다. 직교 투영의 경우는 W 가 V 의 부분공간일 때입니다. 리만 기하학(Riemannian geometry) 에서, 이것은 리만 침몰(Riemannian submersion) 의 정의에 사용됩니다.
See also Notes
^ Meyer, pp 386+387
^ a b Horn, Roger A.; Johnson, Charles R. (2013). Matrix Analysis, second edition . Cambridge University Press. ISBN 9780521839402 ^ Meyer, p. 433
^ Meyer, p. 431
^ Meyer, equation (5.13.4)
^ Banerjee, Sudipto; Roy, Anindya (2014), Linear Algebra and Matrix Analysis for Statistics ISBN 978-1420095388 ^ Meyer, equation (5.13.3)
^ See also Linear least squares (mathematics) § Properties of the least-squares estimators .
^ Banerjee, Sudipto; Roy, Anindya (2014), Linear Algebra and Matrix Analysis for Statistics ISBN 978-1420095388 ^ Banerjee, Sudipto (2004), "Revisiting Spherical Trigonometry with Orthogonal Projectors", The College Mathematics Journal , 35 (5): 375–381, doi :10.1080/07468342.2004.11922099 , S2CID 122277398 ^ Banerjee, Sudipto; Roy, Anindya (2014), Linear Algebra and Matrix Analysis for Statistics ISBN 978-1420095388 ^ Meyer, equation (7.10.39)
^ Brust, J. J.; Marcia, R. F.; Petra, C. G. (2020), "Computationally Efficient Decompositions of Oblique Projection Matrices", SIAM Journal on Matrix Analysis and Applications , 41 (2): 852–870, doi :10.1137/19M1288115 , OSTI 1680061 , S2CID 219921214 ^ Doković, D. Ž. (August 1991). "Unitary similarity of projectors". Aequationes Mathematicae 42 (1): 220–224. doi :10.1007/BF01818492 . S2CID 122704926 .
References Banerjee, Sudipto; Roy, Anindya (2014), Linear Algebra and Matrix Analysis for Statistics , Texts in Statistical Science (1st ed.), Chapman and Hall/CRC, ISBN 978-1420095388 Dunford, N.; Schwartz, J. T. (1958). Linear Operators, Part I: General Theory . Interscience. Meyer, Carl D. (2000). Matrix Analysis and Applied Linear Algebra ISBN 978-0-89871-454-8 External links
![{\displaystyle {\begin{aligned}I&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}\left({\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}{\begin{bmatrix}A&B\end{bmatrix}}\right)^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\&={\begin{bmatrix}A&B\end{bmatrix}}{\begin{bmatrix}A^{\mathsf {T}}A&O\\O&B^{\mathsf {T}}B\end{bmatrix}}^{-1}{\begin{bmatrix}A^{\mathsf {T}}\\B^{\mathsf {T}}\end{bmatrix}}\\[4pt]&=A\left(A^{\mathsf {T}}A\right)^{-1}A^{\mathsf {T}}+B\left(B^{\mathsf {T}}B\right)^{-1}B^{\mathsf {T}}\end{aligned}}}](https://dawoum.duckdns.org/api/rest_v1/media/math/render/svg/0d5ac3d05451825c162acf531a9416503f4a580e)
