Prerequisites: Basis and Coordinate
Introduction
선형대수학에서 orthogonal projection은 어느 벡터에서 어느 벡터 공간으로 수선의 발을 내리는 것을 의미한다. 이를 그림으로 살펴보면 다음과 같다. 벡터 를 벡터 공간 () 으로 orthogonal projection 하면 그 결과로 벡터 을 얻는다.
이를 식으로 다음과 같이 적는다.
Calculation of Projection
그렇다면 를 어떻게 계산할 수 있을까? 이를 위해 우리는 다음의 두 조건을 이용한다.
- (정사영의 결과는 사영되는 공간에 속한다.)
- (수선의 발은 사영되는 공간과 수직이다.)
먼저 이들 조건을 행렬로 표현하여 보자. 라고 두면 위의 식은 다음과 같이 적힌다.
이제 두 식을 연립하면 다음을 얻는다.
그런데 의 열이 선형독립이므로 의 null space의 차원이 0이다. 따라서 rank-nullity theorem에 의해 는 full rank를 가지고 따라서 가역이다. 그러므로 다음이 성립한다.
이를 원래 식에 대입하면 다음을 얻는다.
이처럼 실수 범위의 orthogonal projection은 행렬곱으로 표현할 수 있다.
Generalization
앞선 결과는 더 큰 차원에서도 적용할 수 있다. 어떤 벡터 공간 와 그 기저 이 주어지면 행렬 에 대하여 다음이 성립한다.
Note on Pseudo Inverse
앞선 정사영 식에서 는 의 Moore-Penrose pseudo inverse 라고 불리며 아래와 같이 적는다. (이는 각 열이 선형독립일 때 주어지는 left pseudo inverse이며 일반형은 SVD를 통해 정의된다.)
이때 와 같은 좌표변환으로 해석할 수 있다는 사실을 생각해 보자. 그러면 정사영은 다음과 같다.
즉 는 의 관점에서 본 정사영의 결과다. 역행렬이 존재할 때 가 된다는 사실을 고려하면 이것이 왜 역행렬의 일반화인지 이해할 수 있다.
References
(1) David C. Lay, Linear Algebra and Its Applications (6th ed.), Pearson