2. 선형대수 (특잇값 분해)

2.8 특잇값 분해

특잇값 분해 Singular value decomposition, SVD 는 행렬을 특이벡터 singular vector 들과 특잇값 singular value 들로 분해한다. 그래서 얻을 수 있는 정보는 고윳값 분해와 동일하지만, SVD 는 좀 더 일반적인 행렬들에 적용 가능하다는 장점이 있다.

모든 실수 행렬에는 특잇값 분해가 존재하지만, 항상 고윳값 분해가 존재하는 것은 아니다. 예를 들어 행렬이 정방행렬이 아니면 고윳값 분해가 정의되지 않는다. 따라서 반드시 특잇값 분해를 사용해야 한다.

 

고윳값 분해는 행렬 A 를 분석해서 다음 등식을 만족하는 고유벡터들로 이뤄진 행렬 V 와 고윳값들로 이뤄진 벡터 lambda 를 얻는 것이다. 

특잇값 분해도 이와 비슷하되, A 가 다음의 세 행렬의 곱으로 표현된다.

A : m*n, U : m*m, D : m*n, V : n*n

이 행렬들은 각자 특별한 구조를 가진다. 행렬 U 와 V 는 둘 다 직교행렬로 정의된다. D 는 대각행렬로 정의된다. 

D 의 주대각 성분을 행렬 A 의 특잇값 singular value 라고 부른다. U 의 열을 좌특이벡터라고 부르고, V 의 열을 우특이벡터라고 부른다.

 

A 의 특잇값 분해를 A 의 함수의 고윳값 분해로 표현할 수 있다. A 의 좌특이벡터는 AA^T 의 고유벡터이다. A 의 우특이벡터는 A^T A 의 고유벡터이다. A 의 0이 아닌 특잇값은 A^T A 의 고윳값의 제곱근이다. 이러한 관계들은 AA^T 에도 성립한다.

 

SVD 의 가장 유용한 특징은, SVD 를 이용하면 역행렬의 정의를 비정방행령레도 부분적으로나마 일반화할 수 있다는 것이다.