수학(mathematics), 특히 함수형 해석(functional analysis)에서, 힐베르트 공간(Hilbert spaces) \(\displaystyle X\)와 \(\displaystyle Y\) 사이에서 동작하는 컴팩트 연산자(compact operator) \(\displaystyle T: X \rightarrow Y\)의 특이값(singular values), 또는 s-숫자(s-numbers)는 자체-인접 연산자 \(\displaystyle T^*T\)의 (반드시 비-음수) 고윳값(eigenvalues)의 제곱근입니다 (여기서 \(\displaystyle T^*\)는 \(\displaystyle T\)의 인접(adjoint)을 나타냅니다).
특이값은 비-음의 실수이며, 보통 감소하는 순서에서 나열됩니다 \((\sigma_1(T), \sigma_2(T),...)\). 가장 큰 특이값 \(\sigma_1(T)\)는 T의 연산자 노름과 같습니다 (최소-최대 정리를 참조).
만약 \(\displaystyle T\)가 유클리드 공간 \(\displaystyle \mathbb{R} ^n\) 위에 동작하면, 특이값에 대한 간단한 기하학적 해석이 있습니다: 단위 구(unit sphere)의 \(\displaystyle T\)에 의한 이미지를 생각해 보십시오; 이것은 타원면체(ellipsoid)이고, 반-축의 길이는 \(\displaystyle T\)의 특이값입니다 (그림은 \(\displaystyle \mathbb{R}^2\)에서 예제를 제공합니다).
특이값은 정규 행렬(normal matrix) \(\displaystyle A\) 고윳값(eigenvalues)의 절댓값인데, 왜냐하면 스펙트럼 정리(spectral theorem)는 \(\displaystyle A = U\Lambda U^*\)로 \(\displaystyle A\)의 유니태리 대각화를 얻기 위해 적용될 수 있기 때문입니다. 그러므로, \(\displaystyle \sqrt{A^* A} = \sqrt{U \Lambda^* \Lambda U^*} = U \left| \Lambda \right| U^*\)입니다.
연구된 힐베르트 공간 연산자에 대한 대부분의 노름(norms)은 s-숫자를 사용하여 정의됩니다. 예를 들어, 판지(Ky Fan)-k-노름은 처음 k개의 특이값의 합이고, 대각합 노름(trace norm)은 모든 특이값의 합이고, 샤텐 노름(Schatten norm)은 특이값의 p-번째 거듭제곱의 합의 p-번째 근입니다. 각 노름은 연산자의 특수 클래스에서만 정의되므로, s-숫자는 다른 연산자를 분류하는 데 유용함에 주목하십시오.
유한-차원 경우에서, 행렬(matrix)은 항상 \(\displaystyle \mathbf{U\Sigma V^*}\) 형식에서 분해될 수 있으며, 여기서 \(\displaystyle \mathbf{U}\)와 \(\displaystyle \mathbf{V^*}\)는 유니태리 행렬(unitary matrices)이고 \(\displaystyle \mathbf{\Sigma}\)는 대각선 위에 놓이는 특이값을 갖는 직사각 대각 행렬(rectangular diagonal matrix)입니다. 이것은 특이값 분해(singular value decomposition)입니다.
Basic properties
\(\displaystyle A \in \mathbb{C}^{m \times n}\), 및 \(\displaystyle i = 1,2, \ldots, \min \{m,n\}\)에 대해.
특이값에 대한 최소-최대 정리(Min-max theorem for singular values). 여기서 \(\displaystyle U: \dim(U) = i\)는 차원 \(\displaystyle i\)의 \(\displaystyle \mathbb{C}^n\)의 부분공간입니다.
\(\quad\displaystyle \begin{align}
\sigma_i(A) &= \min_{\dim(U)=n-i+1} \max_{\underset{\| x \|_2 = 1}{x \in U}} \left\| Ax \right\|_2. \\
\sigma_i(A) &= \max_{\dim(U)=i} \min_{\underset{\| x \|_2 = 1}{x \in U}} \left\| Ax \right\|_2.
\end{align}\)
행렬 전치와 켤레는 특이값을 변경하지 않습니다.
\(\quad\displaystyle \sigma_i(A) = \sigma_i\left(A^\textsf{T}\right) = \sigma_i\left(A^*\right).\)
임의의 유니태리 \(\displaystyle U \in \mathbb{C}^{m \times m}, V \in \mathbb{C}^{n \times n}\)에 대해.
\(\quad\displaystyle \sigma_i(A) = \sigma_i(UAV).\)
고윳값과의 관계:
\(\quad\displaystyle \sigma_i^2(A) = \lambda_i\left(AA^*\right) = \lambda_i\left(A^*A\right).\)
대각합(trace)과의 관계:
\(\quad\displaystyle \sum_{i=1}^n \sigma_i^2=\text{tr}\ A^\ast A\).
만약 \(\displaystyle A^\top A\)가 완전 랭크이면, 특이값의 곱은 \(\displaystyle \sqrt{\det A^\top A}\)입니다.
만약 \(\displaystyle A A^\top\)가 완전 랭크이면, 특이값의 곱은 \(\displaystyle \sqrt{\det A A^\top}\)입니다.
만약 \(\displaystyle A\)가 완전 랭크이면, 특이값의 곱은 \(\displaystyle |\det A|\)입니다.
Inequalities about singular values
Singular values of sub-matrices
\(\displaystyle A \in \mathbb{C}^{m \times n}\)에 대해.
- \(\displaystyle B\)는 행 또는 열 중 하나가 삭제된 \(\displaystyle A\)를 나타낸다고 놓습니다. 그런-다음
- \(\displaystyle \sigma_{i+1}(A) \leq \sigma_i (B) \leq \sigma_i(A)\)
- \(\displaystyle B\)는 행 중 하나''와'' 열 중 하나가 삭제된 \(\displaystyle A\)를 나타낸다고 놓습니다. 그런-다음
- \(\displaystyle \sigma_{i+2}(A) \leq \sigma_i (B) \leq \sigma_i(A)\)
- \(\displaystyle B\)는 \(\displaystyle A\)의 \(\displaystyle (m-k)\times(n-l)\) 부분행렬을 나타낸다고 놓습니다. 그런-다음
- \(\displaystyle \sigma_{i+k+l}(A) \leq \sigma_i (B) \leq \sigma_i(A)\)
Singular values of A + B
\(\displaystyle A, B \in \mathbb{C}^{m \times n}\)에 대해
- \(\displaystyle \sum_{i=1}^{k} \sigma_i(A + B) \leq \sum_{i=1}^{k} (\sigma_i(A) + \sigma_i(B)), \quad k=\min \{m,n\}\)
- \(\displaystyle \sigma_{i+j-1}(A + B) \leq \sigma_i(A) + \sigma_j(B). \quad i,j\in\mathbb{N},\ i + j - 1 \leq \min \{m,n\}\)
Singular values of AB
\(\displaystyle A, B \in \mathbb{C}^{n \times n}\)에 대해,
- \(\displaystyle \begin{align}
\prod_{i=n}^{i=n-k+1} \sigma_i(A) \sigma_i(B) &\leq \prod_{i=n}^{i=n-k+1} \sigma_i(AB) \\
\prod_{i=1}^k \sigma_i(AB) &\leq \prod_{i=1}^k \sigma_i(A) \sigma_i(B), \\
\sum_{i=1}^k \sigma_i^p(AB) &\leq \sum_{i=1}^k \sigma_i^p(A) \sigma_i^p(B),
\end{align}\) - \(\displaystyle \sigma_n(A) \sigma_i(B) \leq \sigma_i (AB) \leq \sigma_1(A) \sigma_i(B) \quad i = 1, 2, \ldots, n. \)
\(\displaystyle A, B \in \mathbb{C}^{m \times n}\)에 대해
\(\quad\displaystyle 2 \sigma_i(A B^*) \leq \sigma_i \left(A^* A + B^* B\right), \quad i = 1, 2, \ldots, n. \)
Singular values and eigenvalues
\(\displaystyle A \in \mathbb{C}^{n \times n}\)에 대해.
- See[3]
- \(\displaystyle \lambda_i \left(A + A^*\right) \leq 2 \sigma_i(A), \quad i = 1, 2, \ldots, n.\)
- \(\displaystyle \left|\lambda_1(A)\right| \geq \cdots \geq \left|\lambda_n(A)\right|\)를 가정합니다. 그런-다음 \(\displaystyle k = 1, 2, \ldots, n\)에 대해:
- 바일의 정리(Weyl's theorem)
- \(\displaystyle \prod_{i=1}^k \left|\lambda_i(A)\right| \leq \prod_{i=1}^{k} \sigma_i(A).\)
- \(\displaystyle p>0\)에 대해.
- \(\displaystyle \sum_{i=1}^k \left|\lambda_i^p(A)\right| \leq \sum_{i=1}^{k} \sigma_i^p(A).\)
- 바일의 정리(Weyl's theorem)
History
이 개념은 1907년 에르하르트 슈미트(Erhard Schmidt)에 의해 소개되었습니다. 슈미트는 당시 특이값을 "고윳값(eigenvalues)"이라고 불렀습니다. "특이값"이라는 이름은 1937년에 Smithies에 의해 처음 인용되었습니다. 1957년에 Allahverdiev는 n-번째 s-숫자의 다음과 같은 특성화를 입증했습니다:
\(\quad\displaystyle s_n(T) = \inf\big\{\, \|T-L\| : L\text{ is an operator of finite rank }<n \,\big\}.\)
이 공식은 s-숫자의 개념을 바나흐 공간(Banach space)에서 연산자로 확장하는 것을 가능하게 했습니다.
See also
References
- R. A. Horn and C. R. Johnson. Topics in Matrix Analysis. Cambridge University Press, Cambridge, 1991. Chap. 3
- X. Zhan. Matrix Inequalities. Springer-Verlag, Berlin, Heidelberg, 2002. p.28
- R. Bhatia. Matrix Analysis. Springer-Verlag, New York, 1997. Prop. III.5.1
- I. C. Gohberg and M. G. Krein. Introduction to the Theory of Linear Non-selfadjoint Operators. American Mathematical Society, Providence, R.I.,1969. Translated from the Russian by A. Feinstein. Translations of Mathematical Monographs, Vol. 18.