奇异值与奇异向量

$A^* A$的$n$个特征值的平方根即为$A$的奇异值。由于$A^* A$是厄米且半正定的，奇异值均为实数且非负。因此，我们可以将它们按排序表示为$0 \leq \sigma_n \leq \cdots \leq \sigma_1$。

$A^* A$的$n$个特征向量被称为（右）奇异向量。我们用$v_1,\ldots,v_n$表示它们，其中$v_i$对应特征值$\sigma_i^2$。$m$阶矩阵$AA^*$同样为厄米且半正定。其最大的$n$个特征值与$AA^*$相同，其余为零。$AA^*$的$m$个特征向量被称为（左）奇异向量。我们用$u_1,\ldots,u_m$表示它们，其中$u_1$至$u_n$对应特征值$\sigma_1^2$至$\sigma_n^2$，而$u_{n+1}$至$u_{m}$对应零特征值。可选择奇异向量使其满足以下恒等式：$Av_i = \sigma_i u_i$和$A^* u_i = \sigma_i v_i$（对于$i=1,\ldots,n$），以及$A^*u_i = 0$（对于$i=n+1,\ldots,m$）。

我们可以不失一般性地假设每个$\Vert u_i\Vert _2=1$和$\Vert v_i\Vert _2=1$。若$A$为实数矩阵，则奇异向量为实数。尽管奇异向量可能不唯一（例如，单位矩阵的任意向量都是奇异向量），但它们均可选择为相互正交：$u_i^*u_j = v_i^*v_j = 0$（若$i \neq j$）。当某个奇异值与其他所有奇异值均不相同时，其奇异向量唯一（最多乘以标量）。