切线与微分的区别

给定任意流形上的一个光滑点x和一个在该流形内的光滑路径p(s)，使得p(0) = x，我们可以通过以下规则在x附近定义的C^\infty函数上构造一个微分算子：

D_p f = \frac{d}{ds} f(p(s)) \vert _{s=0}.

这些在x点的微分算子构成一个有限维向量空间，该向量空间的维数等于流形的维数。这个向量空间被称为M在x点的切空间，通常记为T_x(M)。

对于Stiefel流形，以及一般而言所有光滑约束流形，任意点的切空间很容易描述。约束方程Y^*Y=I可以看作是\mathrm{Stief}(n,k)上的k(k+1)/2个独立函数，这些函数必须都具有恒定值。如果H是Y点在\mathrm{Stief}(n,k)上的切向量，那么必须满足：

H^* Y + Y^* H = 0,

这是通过取\frac{d}{dt} Y(t)^* Y(t) = 0 \vert _{t=0}（其中\dot{Y}(0) = H）得到的。在约束流形中，Y点的切线也可以等价地识别为那些保持约束方程至一阶的无穷小位移。

对于H要成为切线，其分量必须满足k(k+1)/2个独立方程。这些方程在H的分量中都是线性的，因此所有切线构成向量空间{\mathcal R}^{n \times k}的一个(nk-k(k+1)/2)维子空间。

一个微分算子D_H可以与一个n \times k矩阵H相关联，由以下公式给出：

D_H f = \frac{d}{dt} f(Y+tH) \vert _{t=0}.

D_H是H方向的方向导数算子。可以观察到，对于H要成为切向量，切线条件等价于D_H (Y^*Y) = 0。

虽然切线是n \times k矩阵，因此有相关的微分算子，但微分是另一回事。给定一个C^\infty函数f和一个点Y，可以考虑H \in {\mathcal R}^{n \times k}（H不一定是切线）的方程D_H f。这个表达式在H中线性，并取某个实数值。因此，可以将其表示为向量空间{\mathcal R}^{n \times k}上的线性函数，

D_H f = \mathrm{tr}( H^* Z),

对于某个适当的n \times k矩阵Z，其值取决于f在Y附近的一阶行为。我们将这个Z矩阵识别为f在Y点的微分df。这与样本问题中dF函数计算的微分相同。

对于任何约束流形，光滑函数f的微分可以在不需了解流形本身的情况下计算。可以直接使用环境空间（在我们情况下是无约束的{\mathcal R}^{n \times k}导数）中的微分。如果将微分算子限制为仅在切线方向上，那么仍然可以使用无约束的df在\mathrm{tr} ( H^* df )中计算D_H f，其中H \in T_Y(\mathrm{Stief}(n,k))。这就是为什么生成dF函数不需要几何知识的原因。