2.2 链式法则

设 $\boldsymbol{b} = f(\boldsymbol{a})$，$T = Df(\boldsymbol{a}) \in L(\mathbb{R}^n, \mathbb{R}^m)$，$S = Dg(\boldsymbol{b}) \in L(\mathbb{R}^m, \mathbb{R}^p)$。我们要证 $g \circ f$ 在 $\boldsymbol{a}$ 处可微，且导数为 $S \circ T$。

用开集语言确保局部定义。由可微性定义（定义2.1.1），$f$ 在 $\boldsymbol{a}$ 处的可微性意味着存在包含 $\boldsymbol{a}$ 的开集 $U \subset \mathbb{R}^n$，使得 $f$ 在 $U$ 上有定义且在该点可微。同理，$g$ 在 $\boldsymbol{b}$ 处的可微性意味着存在包含 $\boldsymbol{b}$ 的开集 $V \subset \mathbb{R}^m$，使得 $g$ 在 $V$ 上有定义且在 $\boldsymbol{b}$ 处可微。由于可微蕴含连续（定理2.1.3），$f$ 在 $\boldsymbol{a}$ 处连续，因此原像 $f^{-1}(V)$ 是包含 $\boldsymbol{a}$ 的开集（定理1.3.10）。于是，在开集 $U \cap f^{-1}(V)$ 上，复合映射 $g \circ f$ 有定义。当 $\boldsymbol{h}$ 充分小时，$\boldsymbol{a}+\boldsymbol{h}$ 始终落在这个开集内，以下所有极限运算合法。这一开集论证保证了我们可以在 $\boldsymbol{a}$ 的某邻域内自由地进行复合和极限操作，而无需担心定义域问题。

按可微性的定义，我们的目标等价于证明

以下验证这个等式成立。

第一步：将变化量分解为"线性部分 + 误差"。

由 $f$ 在 $\boldsymbol{a}$ 处的可微性，对充分小的 $\boldsymbol{h}$（使得 $\boldsymbol{a}+\boldsymbol{h} \in U \cap f^{-1}(V)$），

其中 $\phi(\boldsymbol{h}) = o(\|\boldsymbol{h}\|)$，即当 $\boldsymbol{h} \to \boldsymbol{0}$ 时 $\frac{\|\phi(\boldsymbol{h})\|}{\|\boldsymbol{h}\|} \to 0$。因此

这里 $\phi$ 定义在某个包含 $\boldsymbol{0}$ 的开集上（$\boldsymbol{h}$ 的取值范围），这是由可微性定义中的极限条件保证的——极限 $\boldsymbol{h} \to \boldsymbol{0}$ 蕴含了在原点附近的一个开邻域内，误差项都有定义。

类似地，由 $g$ 在 $\boldsymbol{b}$ 处的可微性，对充分小的 $\boldsymbol{k} \in \mathbb{R}^m$（即 $\boldsymbol{b}+\boldsymbol{k} \in V$），

其中 $\psi(\boldsymbol{k}) = o(\|\boldsymbol{k}\|)$，即当 $\boldsymbol{k} \to \boldsymbol{0}$ 时 $\frac{\|\psi(\boldsymbol{k})\|}{\|\boldsymbol{k}\|} \to 0$。因此

同样，$\psi$ 定义在 $\mathbb{R}^m$ 中包含 $\boldsymbol{0}$ 的某个开集上。

第二步：代入复合函数。

在 (2) 中取 $\boldsymbol{k} = T(\boldsymbol{h}) + \phi(\boldsymbol{h})$。注意，(1) 告诉我们这恰好是 $f(\boldsymbol{a}+\boldsymbol{h}) - \boldsymbol{b}$。当 $\boldsymbol{h}$ 充分小时，由连续性可知 $\boldsymbol{k}$ 也充分小，从而 $\boldsymbol{b}+\boldsymbol{k} \in V$，因此 (2) 式适用。于是

将 $\boldsymbol{k} = T(\boldsymbol{h}) + \phi(\boldsymbol{h})$ 代入：

利用 $S$ 的线性性 $S(T(\boldsymbol{h}) + \phi(\boldsymbol{h})) = S(T(\boldsymbol{h})) + S(\phi(\boldsymbol{h}))$，得

第三步：估计误差项。

总误差为 $\rho(\boldsymbol{h}) = S(\phi(\boldsymbol{h})) + \psi(T(\boldsymbol{h}) + \phi(\boldsymbol{h}))$。我们需要证明

处理 $S(\phi(\boldsymbol{h}))$：由算子范数的不等式 $\|S(\boldsymbol{x})\| \le \|S\| \|\boldsymbol{x}\|$（§1.2.4），

由于 $\phi(\boldsymbol{h}) = o(\|\boldsymbol{h}\|)$，即当 $\boldsymbol{h} \to \boldsymbol{0}$ 时 $\frac{\|\phi(\boldsymbol{h})\|}{\|\boldsymbol{h}\|} \to 0$，而 $\|S\|$ 是常数，因此这一项趋于 $0$。换言之，$S(\phi(\boldsymbol{h})) = o(\|\boldsymbol{h}\|)$。这一估计成立的前提是 $\phi(\boldsymbol{h})$ 在包含 $\boldsymbol{0}$ 的某开集上有定义——这由第一步中 $\phi$ 的定义所保证。

处理 $\psi(T(\boldsymbol{h}) + \phi(\boldsymbol{h}))$：令 $\boldsymbol{k} = T(\boldsymbol{h}) + \phi(\boldsymbol{h})$。此时我们面临一个需要小心处理的技术细节。由 $g$ 的可微性，我们知道 $\psi(\boldsymbol{k}) = o(\|\boldsymbol{k}\|)$，即当 $\boldsymbol{k} \to \boldsymbol{0}$ 时 $\frac{\|\psi(\boldsymbol{k})\|}{\|\boldsymbol{k}\|} \to 0$。而由上面的不等式 $\|\boldsymbol{k}\| \le \|T\| \|\boldsymbol{h}\| + \|\phi(\boldsymbol{h})\|$，当 $\boldsymbol{h} \to \boldsymbol{0}$ 时，右边两项都趋于 $0$，因此 $\boldsymbol{k} \to \boldsymbol{0}$ 且 $\|\boldsymbol{k}\|$ 被 $\|\boldsymbol{h}\|$ 的常数倍控制。至此，直觉告诉我们，既然 $\psi(\boldsymbol{k})$ 的大小是 $o(\|\boldsymbol{k}\|)$，而 $\|\boldsymbol{k}\|$ 又是 $O(\|\boldsymbol{h}\|)$，那么 $\psi(\boldsymbol{k})$ 理应是 $o(\|\boldsymbol{h}\|)$。

然而，如何将这两个条件严格地"拼接"起来？一个自然的想法是写

并令 $\boldsymbol{h} \to \boldsymbol{0}$。但这在逻辑上有一个漏洞：当 $\boldsymbol{h} \to \boldsymbol{0}$ 时，$\boldsymbol{k} = T(\boldsymbol{h}) + \phi(\boldsymbol{h})$ 可能在某些 $\boldsymbol{h} \neq \boldsymbol{0}$ 处恰好为零（例如如果 $T(\boldsymbol{h}) = -\phi(\boldsymbol{h})$），此时分式 $\frac{\|\psi(\boldsymbol{k})\|}{\|\boldsymbol{k}\|}$ 中的分母为零，表达式无定义。虽然我们可以分情况讨论（当 $\boldsymbol{k} = \boldsymbol{0}$ 时直接从连续性得 $\psi(\boldsymbol{k}) = \boldsymbol{0}$），但这会使证明变得繁琐。

一个更干净的处理方式是引入辅助函数 $\eta$，将极限条件 $\lim_{\boldsymbol{k} \to \boldsymbol{0}} \frac{\|\psi(\boldsymbol{k})\|}{\|\boldsymbol{k}\|} = 0$ 改写为"乘积形式"的等式，从而一劳永逸地避免分母为零的麻烦。这个改写本身也依赖于 $\psi$ 在某个包含 $\boldsymbol{0}$ 的开集上有定义，这是由 $g$ 在 $\boldsymbol{b}$ 处可微的局部性质保证的。

具体来说，定义函数 $\eta: \mathbb{R}^m \to [0,\infty)$ 如下：

极限条件 $\lim_{\boldsymbol{k} \to \boldsymbol{0}} \frac{\|\psi(\boldsymbol{k})\|}{\|\boldsymbol{k}\|} = 0$ 恰好等价于 $\lim_{\boldsymbol{k} \to \boldsymbol{0}} \eta(\boldsymbol{k}) = 0$。并且由定义直接得到等式

该等式对所有 $\boldsymbol{k} \in \mathbb{R}^m$ 成立（包括 $\boldsymbol{k} = \boldsymbol{0}$）。这就完全避开了分母为零的问题。

现在来估计 $\psi(\boldsymbol{k})$。由于 $T$ 是线性映射，$\|T(\boldsymbol{h})\| \le \|T\| \|\boldsymbol{h}\|$，故当 $\boldsymbol{h} \to \boldsymbol{0}$ 时 $T(\boldsymbol{h}) \to \boldsymbol{0}$；同时 $\phi(\boldsymbol{h}) = o(\|\boldsymbol{h}\|)$ 蕴含 $\phi(\boldsymbol{h}) \to \boldsymbol{0}$。因此 $\boldsymbol{k} = T(\boldsymbol{h}) + \phi(\boldsymbol{h}) \to \boldsymbol{0}$，进而 $\eta(\boldsymbol{k}) \to 0$。

对于 $\|\boldsymbol{k}\|$ 的大小，有

由于 $\phi(\boldsymbol{h}) = o(\|\boldsymbol{h}\|)$，当 $\boldsymbol{h} \to \boldsymbol{0}$ 时 $\frac{\|\phi(\boldsymbol{h})\|}{\|\boldsymbol{h}\|} \to 0$，故存在常数 $C > 0$ 使得在原点附近 $\|\phi(\boldsymbol{h})\| \le C \|\boldsymbol{h}\|$。这个"原点附近"正是由可微性给出的开集所保证的。于是

现在可以完成估计：

当 $\boldsymbol{h} \to \boldsymbol{0}$ 时，$\eta(\boldsymbol{k}) \to 0$，而 $\|T\| + C$ 是常数，因此整个表达式趋于 $0$。这就证明了 $\psi(T(\boldsymbol{h}) + \phi(\boldsymbol{h})) = o(\|\boldsymbol{h}\|)$。

第四步：综合结论。

由第三步，$\rho(\boldsymbol{h}) = o(\|\boldsymbol{h}\|)$。结合 (3)，得

这正是 $g \circ f$ 在 $\boldsymbol{a}$ 处可微且导数为 $S \circ T$ 的定义。 ∎

由定理 2.2.1，$D(g \circ f)(\boldsymbol{a}) = Dg(f(\boldsymbol{a})) \circ Df(\boldsymbol{a})$。两边取标准基下的矩阵。由 §1.2.3 定理 1.2.5，线性映射的复合对应于矩阵的乘积。因此左边的矩阵是 $(g \circ f)'(\boldsymbol{a})$，右边是 $g'(f(\boldsymbol{a})) \cdot f'(\boldsymbol{a})$。 ∎

首先明确各符号的含义。复合函数 $h = g \circ f$ 的分量函数记为 $h^1, \dots, h^p$，即 $h(\boldsymbol{x}) = (h^1(\boldsymbol{x}), \dots, h^p(\boldsymbol{x}))$，其中 $h^i = g^i \circ f$。根据雅可比矩阵的定义（定义 2.1.4），矩阵 $h'(\boldsymbol{a}) = (g \circ f)'(\boldsymbol{a})$ 的第 $i$ 行第 $j$ 列元素正是偏导数 $D_j h^i(\boldsymbol{a})$——即 $h$ 的第 $i$ 个分量函数对第 $j$ 个自变量的偏导数在点 $\boldsymbol{a}$ 处的值。

由推论 2.2.2（矩阵形式的链式法则），

右边是矩阵乘积：$g'(f(\boldsymbol{a}))$ 是 $p \times m$ 矩阵，其第 $i$ 行第 $k$ 列元素为 $D_k g^i(f(\boldsymbol{a}))$——即 $g$ 的第 $i$ 个分量函数对第 $k$ 个自变量的偏导数在点 $f(\boldsymbol{a})$ 处的值；$f'(\boldsymbol{a})$ 是 $m \times n$ 矩阵，其第 $k$ 行第 $j$ 列元素为 $D_j f^k(\boldsymbol{a})$——即 $f$ 的第 $k$ 个分量函数对第 $j$ 个自变量的偏导数在点 $\boldsymbol{a}$ 处的值。矩阵乘法定义给出乘积的第 $i$ 行第 $j$ 列元素为

等式两边矩阵的对应元素相等，即得所求。 ∎

定义乘法映射 $p: \mathbb{R}^2 \to \mathbb{R}$ 为 $p(u,v) = uv$。首先计算 $p$ 的导数。对任意 $(u,v) \in \mathbb{R}^2$，偏导数为

由 §2.1 例 2.1.9 同样的方法，可以验证 $p$ 在任意点 $(u,v)$ 处可微，且其导数为线性映射

（验证：$p(u+h, v+k) - p(u,v) - (v h + u k) = hk$，且 $\frac{|hk|}{\|(h,k)\|} \to 0$ 当 $(h,k) \to (0,0)$。）

现在，将乘积 $f \cdot g$ 表示为复合映射：

由于 $f$ 和 $g$ 都在 $\boldsymbol{a}$ 处可微，存在包含 $\boldsymbol{a}$ 的开集，在此开集上 $F$ 有定义且可微（由定理 2.1.5，分量的可微性等价于映射的可微性），其导数为

现对 $f \cdot g = p \circ F$ 应用链式法则（定理 2.2.1）：

对任意 $\boldsymbol{h} \in \mathbb{R}^n$，计算这个复合：

代入 $Dp$ 的公式（注意这里 $Df(\boldsymbol{a})(\boldsymbol{h})$ 和 $Dg(\boldsymbol{a})(\boldsymbol{h})$ 都是实数）：

由于这对任意 $\boldsymbol{h}$ 成立，我们得到线性映射的等式

这就完成了乘积法则的证明。 ∎

定义除法映射 $q: \mathbb{R} \times (\mathbb{R} \setminus \{0\}) \to \mathbb{R}$ 为 $q(u,v) = u/v$。与乘法映射类似，先计算 $q$ 的偏导数：

并验证 $q$ 在 $v \neq 0$ 的各点处可微，导数为 $Dq(u,v)(h,k) = \frac{1}{v} h - \frac{u}{v^2} k$。

令 $F(\boldsymbol{x}) = (f(\boldsymbol{x}), g(\boldsymbol{x}))$。由于 $g(\boldsymbol{a}) \neq 0$ 且 $g$ 连续，$\{v \in \mathbb{R} \mid v \neq 0\}$ 是开集，其原像 $g^{-1}(\mathbb{R} \setminus \{0\})$ 是包含 $\boldsymbol{a}$ 的开集。因此存在包含 $\boldsymbol{a}$ 的开集，在其上 $g(\boldsymbol{x}) \neq 0$，从而 $F$ 在这个开集上的取值落在 $q$ 的定义域内。对 $f/g = q \circ F$ 应用链式法则，得

对任意 $\boldsymbol{h} \in \mathbb{R}^n$，

整理即得所求证。 ∎

由双线性性，

余项 $B(\boldsymbol{h}, \boldsymbol{k})$ 是双线性的。而有限维空间中任何双线性映射都是连续的，且存在常数 $C > 0$ 使得 $\|B(\boldsymbol{h}, \boldsymbol{k})\| \le C \|\boldsymbol{h}\| \|\boldsymbol{k}\|$。

利用不等式 $\|\boldsymbol{h}\| \|\boldsymbol{k}\| \le \frac{1}{2}(\|\boldsymbol{h}\|^2 + \|\boldsymbol{k}\|^2) \le \frac{1}{2}\|(\boldsymbol{h}, \boldsymbol{k})\|^2$，立即得出

因此候选导数 $T(\boldsymbol{h}, \boldsymbol{k}) = B(\boldsymbol{h}, \boldsymbol{v}) + B(\boldsymbol{u}, \boldsymbol{k})$ 满足可微性定义 2.1.1。 ∎

令 $F(\boldsymbol{x}) = (f(\boldsymbol{x}), g(\boldsymbol{x}))$，则 $h = B \circ F$。由链式法则（定理 2.2.1）和定理 2.2.8 即得。 ∎