模块五：序列模型的结构分析与现代进展

5.1 随机 EM 与大规模数据

在数据量极大的情况下，每轮迭代扫描全体数据以计算充分统计量代价过高。设数据集大小为 $N$，经典 EM 的 M 步需要最大化全数据的期望对数似然 $Q(\theta) = \frac{1}{N} \sum_{n=1}^N Q_n(\theta)$。当 $N$ 达到百万级别时，单次迭代的计算时间难以承受。

随机 EM 借鉴了随机梯度下降（SGD）的思想。在每次迭代中，算法仅抽取一个大小为 $B$ 的小批量数据 $\mathcal{B} \subset \{1, \dots, N\}$，在这个子集上执行 E 步，获得局部的充分统计量 $s_{\text{batch}}$。假设我们使用指数族分布，其充分统计量在 M 步中通过求和聚合。经典 EM 的统计量更新为 $s^{(\text{new})} = \sum_{n=1}^N s_n$。而在随机 EM 中，我们不再直接替换全局统计量，而是以衰减学习率 $\rho_t$ 进行指数移动平均：

括号内的项是全数据充分统计量的无偏估计。从数学原理上看，这相当于求解一个随机逼近过程。根据 Robbins-Monro 条件，只要学习率满足 $\sum_{t=1}^\infty \rho_t = \infty$ 且 $\sum_{t=1}^\infty \rho_t^2 \lt \infty$（例如取 $\rho_t = t^{-0.6}$），算法在凸性假设下将几乎处处收敛到平稳点。这种增量更新策略使得经典隐变量模型也可扩展至海量数据集。

5.2 序列模型架构的归纳偏置对比

本节从原理层面系统对比 HMM、RNN 与 Transformer 三类序列模型在设计哲学和数学结构上的根本差异。

序列建模的核心任务是给定历史 $x_1, \dots, x_t$ 预测未来或推断隐含状态。不同的模型对该"记忆"和"利用历史"的方式提出了截然不同的结构性假设，即归纳偏置。

隐马尔可夫模型假设系统由有限离散状态的马尔可夫链驱动。所有历史信息必须压缩进当前时刻的离散状态标签 $z_t$ 中。它的推理是概率性的：给定参数，可以精确地计算所有可能状态路径的加权和，从而给出预测的无偏概率分布以及相关的不确定性。模型参数的学习（EM/Baum–Welch）具有闭式解，收敛稳定，状态本身具有清晰的语义解释。然而，离散状态集合的大小 $K$ 一旦不足以涵盖数据中的全部变化模式，信息便会永久丢失，导致模型无法处理复杂的、高维度的序列（如自然语言或原始音频）。

循环神经网络转向使用连续实值向量 $\mathbf{h}_t \in \mathbb{R}^d$ 作为状态。更新公式 $\mathbf{h}_t = f_\theta(\mathbf{h}_{t-1}, x_t)$ 将历史分布式地编码于高维向量中，容量远超离散标签。但 RNN 不再进行概率边缘化，而是以确定性的计算图向前传播。训练依赖时间反向传播（BPTT），本质上通过梯度信号去局部修正历史路径，而无法像 HMM 那样全局加权所有可能路径。这种偏置使得 RNN 的表达力极强，但长程依赖常受梯度消失/爆炸的困扰，且难以提供精确的不确定性度量。

Transformer 则完全放弃了时序上的递归。它利用自注意力机制，让每个输出位置直接访问整个序列的所有位置，通过动态计算的注意力权重进行加权融合。信息传递的路径长度是常数 ($O(1)$)，从根本上避开了梯度消失问题。但其模型内部没有任何时间顺序的先验，必须依赖位置编码来注入顺序信息；计算复杂度为序列长度的平方级，且极度依赖大规模数据集才能学到有效的时序模式。

从统计学习的角度看，这三类模型构成了"模型偏置强度"与"数据需求量"之间的一个谱系：HMM 偏置最强（严格的马尔可夫性和离散状态），在小数据上极为有效；RNN 偏置居中（连续状态、局部递归）；Transformer 偏置最弱（仅依靠注意力与位置编码），需要海量数据来弥补假设的缺失。

形式化对比

HMM

• 联合分布：$p(x_{1:T}, z_{1:T}) = \pi_{z_1} \prod_{t=2}^T A_{z_{t-1}z_t} \prod_{t=1}^T p(x_t|z_t)$
• 前向消息：$\alpha_t(j) = \bigl(\sum_i \alpha_{t-1}(i) A_{ij}\bigr) p(x_t|z_t=j)$，$\alpha_1(i)=\pi_i p(x_1|z_1=i)$
• 后向消息：$\beta_t(i) = \sum_j A_{ij} p(x_{t+1}|z_{t+1}=j) \beta_{t+1}(j)$，$\beta_T(i)=1$
• 推断复杂度为 $O(T K^2)$。

RNN (Elman)

• 状态更新：$\mathbf{h}_t = \tanh(\mathbf{W}_h \mathbf{h}_{t-1} + \mathbf{W}_x x_t + \mathbf{b})$
• 长程梯度依赖的连乘形式：

其中 $\frac{\partial \mathbf{h}_{k+1}}{\partial \mathbf{h}_k} = \operatorname{diag}(1-\mathbf{h}_{k+1}^2) \mathbf{W}_h$。梯度消失或爆炸取决于 $\mathbf{W}_h$ 的谱半径。

Transformer (自注意力)

• $\operatorname{Attention}(\mathbf{Q},\mathbf{K},\mathbf{V}) = \operatorname{softmax}(\mathbf{Q}\mathbf{K}^\top / \sqrt{d}) \mathbf{V}$，其中 $\mathbf{Q} = \mathbf{X}\mathbf{W}_Q, \mathbf{K} = \mathbf{X}\mathbf{W}_K, \mathbf{V} = \mathbf{X}\mathbf{W}_V$。
• 注意力权重 $\alpha_{ij} = \frac{\exp(\mathbf{q}_i^\top \mathbf{k}_j / \sqrt{d})}{\sum_k \exp(\mathbf{q}_i^\top \mathbf{k}_k / \sqrt{d})}$ 给予每一位置直接访问全序列的能力。计算复杂度 $O(T^2 d)$。

5.3 连续状态空间模型的演进

HMM 的离散状态容量受限，若将状态扩展为连续向量并保留概率推断的数学结构，就进入连续状态空间模型（SSM）的领域。本节梳理其从经典线性模型到现代深度学习变体的逻辑线索。

线性高斯状态空间模型是 HMM 最直接的连续推广。它的状态和观测方程均为带有高斯噪声的线性函数：

这里 $\mathbf{z}_t \in \mathbb{R}^m$，$\mathbf{x}_t \in \mathbb{R}^n$，$\mathbf{F}, \mathbf{H}$ 分别为状态转移矩阵和观测矩阵，$\mathbf{Q}, \mathbf{R}$ 为噪声协方差。该模型的推断可通过卡尔曼滤波（前向）与卡尔曼平滑（后向）以解析形式高效完成。卡尔曼滤波递推公式如下：

• 预测步：

• 更新步：

当模型参数未知时，同样可利用 EM 算法：E 步运行卡尔曼平滑求得隐状态的一、二阶矩（如 $\mathbb{E}[\mathbf{z}_t \mathbf{z}_{t-1}^\top]$），M 步更新参数矩阵，例如：

类似可得 $\mathbf{H}, \mathbf{Q}, \mathbf{R}$ 的闭式解。线性高斯的假设保证了推断与学习的全部优雅，但也在表达能力上设置了严格限制。

深度状态空间模型尝试用神经网络替换线性函数，例如令转移均值与方差为 $\boldsymbol{\mu}_\theta(\mathbf{z}_{t-1}), \boldsymbol{\Sigma}_\theta(\mathbf{z}_{t-1})$，发射模型为 $p_\theta(\mathbf{x}_t \mid \mathbf{z}_t)$。这使得模型的非线性表达能力大增，但后验推断不再可能精确进行。

结构化状态空间序列模型（S4）能有效处理极长期依赖，同时继承了线性推断的高效性。然而，S4 的参数 $(\mathbf{A}, \mathbf{B}, \mathbf{C}, \Delta)$ 对所有时间步是恒定的，系统不能根据输入内容有选择地强调或忽略信息。

选择性状态空间模型 针对上述限制做出了改进：将 $\mathbf{B}, \mathbf{C}$ 和步长 $\Delta$ 变为输入的函数：

其中 $s_B, s_C$ 为线性投影，$\tau$ 为单调非线性函数（如 softplus）。离散化变为时变：$\overline{\mathbf{A}}_t = \exp(\Delta_t \mathbf{A}),\; \overline{\mathbf{B}}_t = \Delta_t \mathbf{B}_t$。递推为：

由于参数随时间变化，不再能写成固定的全局卷积；但可以通过并行关联扫描高效计算，复杂度为 $O(T \log T)$。Mamba 因此同时具备了线性复杂度推理、长程记忆以及内容感知的选择性，成为现代序列建模的重要方向。

从经典的 HMM 和线性 SSM，到深度化的 DMM，再到结构化与选择性的 S4 和 Mamba，一脉相承的是状态空间表示、消息传递和可微分学习这一核心框架。只是在不同阶段，我们对表达力与计算效率的平衡做出了不同的取舍。