采样方法与蒙特卡罗方法

蒙特卡罗期望估计

若想计算 $\mathbb{E}[f] = \int f(\mathbf{z})p(\mathbf{z})d\mathbf{z}$，只要能从 $p(\mathbf{z})$ 中独立采样 $\mathbf{z}^{(1)}, \ldots, \mathbf{z}^{(L)}$，则：

由大数定律保证：当 $L \to \infty$ 时，样本平均几乎必然收敛到真实期望。

逆变换采样定理

若 $U \sim \mathrm{Uniform}(0,1)$，$F$ 为目标分布的 CDF，则 $X = F^{-1}(U)$ 服从 $p(x)$。

拒绝采样 (Rejection Sampling)

找一个容易采样的提议分布 $q(\mathbf{z})$ 和常数 $k$，使得 $k \cdot q(\mathbf{z}) \geq p(\mathbf{z})$ 对所有 $\mathbf{z}$ 成立。采样流程：

1. 从 $q(\mathbf{z})$ 采样 $\mathbf{z}^*$。
2. 从 $\mathrm{Uniform}(0, k \cdot q(\mathbf{z}^*))$ 采样 $u$。
3. 若 $u \leq p(\mathbf{z}^*)$，接受 $\mathbf{z}^*$；否则拒绝。

接受概率为 $p_{\mathrm{accept}} = 1/k$。$k$ 越小（即 $kq$ 越贴近 $p$），效率越高。

重要采样 (Importance Sampling)

不直接从 $p$ 采样，而是从提议分布 $q$ 采样，再用重要性权重修正：

其中归一化权重 $\omega_l = \frac{p(\mathbf{z}^{(l)})/q(\mathbf{z}^{(l)})}{\sum_m p(\mathbf{z}^{(m)})/q(\mathbf{z}^{(m)})}$。

Metropolis-Hastings 算法

1. 初始化 $\mathbf{z}^{(0)}$。
2. 对 $t = 0, 1, 2, \ldots$：
   1. 从提议分布 $q(\mathbf{z}^* | \mathbf{z}^{(t)})$ 采样候选 $\mathbf{z}^*$。
   2. 计算接受率：
      $$A(\mathbf{z}^*, \mathbf{z}^{(t)}) = \min\!\left\{1, \frac{p(\mathbf{z}^*) \, q(\mathbf{z}^{(t)}|\mathbf{z}^*)}{p(\mathbf{z}^{(t)}) \, q(\mathbf{z}^*|\mathbf{z}^{(t)})}\right\}$$
   3. 以概率 $A$ 接受 $\mathbf{z}^{(t+1)} = \mathbf{z}^*$；否则 $\mathbf{z}^{(t+1)} = \mathbf{z}^{(t)}$。