证明 gibbs sampling 是接受率为1 的Metropolis Hasting 特例

首先回顾下 gibbs sampling 以及 MH算法

• Metropolis Hasting Algorithm

• gibbs sampling
  

下面来证明 gibbs sampling是接受率为1的Metropolis Hasting的特例：
在gibbs sampling 采样中接受率表示为$\frac{\pi(x^*) q(x_i | x_{-i} ^ *)}{\pi(x) q(x_i ^ * | x_{-i})}$

由于$x_i$和$x_{-i} ^*$只有i 不同，但该符号表示去除i，因此$x_i=x_{-i} ^*$
另外gibbs sampling 基于假设各维度不相关 ,可得以下关系
$\pi(x^*) =\pi(x_i^* * \pi(x_{-i}^*)) = \pi(x_i^*|x_{-i}^*) * \pi(x_{-i} ^ *)$

综上，
$\frac{\pi(x^*) q(x_i | x_{-i} ^ *)}{\pi(x) q(x_i ^ * | x_{-i})}=\frac{\pi(x_i^*|x_{-i}^*) * \pi(x_{-i} ^ *)q(x_i | x_{-i} ^ *)}{\pi(x_i|x_{-i}) * \pi(x_{-i} )q(x_i ^ * | x_{-i})} = 1$