生成模型之VAE

小小将

分类：机器学习

发布时间 2022.09.10阅读数 4347 评论数 0

自动编码器（Autoencoder，AE）

变分自动编码器（Variational Autoencoder，VAE）

CVAE

VAE的代码实现

总结

参考

2022年第一篇文章，码字不易，求star!

“What I cannot create, I do not understand.” -- Richard Feynman

说起生成模型，大家最容易想到的就是GAN，GAN是通过对抗训练实现的一种隐式生成模型。虽然GAN很强大，但其实还有很多与GAN不同的生成模型，最常见的就是基于最大化似然的模型，变分自动编码器（Variational Autoencoder，VAE）就属于这种类型。这篇文章将介绍VAE的原理和实现。

自动编码器（Autoencoder，AE）

再讲VAE之前，有必要先简单介绍一下自动编码器AE，自动编码器是一种无监督学习方法，它的原理很简单：先将高维的原始数据映射到一个低维特征空间，然后从低维特征学习重建原始的数据。一个AE模型包含两部分网络：

Encoder：将原始的高维数据映射到低维特征空间，这个特征维度一般比原始数据维度要小，这样就起到压缩或者降维的目的，这个低维特征也往往成为中间隐含特征（latent representation）；
Decoder：基于压缩后的低维特征来重建原始数据；

如上图所示，这里 $g_{ϕ}$ 为encoder网络的映射函数（网络参数为 $ϕ$ ），而 $f_{θ}$ 为decoder网络的映射函数（网络参数为 $θ$ ）。那么对于输入 $x$ ，可以通过encoder得到隐含特征 $z = g_{ϕ} (x)$ ，然后decoder可以从隐含特征对原始数据进行重建： $x^{'} = f_{θ} (z) = f_{θ} (g_{ϕ} (x))$ 。我们希望重建的数据和原来的数据近似一致的，那么AE的训练损失函数可以采用简单的MSE：

$L_{AE} (θ, ϕ) = \frac{1}{n} \sum_{i = 1}^{n} (x^{(i)} - f_{θ} (g_{ϕ} (x^{(i)})))^{2}$

由于训练AE并不需要对数据进行标注，所以AE是一种无监督学习方法。由于压缩后的特征能对原始数据进行重建，所以我们可以用AE的encoder对高维数据进行压缩，这和PCA非常类似，当然得到的隐含特征也可以用来做一些其它工作，比如相似性搜索等。

AE有很多变种，比如经典的去噪自编码器（Denoising Autoencoder，DAE），与原始AE不同的是，在训练过程先对输入 $x$ 进行一定的扰动，比如增加噪音或者随机mask掉一部分特征。相比AE，DAE的重建难度增加，这也使得encoder学习到的隐含特征更具有代表性。

作为一种无监督学习方法，AE除了可以对数据降维，还可以用来对深度网络进行预训练。在深度学习早期，由于存在数据和算力限制，训练深度模型是比较困难的，所以常常采用无监督学习方法先对网络进行预训练，然后在具体的任务上进行有监督finetune，经典的工作如基于DAE的堆叠去噪自编码器（Stacked Denoising Autoencoder，SDA）和基于RBM的深度信念网络（Deep Belief Network，DBN）。

然而，随着大数据的出现（比如包含1.3M图像的ImageNet数据集）以及网络架构的优化（如ResNet的出现），这种训练方式基本被弃用了，目前的主流方式是先在大规模有标注数据集上预训练，然后用预训练初始化的模型来训练具体的任务。由于标注数据存在成本，但收集大规模无标注数据相对容易，所以最近又开始了无监督训练研究的热潮，一些基于对比学习的自监督方法如Moco和SimCLR等已经可以达到和ImageNet有标注监督训练类似的效果。而今年来，随着vision transformer的大爆发，又出现了基于MIM（mask image modeling)的自监督方法，如MAE和SimMIM，它们都是采用和AE类似的设计架构，这让基于AE的无监督训练方法再次卷土重来。

变分自动编码器（Variational Autoencoder，VAE）

VAE虽然名字里也带有自动编码器，但这主要是因为VAE和AE有着类似的结构，即encoder和decoder这样的架构设计。实际上，VAE和AE在建模方面存在很大的区别，从本质上讲，VAE是一种基于变分推断（Variational Inference, Variational Bayesian methods）的概率模型（Probabilistic Model），它属于生成模型（当然也是无监督模型）。在变分推断中，除了已知的数据（观测数据，训练数据）外还存在一个隐含变量，这里已知的数据集记为 $X = {x^{(i)}}_{i = 1}^{N}$ 由 $N$ 个连续变量或者离散变量 $x$ 组成，而未观测的随机变量记为 $z$ ，那么数据的产生包含两个过程：

从一个先验分布 $p_{θ} (z)$ 中采样一个 $z^{(i)}$ ；
根据条件分布 $p_{θ} (x | z)$ ，用 $z^{(i)}$ 生成 $x^{(i)}$ 。

这里的 $θ$ 指的是分布的参数，比如对于高斯分布就是均值和标准差。我们希望找到一个参数 $θ^{*}$ 来最大化生成真实数据的概率：

$θ^{*} = \arg max_{θ} \prod_{i = 1}^{n} p_{θ} (x^{(i)})$

这里 $p_{θ} (x^{(i)})$ 可以通过对 $z$ 积分得到：

$p_{θ} (x^{(i)}) = \int p_{θ} (x^{(i)} | z) p_{θ} (z) d z$

而实际上要根据上述积分是不现实的，一方面先验分布 $p_{θ} (z)$ 是未知的，而且如果分布比较复杂，对 $z$ 穷举计算也是极其耗时的。为了解决这个难题，变分推断引入后验分布 $p_{θ} (z | x)$ 来联合建模，根据贝叶斯公式，后验等于：

$p_{θ} (z | x) = \frac{p_{θ} (x | z) p_{θ} (z)}{p_{θ} (x)}$

这样的联合建模如上图所示，实线代表的是我们想要得到的生成模型 $p_{θ} (x | z) p_{θ} (z)$ ，其中先验分布 $p_{θ} (z)$ 往往是事先定义好的（比如标准正态分布），而 $p_{θ} (x | z)$ 可以用一个网络来学习，类比AE的话，如果把 $z$ 看成隐含特征，那么这个网络就可以看成一个probabilistic decoder。虚线代表的是对后验分布 $p_{θ} (z | x)$ 的变分估计，记为 $q_{ϕ} (z | x)$ ，它也可以用一个网络来学习，这个网络可以看成一个probabilistic encoder。可以看到，VAE和AE在架构设计上是类似的，只不过这里probabilistic encoder和probabilistic decoder学习的是两个分布。对于VAE来说，最终目标是得到生成模型即decoder，而encoder只是为了辅助建模，但对于AE来说，常常是为了得到encoder来进行特征提取或者压缩。

建模已经完成，下面我们来推导一下VAE的优化目标。对于估计的后验 $q_{ϕ} (z | x)$ ，我们希望它接近真实的后验分布 $p_{θ} (z | x)$ ，评估两个分布差异最常用的方式就是计算KL散度（Kullback-Leibler divergence）。对 $q_{ϕ} (z | x)$ 和 $p_{θ} (z | x)$ 计算KL散度，如下所示：

$\begin{aligned} D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z | x)) \\ = \int q_{ϕ} (z | x) \log \frac{q_{ϕ} (z | x)}{p_{θ} (z | x)} d z \\ = \int q_{ϕ} (z | x) \log \frac{q_{ϕ} (z | x) p_{θ} (x)}{p_{θ} (z, x)} d z & ; Because p (z | x) = p (z, x) / p (x) \\ = \int q_{ϕ} (z | x) (\log p_{θ} (x) + \log \frac{q_{ϕ} (z | x)}{p_{θ} (z, x)}) d z \\ = \log p_{θ} (x) + \int q_{ϕ} (z | x) \log \frac{q_{ϕ} (z | x)}{p_{θ} (z, x)} d z & ; Because \int q (z | x) d z = 1 \\ = \log p_{θ} (x) + \int q_{ϕ} (z | x) \log \frac{q_{ϕ} (z | x)}{p_{θ} (x | z) p_{θ} (z)} d z & ; Because p (z, x) = p (x | z) p (z) \\ = \log p_{θ} (x) + E_{z \sim q_{ϕ} (z | x)} [\log \frac{q_{ϕ} (z | x)}{p_{θ} (z)} - \log p_{θ} (x | z)] \\ = \log p_{θ} (x) + D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z)) - E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z) \end{aligned}$

最终可以得到：

$D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z | x)) = \log p_{θ} (x) + D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z)) - E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z)$

这里我们适当调整一下上述等式中各个项的位置，可以得到：

$\log p_{θ} (x) - D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z | x)) = E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z) - D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z))$

这里 $\log p_{θ} (x)$ 是生成真实数据的对数似然，对于生成模型，我们希望最大化这个对数似然，而 $D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z | x))$ 是估计的后验分布和真实分布的KL散度，我们希望最小化该KL散度（KL散度为0时两个分布没有差异），所以上述等式的左边就是联合建模的最大化优化目标，这等价于最大化等式的右边。这个等式的右边又称为Evidence lower bound，简称为ELBO，这主要是因为 $p_{θ} (x)$ 一般称为evidence，而由于KL散度的非负性，所以有下述不等式：

$\log p_{θ} (x) \geq E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z) - D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z))$

所以ELBO是evidence的下限，ELBO是变分推断中经常用到的优化目标。对于VAE，ELBO取负就是其要最小化的训练目标：

$\begin{aligned} L_{VAE} (θ, ϕ) & = - E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z) + D_{KL} (q_{ϕ} (z | x) ‖ p_{θ} (z)) \\ θ^{*}, ϕ^{*} & = \arg min_{θ, ϕ} L_{VAE} \end{aligned}$

对于优化目标的第二项，即计算 $q_{ϕ} (z | x)$ 和 $p_{θ} (z)$ 的KL散度，首先我们必须要对两个分布做一定的假设：

$\begin{aligned} q_{ϕ} (z | x^{(i)}) = N (z; μ^{(i)}, σ^{2 (i)} I) \\ p_{θ} (z) = N (z, 0, I) \end{aligned}$

即 $q_{ϕ} (z | x)$ 为各分量独立的多元高斯分布（协方差矩阵为对角矩阵），那么encoder网络预测的就是高斯分布的均值 $μ$ 和方差 $σ^{2}$ （实际处理时预测 $\log σ^{2}$ ，因为该值是无约束的）。而先验 $p_{θ} (z)$ 为标准正态分布，这样就变成了计算两个多元高斯分布的KL散度。对于多元高斯分布，其概率密度函数为：

$p (x) = \frac{1}{\sqrt{(2 π)^{n} det (Σ)}} \exp {- \frac{1}{2} (x - μ)^{⊤} Σ^{- 1} (x - μ)}$

对于两个多元高斯分布，其KL散度计算推导如下：

$\begin{aligned} KL (p_{1} | | p_{2}) & = E_{p_{1}} (\log (p_{1}) - \log (p_{2})) \\ = - \frac{1}{2} E_{p_{1}} [\log (det (Σ_{1})) - (x - μ_{1})^{⊤} Σ_{1}^{- 1} (x - μ_{1}) - \log (det (Σ_{2})) + (x - μ_{2})^{⊤} Σ_{2}^{- 1} (x - μ_{2})] \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} + \frac{1}{2} E_{p_{1}} [- (x - μ_{1})^{⊤} Σ_{1}^{- 1} (x - μ_{1}) + (x - μ_{2})^{⊤} Σ_{2}^{- 1} (x - μ_{2})] \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} + \frac{1}{2} E_{p_{1}} [- tr ((x - μ_{1})^{⊤} Σ_{1}^{- 1} (x - μ_{1})) + tr ((x - μ_{2})^{⊤} Σ_{2}^{- 1} (x - μ_{2}))] \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} + \frac{1}{2} E_{p_{1}} [- tr (Σ_{1}^{- 1} (x - μ_{1}) (x - μ_{1})^{⊤}) + tr (Σ_{2}^{- 1} (x - μ_{2}) (x - μ_{2})^{⊤})] \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} - \frac{1}{2} tr (Σ_{1}^{- 1} E_{p_{1}} [(x - μ_{1}) (x - μ_{1})^{⊤}]) + \frac{1}{2} tr (Σ_{2}^{- 1} E_{p_{1}} [(x - μ_{2}) (x - μ_{2})^{⊤}]) \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} - \frac{1}{2} tr (Σ_{1}^{- 1} Σ_{1}) + \frac{1}{2} tr (Σ_{2}^{- 1} E_{p_{1}} [(x x^{⊤} - x μ_{2}^{⊤} - μ_{2} x^{⊤} + μ_{2} μ_{2}^{⊤}]) \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} - \frac{1}{2} n + \frac{1}{2} tr (Σ_{2}^{- 1} (Σ_{1} + μ_{1} μ_{1}^{⊤} - μ_{1} μ_{2}^{⊤} - μ_{2} μ_{1}^{⊤} + μ_{2} μ_{2}^{⊤})) \\ = \frac{1}{2} \log \frac{det (Σ_{2})}{det (Σ_{1})} - \frac{1}{2} n + \frac{1}{2} tr (Σ_{2}^{- 1} Σ_{1}) + \frac{1}{2} (μ_{2} - μ_{1})^{⊤} Σ_{1}^{- 1} (μ_{2} - μ_{1}) \\ = \frac{1}{2} (tr (Σ_{2}^{- 1} Σ_{1}) + (μ_{2} - μ_{1})^{⊤} Σ_{1}^{- 1} (μ_{2} - μ_{1}) - n + \log \frac{det (Σ_{2})}{det (Σ_{1})}) \end{aligned}$

上述公式的推导涉及到一些线性代数的知识，如矩阵的迹运算（tr)，如果不明白可以参考这篇文章。根据上述公式，就可以计算出 $q_{ϕ} (z | x)$ 和 $p_{θ} (z)$ 的KL散度：

$\begin{aligned} KL (q_{ϕ} (z | x^{(i)}) | | p_{θ} (z)) & = KL (N (z; μ^{(i)}, σ^{2 (i)} I) | | N (z, 0, I)) \\ = \frac{1}{2} (tr (σ^{2 (i)} I) + (μ^{(i)})^{⊤} μ^{(i)} - n - \log det σ^{2 (i)} I) \\ = \frac{1}{2} \sum_{j = 0}^{n} ((σ_{j}^{(i)})^{2} + (μ_{j}^{(i)})^{2} - 1 - \log ((σ_{j}^{(i)})^{2})) \end{aligned}$

这里 $n$ 指的多元高斯分布分量的总数，或者说是隐变量 $z$ 的元素数量。实际上由于 $q_{ϕ} (z | x)$ 为各分量独立的多元高斯分布，这个计算可以简化为先计算单独计算各分量的的KL散度（即一元正态分布），然后对各分量的KL散度求和，因为一元正态分布的KL散度相对容易推导：

$\begin{aligned} KL (N (μ, σ^{2}) ‖ N (0, 1)) \\ = & E_{x \sim N (μ, σ^{2})} [\log \frac{e^{- (x - μ)^{2} / 2 σ^{2}} / \sqrt{2 π σ^{2}}}{e^{- x^{2} / 2} / \sqrt{2 π}}] \\ = & E_{x \sim N (μ, σ^{2})} [\log (\frac{1}{\sqrt{σ^{2}}} \exp (\frac{1}{2} (x^{2} - (x - μ)^{2} / σ^{2}))] \\ = & \frac{1}{2} E_{x \sim N (μ, σ^{2})} [- \log σ^{2} + x^{2} - (x - μ)^{2} / σ^{2}] \\ = & \frac{1}{2} (- \log σ^{2} + σ^{2} + μ^{2} - 1) \end{aligned}$

综上，对于训练数据的一个样本 $x^{(i)}$ ，其KL散度项的优化目标为：

$D_{KL} (q_{ϕ} (z | x^{(i)}) ‖ p_{θ} (z)) = \frac{1}{2} \sum_{j = 0}^{n} ((σ_{j}^{(i)})^{2} + (μ_{j}^{(i)})^{2} - 1 - \log ((σ_{j}^{(i)})^{2}))$

现在我们来分析优化目标的第一项 $- E_{z \sim q_{ϕ} (z | x)} \log p_{θ} (x | z)$ ，它一般被称为重建误差（reconstruction error），因为 $p_{θ} (x | z)$ 正是给定 $z$ 下生成真实数据 $x$ 的似然（Likelihood）。对于一个给定的训练样本 $x^{(i)}$ ，我们可以采蒙特卡洛方法（Monte Carlo method）来估计这个数学期望，即从 $q_{ϕ} (z | x^{(i)})$ 多次采样来估计：

$- E_{z \sim q_{ϕ} (z | x^{(i)})} \log p_{θ} (x^{(i)} | z) \approx - \frac{1}{L} \sum_{l = 1}^{L} (\log p_{θ} (x^{(i)} | z^{(i, l)}))$

这里的 $L$ 为采样的总次数，实际上在具体实现上往往 $L = 1$ ，即只随机采样一次（VAE论文中说当训练的mini-batch size足够大时，采样一次是有效的）。另外一个困难的地方，从 $q_{ϕ} (z | x^{(i)})$ 采样这个操作是无法计算梯度的，VAE采用一种重参数化（reparameterization）技巧来解决这个问题，具体地，通过引入一个额外的独立随机变量 $ϵ \sim p (ϵ)$ 来将随机变量 $z$ 转变成确定变量： $z = g_{ϕ} (x, ϵ)$ 。由于 $q_{ϕ} (z | x)$ 已经假定为多元高斯分布，使用重采样技巧后则为：

$\begin{aligned} z & \sim q_{ϕ} (z | x^{(i)}) = N (z; μ^{(i)}, σ^{2 (i)} I) \\ z & = μ + σ ⊙ ϵ, where ϵ \sim N (0, I) & ; Reparameterization trick. \end{aligned}$

直观上讲，就是首先从标准正态分布随机采样一个样本，然后乘以encoder预测的标准差，再加上encoder预测的均值，这样就能计算该损失对encoder网络参数的梯度了。

根据建模的数据类型， $p_{θ} (x | z)$ 分布可以是一个高斯分布也可以是一个伯努利分布，这里以更通用的高斯分布为例。假定 $p_{θ} (x | z)$ 分布也属于一个各分量独立的多元高斯分布： $p_{θ} (x | z) = N (x; μ, σ^{2} I)$ 。由于各个分量独立，所以我们可以单独计算每个分量：

$\begin{aligned} \log p (x | z) & = \log \frac{1}{\sqrt{2 π σ^{2}}} \exp (- \frac{(x - μ)^{2}}{2 σ^{2}}) \\ = \log \frac{1}{\sqrt{2 π σ^{2}}} - \frac{1}{2 σ^{2}} (x - μ)^{2} \end{aligned}$

对于这个高斯分布的标准差，我们往往假定它是一个常量，而均值是由decoder预测得出： $μ = f_{θ} (z)$ 。那么则有：

$- \log p_{θ} (x^{(i)} | z^{(i, l)}) = C_{1} + C_{2} \sum_{d}^{D} (x_{d}^{(i)} - (f_{θ} (z^{(i, l)}))_{d})^{2}$

这里 $C_{1}$ 和 $C_{2}$ 均是常量，而 $D$ 是变量 $x$ 的维度大小。如果忽略常量 $C_{1}$ 的话，那么重建误差其实就是L2损失。上面我们是假定 $p_{θ} (x | z)$ 分布是一个高斯分布，如果 $p_{θ} (x | z)$ 是一个伯努利分布即0-1分布的话，此时decoder直接预测概率值（sigmoid激活函数），重建误差就是交叉熵，：

$\log p_{θ} (x | z) = \sum_{d}^{D} (x_{d} \log (f_{θ} (z)_{d}) + (1 - x_{d}) \log (1 - f_{θ} (z)_{d}))$

根据上述分析，对给定的一个训练样本 $x^{(i)}$ ，其训练损失（假定是高斯分布）为：

$\begin{aligned} L_{VAE} (θ, ϕ, x^{(i)}) & = - E_{z \sim q_{ϕ} (z | x^{(i)})} \log p_{θ} (x^{(i)} | z) + D_{KL} (q_{ϕ} (z | x^{(i)}) ‖ p_{θ} (z)) \\ \approx - \frac{1}{L} \sum_{l = 1}^{L} (\log p_{θ} (x^{(i)} | z^{(i, l)})) + D_{KL} (q_{ϕ} (z | x^{(i)}) ‖ p_{θ} (z)) \\ = \frac{C}{L} \sum_{l = 1}^{L} \sum_{d}^{D} (x_{d}^{(i)} - (f_{θ} (z^{(i, l)}))_{d})^{2} + \frac{1}{2} \sum_{j = 0}^{n} ((σ_{j}^{(i)})^{2} + (μ_{j}^{(i)})^{2} - 1 - \log ((σ_{j}^{(i)})^{2})) \end{aligned}$

如果把KL散度项看到一个正则化的话，那么VAE的损失函数就是重建误差+正则化，这样VAE就可以看成是一个加了约束的AE。VAE的整个训练流程如下所示：输入 $x$ ，encoder首先计算出后验分布的均值和标准差，然后通过重采样方法采样得到隐变量 $z$ ，然后送入decoder得到重建的数据 $x^{'}$ 。

训练完成后，我们就得到生成模型 $p_{θ} (x | z) p_{θ} (z)$ ，其中 $p_{θ} (x | z)$ 就是decoder网络，而先验 $p_{θ} (z)$ 为标准正态分布，我们从 $p_{θ} (z)$ 随机采样一个 $z$ ，送入decoder网络，就能生成与训练数据 $X$ 类似的样本。

CVAE

条件变分自编码器（Conditional Variational Autoencoder，CVAE）是VAE的一个变种，相比VAE，CVAE要估计的是一个条件分布 $p_{θ} (x | y)$ ，同样地，我们引入隐变量 $z$ 来进行变分推断。此时，给定一个输入 $y$ ，从先验分布 $p_{θ} (z | y)$ 中采样一个 $z$ ，然后根据分布 $p_{θ} (x | z, y)$ 生成一个样本 $x$ ，因而这里要求解的生成模型是 $p_{θ} (z | y) p_{θ} (x | z, y)$ 。这个生成模型可以用两个网络来学习，其中一个网络来学习先验分布 $p_{θ} (z | y)$ ，另外一个网络来学习条件分布 $p_{θ} (x | z, y)$ 。在VAE，我们假定先验 $p_{θ} (z)$ 为标准正态分布，因为不需要单独的网路来学习；而在CVAE中，先验分布 $p_{θ} (z | y)$ 是一种条件先验，如果假定 $z$ 是独立与 $y$ 的话，那么此时先验分布 $p_{θ} (z | y) = p_{θ} (z)$ ，更进一步地也可以简化认为先验为标准正态分布。同样地，我们另外采用一个网络 $q_{ϕ} (z | x, y)$ 来估计后验分布 $p_{θ} (z | x, y)$ 。同样地，我们可以推导出ELBO：

$\log p_{θ} (x | y) \geq E_{z \sim q_{ϕ} (z | x, y)} \log p_{θ} (x | z, y) - D_{KL} (q_{ϕ} (z | x, y) ‖ p_{θ} (z | y))$

那么对于CVAE，其优化目标为：

$\begin{aligned} L_{CVAE} (θ, ϕ) & = - E_{z \sim q_{ϕ} (z | x, y)} \log p_{θ} (x | z, y) + D_{KL} (q_{ϕ} (z | x, y) ‖ p_{θ} (z | y)) \\ θ^{*}, ϕ^{*} & = \arg min_{θ, ϕ} L_{CVAE} \end{aligned}$

对于上述优化目标的处理，同样地可以采用和VAE一样的分析过程，这里不再详细展开，具体见CVAE论文。下图为CVAE的一种实现方式（这里先验简化为标准正态分布）：

对于VAE和CVAE，它们最重要的区别是数据是如何生成的，对于VAE，数据的产生认为是 $p_{θ} (x | z) p_{θ} (z)$ ，而对于CVAE，其数据的产生是 $p_{θ} (z | y) p_{θ} (x | z, y)$ ，不同的数据产生方式导致了不同的建模方式和ELBO，但两者用的变分推断理论是一致的。

VAE的代码实现

这里以MNIST数据集为例用PyTorch实现一个简单的VAE生成模型，由于MNIST数据集为灰度图，而且大部分像素点为0（黑色背景）或者白色（255，前景），所以这里可以将像素值除以255归一化到[0, 1]，并认为像素值属于伯努利分布，重建误差采用交叉熵。首先是构建encoder，这里用简单的两层卷积和一个全连接层来实现，encoder给出隐变量的mu和log_var：

class Encoder(nn.Module):
    """The encoder for VAE"""
    
    def __init__(self, image_size, input_dim, conv_dims, fc_dim, latent_dim):
        super().__init__()
        
        convs = []
        prev_dim = input_dim
        for conv_dim in conv_dims:
            convs.append(nn.Sequential(
                nn.Conv2d(prev_dim, conv_dim, kernel_size=3, stride=2, padding=1),
                nn.ReLU()
            ))
            prev_dim = conv_dim
        self.convs = nn.Sequential(*convs)
        
        prev_dim = (image_size // (2 ** len(conv_dims))) ** 2 * conv_dims[-1]
        self.fc = nn.Sequential(
            nn.Linear(prev_dim, fc_dim),
            nn.ReLU(),
        )
        self.fc_mu = nn.Linear(fc_dim, latent_dim)
        self.fc_log_var = nn.Linear(fc_dim, latent_dim)
                    
    def forward(self, x):
        x = self.convs(x)
        x = torch.flatten(x, start_dim=1)
        x = self.fc(x)
        mu = self.fc_mu(x)
        log_var = self.fc_log_var(x)
        return mu, log_var

对于decoder，基本采用对称的结构，这里用反卷积来实现上采样，decoder根据隐变量重构样本或者生成样本：

class Decoder(nn.Module):
    """The decoder for VAE"""
    
    def __init__(self, latent_dim, image_size, conv_dims, output_dim):
        super().__init__()
        
        fc_dim = (image_size // (2 ** len(conv_dims))) ** 2 * conv_dims[-1]
        self.fc = nn.Sequential(
            nn.Linear(latent_dim, fc_dim),
            nn.ReLU()
        )
        self.conv_size = image_size // (2 ** len(conv_dims))
        
        de_convs = []
        prev_dim = conv_dims[-1]
        for conv_dim in conv_dims[::-1]:
            de_convs.append(nn.Sequential(
                nn.ConvTranspose2d(prev_dim, conv_dim, kernel_size=3, stride=2, padding=1, output_padding=1),
                nn.ReLU()
            ))
            prev_dim = conv_dim
        self.de_convs = nn.Sequential(*de_convs)
        self.pred_layer = nn.Sequential(
            nn.Conv2d(prev_dim, output_dim, kernel_size=3, stride=1, padding=1),
            nn.Sigmoid()
        )
        
    def forward(self, x):
        x = self.fc(x)
        x = x.reshape(x.size(0), -1, self.conv_size, self.conv_size)
        x = self.de_convs(x)
        x = self.pred_layer(x)
        return x

有了encoder和decoder，然后就可以构建VAE模型了，这里的实现只对隐变量通过重采样方式采样一次，训练损失为KL散度和重建误差（交叉熵）之和：

class VAE(nn.Module):
    """VAE"""
    
    def __init__(self, image_size, input_dim, conv_dims, fc_dim, latent_dim):
        super().__init__()
        
        self.encoder = Encoder(image_size, input_dim, conv_dims, fc_dim, latent_dim)
        self.decoder = Decoder(latent_dim, image_size, conv_dims, input_dim)
        
    def sample_z(self, mu, log_var):
        """sample z by reparameterization trick"""
        std = torch.exp(0.5 * log_var)
        eps = torch.randn_like(std)
        return mu + eps * std
    
    def forward(self, x):
        mu, log_var = self.encoder(x)
        z = self.sample_z(mu, log_var)
        recon = self.decoder(z)
        return recon, mu, log_var
    
    def compute_loss(self, x, recon, mu, log_var):
        """compute loss of VAE"""
        
        # KL loss
        kl_loss = (0.5*(log_var.exp() + mu ** 2 - 1 - log_var)).sum(1).mean()
        
        # recon loss
        recon_loss = F.binary_cross_entropy(recon, x, reduction="none").sum([1, 2, 3]).mean()
        
        return kl_loss + recon_loss

模型训练完成，可以从标准正态分布随机采样，然后生成新的样本，下图为一些模型生成的样本：

VAE虽然主要用于生成，但是作为一种无监督学习方法，也能用于提取特征，下图为从MNIST验证集中提取的中间隐含层特征（encoder属于的mu）的TSNE可视化，可以看到不同类别的隐含特征具有一定的区分度：

这里额外要提的一点，VAE模型比较容易出现posterior collapse问题，简单来说，就是由于decoder足够强大，可以不依赖隐变量而直接学习到了数据分布，此时： $q_{ϕ} (z | x) = p_{θ} (z), p_{θ} (x | z) = p_{θ} (x)$ 。这对生成模型没有太大的问题，但是如果你用VAE提取特征的话，就不行了，因为隐变量和原始数据之间没有联系了。这个问题具体可以看看这篇文章Understanding Posterior Collapse in Generative Latent Variable Models。对于posterior collapse问题，也有很多改进方案来解决或者避免，比如VQ-VAE，后面会有新的文章来讲解。

代码的实现放在github上，具体见GitHub - xiaohu2015/nngen

总结

这篇文章简单讲述了自动编码器的原理，并重点介绍了VAE模型的原理以及它和AE之间的联系，最后给出了一个具体的VAE代码实例。VAE模型涉及比较复杂的数学建模，理解它需要花费一定的精力，这里特别感谢一些优秀的文章（见参考）。

参考

深度学习变分推断生成模型 VAE

打赏 0

上一篇：SOTA模型Swin Transformer是如何炼成的

下一篇：BatchNorm避坑指南

生成模型之VAE

小小将

自动编码器（Autoencoder，AE）

变分自动编码器（Variational Autoencoder，VAE）

CVAE

VAE的代码实现

总结

参考

为你推荐

（四十四）通俗易懂理解——BiLSTM-CRF

神经网络的三种可视化方法——使用keras和MXNet(gluon)实现

语义分割综述

强化学习入门项目 Spinning up OpenAI (2) 基本使用

自动驾驶之轨迹规划5——Apollo规划中的离散点曲线平滑数学原理

学习笔记——支持向量机svm（2）对偶问题

关于作者

小小将

54

0

1

3

TorchData：PyTorch新的数据构建方式

用torchvision训练一个SOTA的ResNet

特征蒸馏：让对比学习匹敌图像掩码自监督学习

相关推荐

行人重识别(13)——代码实践之随机采样器（sampler.py）

语义实例分割1-02：snake(实时实例分割))-官方数据训练测试，环境搭建等

深度学习之RNN

深度学习入门-卷积神经网络（一）卷积层

win10中jupyter notebook设置conda虚拟环境全流程及问题汇总

深度学习图像分类（四）： GoogLeNet（V1,V2,V3,V4）

热门泡泡

30积分失眠，聊聊自己搞ROS的心得体会吧

ros学习路线

30积分 TF_REPEATED_DATA ignoring data错误

各位大佬，有什么ROS定位算法推荐吗

5积分想买能用ROS2的开发套件。或者开发板

5积分 ros中启动gazebo时报错

给作者打赏

生成模型之VAE

小小将

自动编码器（Autoencoder，AE）

变分自动编码器（Variational Autoencoder，VAE）

CVAE

VAE的代码实现

总结

参考

为你推荐

（四十四）通俗易懂理解——BiLSTM-CRF

神经网络的三种可视化方法——使用keras和MXNet(gluon)实现

语义分割综述

强化学习入门项目 Spinning up OpenAI (2) 基本使用

自动驾驶之轨迹规划5——Apollo规划中的离散点曲线平滑数学原理

学习笔记——支持向量机svm（2）对偶问题

评论（0）

关于作者

小小将

54

0

1

3

TorchData：PyTorch新的数据构建方式

用torchvision训练一个SOTA的ResNet

特征蒸馏：让对比学习匹敌图像掩码自监督学习

相关推荐

行人重识别(13)——代码实践之随机采样器（sampler.py）

语义实例分割1-02：snake(实时实例分割))-官方数据训练测试，环境搭建等

深度学习之RNN

深度学习入门-卷积神经网络（一）卷积层

win10中jupyter notebook设置conda虚拟环境全流程及问题汇总

深度学习图像分类（四）： GoogLeNet（V1,V2,V3,V4）

热门泡泡

30积分 失眠，聊聊自己搞ROS的心得体会吧

ros学习路线

30积分 TF_REPEATED_DATA ignoring data错误

各位大佬，有什么ROS定位算法推荐吗

5积分 想买能用ROS2的开发套件。或者开发板

5积分 ros中启动gazebo时报错

给作者打赏

忘记密码

修改头像

添加你感兴趣的标签

举报类型（必选）

举报详情（选填）

30积分失眠，聊聊自己搞ROS的心得体会吧

5积分想买能用ROS2的开发套件。或者开发板