自编码器及其几种变种(自编码器特征分类？)

自编码器特征分类？

变分自编码(VAE)和生成对策网络(GAN)一样，是无监督学习中最有前途的方法之一。在这篇论文中，牛津大学统计系博士生Adam Kosiorek原则上向我们介绍了VAE目前面临的挑战。同时，本文还对该方法提出了几个改进方向。

隐藏变量模型

假设你想通过一个定义在x∈RD上的概率分布来建模整个世界，其中p(x)代表x的可能状态，世界可能如此复杂，以至于我们可以 我不知道p(x)的具体形式。为了解决这个问题，我们引入了另一个变量z∈Rd来描述X的背景信息，例如，如果X是一幅图像，那么Z可以记录图像中可见物体的外观、数量和类型等信息，以及图片的背景和光照条件。这个新变量使我们能够将p(x)表示为一个无限混合模型。

这是一个混合模型，因为对于z的任何可能值，引入另一个条件分布，用z的概率加权，最后得到p(x)。

在这种情况下， "给定X的观测值，什么是隐藏变量Z "变成了一个非常有趣的问题。

换句话说，我们想知道p(z∣x).的后验分布但是Z和X之间可以存在高度非线性的关系(比如可以用多层神经网络来实现)，D—我们观测的维数和D—隐变量的维数也可能非常大。由于边际分布和后验分布都需要求公式(1)的积分，所以我们认为它们都是不可数的。

我们可以通过蒙特卡罗抽样根据p(x)≅1m∑mm = 1p(x∣z(m))p(x)

模型 分布 建议

版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。