麻省理工学院最新的机器学习研究提出了一种新颖的“泊松流生成模型”(PFGM),可将任何数据分布映射到高维半球上的均匀分布

深度生成模型 (DGM) 是一种数据生成策略,广泛用于生成高质量的图像、文本和音频样本,并改进半监督学习、领域泛化和模仿学习。 深度生成模型有一些缺点,例如不稳定的 GAN 和低质量样本(VAE 或归一化流)。 基于扩散和评分模型的最新发展在没有对抗训练的情况下实现了与 GAN 相当的样本质量。 然而,这些模型中的随机选择过程很慢。 我们提出了新的策略来保护基于 CNN 或 ViT 的 GAN 模型的训练。

作者建议对流进行归一化(对采样过程进行归一化)的后向 ODE 采样器可加速采样。 这些方法尚未优于其 SDE 对应方法。 我们提出了一种新的“泊松流”,生成模型 (PFGM),它利用了一个扩展到 N 维的令人惊讶的物理真理。 他们将 N 维项目 x(比如图片)解释为平面 z = 0 中的正电荷,这是一个充满粘性流体(如蜂蜜)的 N+1 维环境。 下图显示粘性液体中的运动将平面中的任何电荷分布转换为角分布。

通过在半球上产生均匀分布的负电荷来逆转正向过程,然后跟踪它们的路径回到 z = 0 平面,在那里它们将作为数据分布分散。 反向过程是通过在负电荷半球上创建均匀分布,然后跟踪它们返回到 z = 0 平面的路径来执行的。

来源和详细信息:
https://www.marktechpost.com/2022/10/01/latest-machine-learning-research-at-mit-presents-a-novel-poisson-flow-generative-model-pfgm-that-maps-any-data-distribution-into-a-uniform-distribution-on-a-high-dimensional-hemisphere/

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注