news 2026/6/10 14:34:56

13.5 扩散模型:前向过程、反向过程与得分匹配

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
13.5 扩散模型:前向过程、反向过程与得分匹配

13.5 扩散模型:前向过程、反向过程与得分匹配

扩散模型是当前生成式人工智能领域的核心范式之一,其灵感源于非平衡热力学,通过模拟数据在噪声空间中的扩散与逆扩散过程来学习数据分布[reference:0]。本节将系统阐述扩散模型的三个核心组成部分:前向扩散过程、反向生成过程以及作为其理论基石的得分匹配方法。

13.5.1 前向过程:从数据分布到噪声分布

前向过程是一个固定的马尔可夫链,其目的是将复杂的数据分布pdata(x0)p_{data}(\mathbf{x}_0)pdata(x0)通过逐步添加高斯噪声,渐近地转化为一个易于采样的简单先验分布(通常是标准高斯分布)。

给定原始数据样本x0∼pdata\mathbf{x}_0 \sim p_{data}x0pdata,前向过程在TTT个时间步上定义。在离散时间设定下,每一步的转移概率定义为:
q(xt∣xt−1)=N(xt;1−βtxt−1,βtI),t=1,…,T q(\mathbf{x}_t | \mathbf{x}_{t-1}) = \mathcal{N}(\mathbf{x}_t; \sqrt{1-\beta_t} \mathbf{x}_{t-1}, \beta_t \mathbf{I}), \quad t=1,\dots,Tq(xtxt1)=N(xt;1βtxt1,βtI),t=1,,T
其中{ βt∈(0,1)}t=1T\{\beta_t \in (0,1)\}_{t=1}^{T}{βt(0,1)}t=1T是预先定义的噪声调度。该过程的一个关键特性是,由于高斯分布的可加性,我们可以通过重参数化技巧,直接从x0\mathbf{x}_0x0采样任意时间步ttt的加噪样本:
xt=αˉtx0+1−αˉtϵ,ϵ∼N(0,I) \mathbf{x}_t = \sqrt{\bar{\alpha}_t} \mathbf{x}_0 + \sqrt{1-\bar{\alpha}_t} \epsilon, \quad \epsilon \sim \mathcal{N}(\mathbf{0}, \mathbf{I})xt=αˉtx0+1αˉtϵ,ϵN(0,I)
这里,αt=1−βt\alpha_t = 1 - \beta_tαt=1

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/10 11:39:45

Excalidraw错误提示文案优化:更友好易懂

Excalidraw错误提示文案优化:更友好易懂 在远程协作日益频繁的今天,一款数字白板工具是否“好用”,往往不取决于它能画出多复杂的图表,而在于当事情出错时——比如点了一下却什么都没发生、文件打不开、AI没反应——它能不能告诉你…

作者头像 李华
网站建设 2026/6/10 11:18:44

Excalidraw品牌色系定义:VI视觉识别系统

Excalidraw 视觉识别系统设计解析:从色彩到手绘风格的工程实践 在数字协作工具百花齐放的今天,大多数白板产品选择走“精准、规整、拟物化”的视觉路线——线条笔直、颜色鲜艳、界面光洁如新。但 Excalidraw 却反其道而行之:它不追求完美&…

作者头像 李华
网站建设 2026/6/10 6:05:32

Python实战小游戏(二): 文字冒险游戏

引言 在Python入门到精通(二)中,我们了解基本的控制流以及重要的数据结构:列表、字典、 集合等。 现在编写一个小游戏对数据结构、控制流进行简单应用,巩固基础,加深理解。 文章目录引言文字冒险游戏说明…

作者头像 李华
网站建设 2026/6/10 13:50:13

Excalidraw用户故事征集:真实反馈激励传播

Excalidraw:从一笔涂鸦到协同智能的进化 在一次跨国产品评审会上,一位工程师用指尖在屏幕上随意画了几个歪歪扭扭的方框和箭头,配上几句简短注释:“用户登录 → 验证服务 → 数据库查询”。不到十秒,这些潦草线条自动延…

作者头像 李华
网站建设 2026/6/10 13:21:53

Excalidraw图形序列化格式分析:JSON结构详解

Excalidraw图形序列化格式分析:JSON结构详解 在当今的远程协作时代,可视化表达已成为团队沟通的核心方式之一。从产品原型到系统架构设计,从教学讲解到项目复盘,一张清晰的手绘风格草图往往比千言万语更有效。而 Excalidraw 作为一…

作者头像 李华