扩散学习

• UNet
• 正向扩散加噪声
  • 后阶段加的多
    • 后阶段恢复要求低$\aleph$
  • $q(x_t|x_{t-1})=N(x_t;\sqrt{1-{\beta }_t}{x}_{t-1},{\beta }_{t}I)$
    • $\beta$控制噪声大小，等于$1-\alpha$
    • $x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{ϵ}_{t-1}$
      • $=\sqrt{{\overline{\alpha }}_t}{x}_0+\sqrt{1-\overline{{\alpha }_t}}ϵ$
        • 一次处理完
        • 梯度下降
          • ${\nabla }_{\theta }\Vert ϵ-{ϵ}_{\theta }(\sqrt{{\overline{\alpha }}_t}{x}_0+\sqrt{1-\overline{{\alpha }_t}}ϵ,t){\Vert }^2$
            • $ϵ$是预测值，${ϵ}_{\theta }$由模型预测
            • t是时刻，也是噪声强度
• 恢复
  • 一步一步，不能一次恢复
    • 为什么能预测噪声（随机变量）
      • t已经包括t-1和$\theta$,本质是信号分离
  • 预测绝对值变成预测增量
  • $x_{t-1}=\frac{1}{\sqrt{{\alpha }_t}}(x_t-\frac{1-{\alpha }_t}{\sqrt{1-{\alpha }_t}}{ϵ}_{\theta }(x_t,t))$
    • ${ϵ}_{\theta }$由模型预测