WGAN——Wasserstein距离与梯度惩罚

对比JS散度和Wasserstein距离的差异

W(P_r,P_g) = max_{||f||_L≤1} E[f(x_r)] - E[f(x_g)]
Wasserstein距离始终有梯度, JS散度在不重叠时为常数
当前: JS散度
WGAN-GP: 梯度惩罚 ||∇f(x̂)||_2≤1 替代权重裁剪