深度卷积生成对抗网络（DCGAN）：从理论到实践
1. DCGAN的简要历史
2016年，Alec Radford、Luke Metz和Soumith Chintala引入了DCGAN，这是自生成对抗网络（GAN）技术诞生两年以来的重要早期创新之一。此前并非没有研究团队尝试将卷积神经网络（ConvNets）应用于GAN，但DCGAN是首次成功将ConvNets直接融入完整GAN模型的尝试。
使用ConvNets会加剧GAN训练中的诸多难题，比如不稳定性和梯度饱和。这些挑战十分严峻，以至于一些研究人员采用了替代方法，例如LAPGAN。LAPGAN在拉普拉斯金字塔中使用一系列卷积网络，在每个层级使用GAN框架训练单独的ConvNet。虽然LAPGAN不够优雅、结构复杂且计算量大，但在其发表时，它生成的图像质量达到了当时的最高水平，相较于原始GAN有四倍的提升（人类评估者将生成图像误判为真实图像的比例从10%提高到40%），这展示了将GAN与ConvNets结合的巨大潜力。
而DCGAN的研究者引入了一些技术和优化方法，使ConvNets能够在不修改底层GAN架构的情况下扩展到完整的GAN框架，也无需像LAPGAN那样将GAN简化为更复杂模型框架的子程序。其中一个关键技术是批量归一化（Batch Normalization），它通过对应用层的输入进行归一化，有助于稳定训练过程。
2. 批量归一化
2.1 理解归一化
归一化是将数据进行缩放，使其具有零均值和单位方差。通过对每个数据点x减去均值µ，再除以标准差σ来实现，公式如下：
[ \hat{x} = \frac{x - \mu}{\sigma} ]
