如何在TensorFlow中以混合精度训练ResNet-50模型

NVIDIA
353 0 2019-05-10

混合精度在计算方法中结合了不同的数值精度。使用低于FP32的精度可以减少内存使用,允许部署更大的网络。数据传输需要更少的时间,而且计算性能会提高,尤其是在NVIDIA gpu上,它的Tensor Core支持这种精度。DNNs的混合精度训练实现了两个主要目标:

-减少所需的内存量,使训练更大的型号或更大的小批量

-通过低精度算法降低所需资源,缩短训练/推理时间。

本视频演示了如何在TensorFlow中以混合精度训练ResNet-50模型。


扫描二维码可以在手机上观看