Effective Pytorch

Contact me

高效使用Pytorch等深度学习相关工具。

pytorch-cnn-visualizations，flashtorch

imgaug, Augmentor

结合C++代码和TorchScript的基本流程

实现Function和Module

使用tracing和scripting部署seq2seq模型

使用numpy和scipy写Function

TorchScript的作用和用法

可以用于增强分类，目标检测，分割任务

DALI可以借助GPU提升视觉类数据的解码速度，可以替代深度学习框架中的数据加载模块

简化Pytorch代码结构，模块化模型训练，轻松处理复杂设置

分布式数据并行的配置，以及如何和模型并行结合

将不同的模块放到不同的GPU上，可以通过划分输入数据进行加速

设定随机数种子，cudnn.deterministic = True， cudnn.benchmark = False

用C++加载Pytorch模型

使用TensorBoard做可视化分析

requires_grad，torch.no_grad()，model.eval()

fastai快速处理图像

apex，fastai，pytorch_lightning混合精度训练

data_prefetcher提高数据加载速度，来自apex

模型参数初始化

正确load和save

统计Pytorch模型的MAC和FLOP