2022.6.11在win10重装cuda+pytorch：cuda11.5+cudnn8.3.3+python3.7+pytroch1.11可兼容

pip3 install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113

cuda安装：

pytorch版本，cuda版本，系统cuda版本查询和对应关系

cudnn：cat /usr/local/cuda-10.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

https://docs.nvidia.com/deeplearning/cudnn/install-guide/index.html

https://zhuanlan.zhihu.com/p/72298520

卸载cuda：（cuda toolkit允许多个cuda版本存在可自定义选择安装卸载）

例子：

sudo /usr/local/cuda-8.0/bin/uninstall_cuda_8.0.pl

sudo rm -rf /usr/local/cuda-8.0/

Pytorch cheet sheet：

https://pytorch.org/tutorials/beginner/ptcheat.html

关于Pytorch延后初始化：

https://www.jianshu.com/p/638231c2e3c5

net.train()与net.eval():

https://blog.csdn.net/qq_15698613/article/details/109388820

https://blog.csdn.net/qq_38410428/article/details/101102075

关于pytorch中with torch.no_grad():

(15条消息) pytorch中with torch.no_grad():_这是一只小菜鸡的博客-CSDN博客_torch.nograd

Pytorch中CPU到GPU的tensor和模型迁移：

https://zhuanlan.zhihu.com/p/304970252

https://blog.csdn.net/jdzwanghao/article/details/90209049

关于AutoML：

https://zhuanlan.zhihu.com/p/31936740

关于神经网络架构搜索（NAS）Neural Architecture Search综述：

https://zhuanlan.zhihu.com/p/43421202

model summary in pytorch: