PyTorch 的深度学习实践。如：

PyTorch：Facebook 人工智能研究团队开发的开源机器学习框架。最适合我的深度学习库。
Ray.tune：集成多种超参优化方法，Automl 框架。
GraphPipe：甲骨文开源的通用深度学习模型部署框架，
Pytorch3D：用于处理 3D 数据的深度学习函数库，旨在通过 PyTorch 简化 3D 深度学习
captum：PyTorch 的模型可解释性工具，
Tensorboard：tensorflow 内置的可视化工具
Visdom：功能简单，可当作服务器端的 matplot，打不过 Tensorboard，OUT
Netron：模型结构可视化工具

概述

名词解释

CUDA：Compute Unified Device Architecture：显卡厂商 NVIDIA 推出的通用并行运算平台，用 GPU 解决复杂的计算问题
深度学习框架：深度学习者的大量的重复代码的包装。
Tensorflow：Google推出的“符号式”的计算库。定义变量，以数据流图（Data Flow Graph）的形式进行计算。

数据流图：输入数据，形成数据流，输出结果。
具有 C++ 与 Python 接口。
框架限制比较多，得按它的思路走，每次更新了思路还会换了
debug 不如 PyTorch 方便
过于复杂
C++ 开发语言
计算流图
数据流图进行数值计算的开源软件。

Keras：高级神经网络 API

严格来说，它不是一个深度学习框架，而是一个接口
Python 编写，以 Tensorflow/Theano/CNTK 为后端

Caffe/Caff2：加州大学伯克利分校贾扬清开发，伯克利视觉中心维护。

caffe：Convolutional Architecture for Fast Feature Embedding：是一种常用的深度学习框架，在视频、图像处理方面应用较多。

具有 C++、Matlab 与 Python 接口。
C++ 核心语言
不够灵活、内存占用高
适合工业部署

PaddlePaddle：百度研发的开源开放深度学习平台，国内的最早开源的功能完备的深度学习平台。

MXNet：DMLC 亚马逊云计算官方深度学习平台，分布式性能强大

语言接口多：Python、C++、R、Matlab、Scala、JavaScript 等

CNTK：Microsoft 微软深度学习开发框架 - 认知工具集 Cognitive Toolkit

Theano：已停止维护与开发，Out。

FastAI：团队承诺让用户轻松用上最新的深度学习策略 (Strategies) ，并迅速迭代。

Octave：机器学习工具，免费开源的用来解决线性与非线性的数值计算问题的工具，与 Matlab 语法相近：

GraphPipe：非常简单的通用机器学习模型部署框架 (TensorFlow/PyTorch/Caffe2/MXNet)，在 TensorFlow 部署 PyTorch 模型

MindSpore：20200328 开源的华为全栈全场景 AI 计算框架

torch
torchvision：
Streamlit：交互式数据科学工具；
Tensorboard：可视化工具
Losswise ：用于深度学习监控；
Comet：可以让用户追踪代码、实验和结果；
Weights & Biases ：记录并可视化研究的每个细节；
MLFlow Tracking：用于记录参数、代码版本、评估指标和输出文件，并可视化结果。

TorchScript：从 PyTorch 代码创建可序列化和可优化模型的方法

LibTorch：PyTorch 的 C++ 接口，使用 Cmake 编译后，可调用这个库在 C++ 中加载 PyTorch save 的 .pt 模型

PyTorch

PyTorch：Facebook 人工智能研究团队开发的开源机器学习框架。最适合我的深度学习库。

专业相关 + 篇幅过长，此章节已独立

TorchVision

torchvision、from torchvision import transforms，这些不爱用，因为不喜欢用 PIL，喜欢用 OpenCV（图像即数字的风格很符合思维逻辑）

Ray.tune

Ray.tune：集成多种超参优化方法，Automl 框架。

特点：
- 用不到 10 行代码即可完成多节点分布式超参数搜索
- 支持所有现有机器学习框架（framework），包括 PyTorch, XGBoost, MXNet, 和 Keras 等
- 使用 TensorBoard 可视化结果。
- 能选择任何可扩展的先进算法，例如 Population Based Training（PBT）， Vizier’s Median Stopping Rule, HyperBand/ASHA。

import torch.optim as optim
from ray import tune
from ray.tune.examples.mnist_pytorch import get_data_loaders, ConvNet, train, test

#定义训练模型及优化器，搜索空间
def train_mnist(config):
    train_loader, test_loader = get_data_loaders()
    model = ConvNet()
    optimizer = optim.SGD(model.parameters(), lr=config["lr"])
    for i in range(10):
        train(model, optimizer, train_loader)
        acc = test(model, test_loader)
        tune.track.log(mean_accuracy=acc)

#调用 ray.tune 进行优化
analysis = tune.run(
    train_mnist, config={"lr": tune.grid_search([0.001, 0.01, 0.1])})

#输出结果
print("Best config: ", analysis.get_best_config(metric="mean_accuracy"))
#获取分析实验结果的 dataframe
df = analysis.dataframe()
#利用 tensoboard 进行分析
tensorboard --logdir ~/ray_results

GraphPipe

GraphPipe：甲骨文开源的通用深度学习模型部署框架，

协议与软件集合，旨在简化机器学习模型部署并将其与特定于框架的模型实现分离。

Pytorch3D

Pytorch3D：用于处理 3D 数据的深度学习函数库，旨在通过 PyTorch 简化 3D 深度学习

PyTorch3D 为 3D 数据提供了一组常用的 3D 运算符和快速且可微分的损失函数 (loss function)，以及模块化的可微分渲染 API。
特点：
- 用于存储和操作三维物体的数据结构
- 可在三维物体上进行高效运算，诸如投影变换、图卷积、采样、损失函数等
- 可微分的三维物体渲染器
PyTorch3D 旨在与深度学习方法平稳集成，以预测和处理 3D 数据。因此，PyTorch3D 中的所有运算符：
- 使用 PyTorch 张量实现
- 可以对异构数据进行批量处理
- 可微分
- 可以利用 GPU 进行加速

from pytorch3d.utils import ico_sphere
from pytorch3d.io import load_obj
from pytorch3d.structures import Meshes
from pytorch3d.ops import sample_points_from_meshes
from pytorch3d.loss import chamfer_distance

# Use an ico_sphere mesh and load a mesh from an .obj e.g. model.obj
sphere_mesh = ico_sphere(level=3)
verts, faces, _ = load_obj("model.obj")
test_mesh = Meshes(verts=[verts], faces=[faces.verts_idx])

# Differentiably sample 5k points from the surface of each mesh and then compute the loss.
sample_sphere = sample_points_from_meshes(sphere_mesh, 5000)
sample_test = sample_points_from_meshes(test_mesh, 5000)
loss_chamfer, _ = chamfer_distance(sample_sphere, sample_test)

Captum

captum：PyTorch 的模型可解释性工具，

Tensorboard

Tensorboard：tensorflow 内置的可视化工具

原理：将 tensorflow 程序的输出的日志文件信息可视化
用处：更好地理解、调试和优化模型
依赖于 tensorflow 输出的日志文件，但它们是在不同的进程中运行，
pytorch 1.1 后内置了 SummaryWriter 函数,所以不需要再安装 tensorboardx 了
安装完成后与 visdom 一样执行独立的命令 tensorboard --logdir logs 即可启动，默认的端口是 6006,在浏览器中打开 http://localhost:6006/ 即可看到 web 页面。
查看
- 训练曲线
- 特征图可视化
- 卷积核可视化
- …

页面

SCALAR：对标量数据进行汇总和记录，通常用来可视化训练过程中随着迭代次数准确率 (val acc)、损失值 (train/test loss)、学习率 (learning rate)、每一层的权重和偏置的统计量 (mean、std、max/min) 等的变化曲线
IMAGES：可视化当前轮训练使用的训练/测试图片或者 feature maps
GRAPHS：可视化计算图的结构及计算图上的信息，通常用来展示网络的结构
HISTOGRAMS：可视化张量的取值分布，记录变量的直方图 (统计张量随着迭代轮数的变化情况）
PROJECTOR：全称 Embedding Projector 高维向量进行可视化

Visdom

Visdom：功能简单，可当作服务器端的 matplot，打不过 Tensorboard，OUT

坑：服务启动时会自动下载静态文件，but，由于某原因，下载会失败。

1 2	pip install visdom python -m visdom.server

Netron

Netron：模型结构可视化工具

默认支持的格式中并不包括 pytorch，可能是因为当年 lutzroeder 面试 facebook 被拒了

import torch
import torch.nn as nn
import torch.nn.functional as F
import torch.onnx

import netron


class model(nn.Module):
    def __init__(self):
        super(model, self).__init__()
        self.block1 = nn.Sequential(
            nn.Conv2d(64, 64, 3, padding=1, bias=False),
            nn.BatchNorm2d(64),
            nn.ReLU(inplace=True),
            nn.Conv2d(64, 32, 1, bias=False),
            nn.BatchNorm2d(32),
            nn.ReLU(inplace=True),
            nn.Conv2d(32, 64, 3, padding=1, bias=False),
            nn.BatchNorm2d(64)
        )

        self.conv1 = nn.Conv2d(3, 64, 3, padding=1, bias=False)
        self.output = nn.Sequential(
            nn.Conv2d(64, 1, 3, padding=1, bias=True),
            nn.Sigmoid()
        )

    def forward(self, x):
        x = self.conv1(x)
        identity = x
        x = F.relu(self.block1(x) + identity)
        x = self.output(x)
        return x


d = torch.rand(1, 3, 416, 416)
m = model()
o = m(d)

onnx_path = "onnx_model_name.onnx"
torch.onnx.export(m, d, onnx_path)

netron.start(onnx_path)

CSTOS

Python-深度学习

概述

名词解释

PyTorch

TorchVision

Ray.tune

GraphPipe

Pytorch3D

Captum

Tensorboard

页面

Visdom

Netron