-
硬件层：PyTorch支持CPU、GPU等不同硬件加入计算资源池。
-
内核层：C++或者CUDA实现的内核。
-
低阶API为Python实现的操作符，提供了封装C++内核的低级API指令，主要包括：
- 张量结构操作：张量创建，索引切片，维度变换，合并分割
- 张量数学运算：标量运算，向量运算，矩阵运算，广播机制
- 动态计算图：Function, forward, backward
-
中阶API：Python实现的模型组件，对低级API进行了函数封装，主要包括：
- 模型层
- 损失函数
- 优化器
- 数据管道
- TensorBoard可视化
-
高阶API：Python实现的模型接口。
-
构建模型的3种方法
- 继承nn.Module基类
- 使用nn.Sequential
- 辅助应用模型容器
-
训练模型的3种方法
- 脚本风格
- 函数风格
- torchkeras.Model风格
-
