栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > C/C++/C#

pytorch JIT

C/C++/C# 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

pytorch JIT

JIT just-in-time Compilation
即时翻译
pytorch和tensorflow存在差异
pytorch使用动态图结构,这使得其更加简单

TorchScript(这是搜索Pytorch JIT首先出来的结果)
动态图模型通过牺牲一些高级特性来换取易用性

模型部署

JIT是python和C++的桥梁
我们可以使用python训练模型,然后通过JIT将模型转为语言无关的模块,从而让C++可以非常方便的调用

性能提升

如果推断的场景对性能要求高,则可以考虑将模型(torch.nn.Module)转换为TorchScript Module,再进行推断

模型可视化

Tensorflow或keras对模型可视化工具(TensorBoard等)非常友好,因为本身就是静态图的编程模型,在模型定义好后整个模型的结构和正向逻辑就已经清楚了

可以使用JIT的trace功能来得到PyTorch模型针对某一输入的正向逻辑,通过正向逻辑可以得到模型大致的结构,但是如果在forward方法中有很多条件控制语句,这依然不是一个好的方法,所以PyTorch JIT还提供了Scripting的方法

references
  1. https://zhuanlan.zhihu.com/p/370455320
转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/1002117.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号