栏目分类:
子分类:
返回
名师互学网用户登录
快速导航关闭
当前搜索
当前分类
子分类
实用工具
热门搜索
名师互学网 > IT > 软件开发 > 后端开发 > Python

基于pytorch的模型剪枝+模型量化+BN合并+TRT部署(cifar数据)(1)

Python 更新时间: 发布时间: IT归档 最新发布 模块sitemap 名妆网 法律咨询 聚返吧 英语巴士网 伯小乐 网商动力

基于pytorch的模型剪枝+模型量化+BN合并+TRT部署(cifar数据)(1)

相关代码下载地址:下载地址

压缩

量化:High-Bit(>2b): QAT, PTQ, QAFT; Low-Bit(≤2b)/Ternary and Binary: QAT 剪枝:正常、规整和分组卷积结构剪枝 针对特征(A)二值量化的BN融合(训练量化后,BN参数 —> conv的偏置b) High-Bit量化的BN融合(训练量化中,先融合再量化,融合:BN参数 —> conv的权重w和偏置b) 部署

TensorRT(fp32/fp16/int8(ptq-calibration)、op-adapt(upsample)、dynamic_shape等) 环境要求

python >= 3.5 torch >= 1.1.0 torchvison >= 0.3.0 numpy onnx == 1.6.0 tensorrt == 7.0

转载请注明:文章转载自 www.mshxw.com
本文地址:https://www.mshxw.com/it/753545.html
我们一直用心在做
关于我们 文章归档 网站地图 联系我们

版权所有 (c)2021-2022 MSHXW.COM

ICP备案号:晋ICP备2021003244-6号