stable diffusion 量化学习笔记

文章目录

- 一、一些tensorRT背景及使用介绍
- - 1）深度学习介绍
  - 2）TensorRT优化策略介绍
  - 3）TensorRT基础使用流程
  - 4）dynamic shape 模式
  - 5）TensorRT模型转换
- 二、实操
- - 1）编译tensorRT开源代码运行SampleMNIST

一、一些tensorRT背景及使用介绍

1）深度学习介绍

简单学习介绍量化背景

补充

1)tensorFlow python版本其实是调用的TensorFlow C的接口
2)libtorch其实是pytorch的C++版本
3)cublas是实现矩阵相乘的功能
4)cudnn主要实现dnn上的一些算子功能，例如卷积等
5)不同NVIDIA显卡架构间不兼容，同代显卡基本是同架构

2）TensorRT优化策略介绍

优化策略

1、低精度优化 ：int8  int16
2、Kernel自动调优
例如：cublas  gemm多种实现：①不用shared memory ；②小矩阵相乘；③使用额外显存的策略
3、算子融合：例如：
relu+bias+1x1 conv =1x1 CBR
4、多流运行
5、显存优化

在这里插入图片描述

3）TensorRT基础使用流程

在这里插入图片描述

代码使用流程

4）dynamic shape 模式

背景
①TensorRT 6.0之后 explicit(显式)batch支持动态batchsize
②CV的图片基本都是固定大小，而NLP和speech语音很多都是不固定大小的
思路
1）build engine阶段设置:
①用createNetworkV2设置显示batchsize
②设置最大batchsize
③设置优化profile选项，选择最大、最常用、最小的数据维度(类似，15s\20s\30s的语音)

2）infer推理阶段
①每次推理设置输出的数据维度
②检查输入的数据维度是否符合需求
③开启推理

5）TensorRT模型转换

①onnx：一键解析pytorch转为onnx，不用像API那样一层一层构建onnx
②torch2trt：pytorch直接转为trt
③TensorFlow：谷歌出品，不用pytorch，tf直接转为trt(tf2tensorrt)
④Tencent Forward：支持pytorch\onnx\tf直接转为trt，接口简单
在这里插入图片描述