YoloV5在tensorRT上加速（Ubuntu）(C++)

YoloV5在tensorRT上加速（Ubuntu）(C++)

文章目录

​​1.软件安装​​

​​1.1 opencv安装​​​​1.2 Tensorrt安装​​

​​2.编译tensorrtx/yolov5​​​​3. INT8量化​​

1.软件安装

默认已经安装好了cuda、cudnn 我的cuda为11.1，cudnn为适配的版本

1.1 opencv安装

​​xvf opencv-3.4.4.tar.gzcd opencv-3.4.4mkdir buildcd buildcmake ..makesudo make install

1.2 Tensorrt安装

​​xvf TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-11.1.cudnn8.1.tar.gz

环境变量设置

vim ~/.bashrc

export TR_PATH=/home/zc/yp/lib/TensorRT-7.2.3.4export PATH=$PATH:$TR_PATH/binexport LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TR_PATH/libexport LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TR_PATH/targets/x86_64-linux-gnu/lib

source ~/.bashrc

cd TensorRT-7.x.x.x/pythonpip install tensorrt-7.x.x.x-cp3x-none-linux_x86_64.whl

cd TensorRT-7.x.x.x/graphsurgeonpip install graphsurgeon-0.4.1-py2.py3-none-any.whl

cd TensorRT-7.x.x.x/uffpip install uff-0.7.5-py2.py3-none-any.whl

进入到tensorrt目录下，将下列文件夹复制到对于系统文件夹

sudo cp -r ./lib/* /usr/libsudo cp -r ./include/* /usr/include

安装pycuda

pip install pycuda

2.编译tensorrtx/yolov5

3. INT8量化

将coco_calib.zip解压到build目录下

cd buildmake cleancmake ..make

序列化模型

./yolov5 -s yolov5s.wts yolov5s.engine s

测试

./yolov5 -d yolov5s.engine ../samples

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。