- 版权: 本文由【墨理学AI】原创、首发、各位大佬、敬请查阅、禁止转载
- 声明: 作为全网 AI 领域 干货最多的博主之一，❤️ 不负光阴不负卿 ❤️
- 友情提示: 关注 【墨理学AI】 ❤️为大家展现解析最简洁高效的技术 ❤️
???? NVIDIA TensorRT 下载方式
下载一个 TensorRT 安装包经历过程如下
- 进入下载链接
- 点击 立即下载（需要注册登录英伟达账号，xx 烦）
- 选择下载版本
- 完成问卷调查
- 选择同意协议
- 根据自己的系统版本和 CUDA 版本，选择安装包
对于网络不畅的小白而言，怕是要痛苦到家了
???? 云盘分享 | 快速获取
搜索关注本博客同名公号，公号后台，回复 20210808 ，即可获取上图所示 NVIDIA TensorRT安装包
20210808
???? 解压安装 【环境变量 -- 通常C++部署会需要】
下载自己想要的版本 安装包
tar -zxvf TensorRT-8.0.0.3.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz
cd TensorRT-8.0.0.3/
ls
pwd
cd
vim .bashrc
export LD_LIBRARY_PATH=/home/墨理/project/project21/modelTrans/tensorRT/tensorRt8/TensorRT-8.0.0.3/lib:$LD_LIBARARY_PATH
. .bashrc
vim .bashrc | 比如说配置多个版本，随时切换
#export LD_LIBRARY_PATH=/home/墨理/xx/tensorRT/tensorRt8/TensorRT-8.0.0.3/lib:$LD_LIBARARY_PATH
#export CPLUS_INCLUDE_PATH=/home/墨理/xx/tensorRT/tensorRt8/TensorRT-8.0.0.3/include:$CPLUS_INCLUDE_PATH
export LD_LIBRARY_PATH=/home/xx/tensorRT/tensorRT7/TensorRT-7.1.3.4/lib:$LD_LIBARARY_PATH
export CPLUS_INCLUDE_PATH=/home/xx/modelTrans/tensorRT/tensorRT7/TensorRT-7.1.3.4/include:$CPLUS_INCLUDE_PATH
通常的 C++ 项目 ，vim CMakeLists.txt 中 配置方式
# tensorRT
include_directories(/home/墨理/project/project21/tensorRT/tensorRT7/TensorRT-7.2.3.4/include/)
link_directories(/home/墨理/project/project21/tensorRT/tensorRT7/TensorRT-7.2.3.4/lib/)
???? Python 代码 install TensorRT
官方安装 文档给了各种不同平台安装方式
❤️ 最简单的还是 pip 安装
python3 -m pip install --upgrade nvidia-tensorrt
❤️ 验证安装是否成功
import tensorrt
>>> print(tensorrt.__version__)
7.2.3.4
>>> assert tensorrt.Builder(tensorrt.Logger())
下面内容是个人笔记【 import tensorrt 时，可能遇到的报错 ，正常应该遇不到这样的问题哈】
ImportError: libcudnn.so.8: cannot open shared object file: No such file or directory
# 解决方法：
pip install nvidia-cudnn==8.0.*
# 又一个报错
ImportError: libcublas.so.11: cannot open shared object file: No such file or directory
# 就按照下面思路来解决了
解决思路如下【 成功解决 import tensorrt 失败的问题 】
# 通过 name 找到这些库存在的位置
find -name libcublas.so.11
find -name libcudnn.so.8
## 发现 ./anaconda3/envs/tf25/lib/python3.7/site-packages/nvidia/ 下面有这些库
## 那么我就，把这些给 copy 到当前环境对应位置
cd /home/xx/anaconda3/envs/torch18/lib/python3.7/site-packages/nvidia
cp /home/xx/anaconda3/envs/tf25/lib/python3.7/site-packages/nvidia/* . -rf
TensorRT 实战入门教程梳理如下【建议收藏】
经典博文【不亏系列】
- ❤️ YOLOX （pytorch）模型 转 ❤️ tensorRT ❤️之运行推理【YOLOX 实战四】
- TensorRT报错的一百种姿势 | 【❤️TensorRT抱错砖家❤️】
以下属于目标检测-模型部署 -- 专栏【按需查阅】
- ???? yolov4 模型转化 | Darknet2TensorRT 完美运行 | 【yolov4 TensorRT 推理】
- ???? 基于TensorRT 推理框架yolov5 模型转化 | CUDA 11.2 + TensorRT-8 完美运行 | INT8 和 USE_FP16 时间性能对比 | 详细步骤记录
- ???? 基于TensorRT 推理框架 crnn 模型转化 | 【TensorRT 模型转换】
- ???? Getting Started with TensorRTx 之 Run lenet5 |【TensorRT示例】
- ❤️ ❤️Python 使用 tensorrt-7.0.0.11 ❤️ |【 TensorRT 特定 版本安装】
❤️ 人生苦短， 欢迎和墨理一起学AI
- ???? 作为全网 AI 领域 干货最多的博主之一，❤️ 不负光阴不负卿 ❤️
- ❤️ 如果文章对你有帮助、点赞、评论鼓励博主的每一分认真创作
以上就是本次博文全部分享了，祝大家搬砖也欢乐，腰好腿好身体倍棒；
