TensorRT简介
NVIDIA TensorRT™ 是用于高性能深度学习推理的 SDK。此 SDK 包含深度学习推理优化器和运行时环境,可为深度学习推理应用提供低延迟和高吞吐量。
可以从每个深度学习框架中将已训练模型导入到 TensorRT。应用优化后,TensorRT 选择平台特定的内核,在Jetson 嵌入式平台或其他支持TensorRT的平台更大限度提升性能。本文中使用的是Jetson AGX Xavier。
安装Jetson AGX Xavier
安装过程在此不赘述,附两个比较不错的安装参考链接,其中安装步骤介绍的很详细。
版权声明:本文为Mr_WHITE2原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。