From 70ae53551f1222a3972ab2175ffb53b282c3ccbf Mon Sep 17 00:00:00 2001 From: tripleMu <92794867+q3394101@users.noreply.github.com> Date: Thu, 17 Feb 2022 12:54:50 +0800 Subject: [PATCH 01/13] Fix bug of docs --- docs/en/useful_tools.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/en/useful_tools.md b/docs/en/useful_tools.md index 921e48a7990..c3942472eb7 100644 --- a/docs/en/useful_tools.md +++ b/docs/en/useful_tools.md @@ -10,7 +10,7 @@ Apart from training/testing scripts, We provide lots of useful tools under the python tools/analysis_tools/analyze_logs.py plot_curve [--keys ${KEYS}] [--title ${TITLE}] [--legend ${LEGEND}] [--backend ${BACKEND}] [--style ${STYLE}] [--out ${OUT_FILE}] ``` -![loss curve image](../resources/loss_curve.png) +![loss curve image](../../resources/loss_curve.png) Examples: From 1a4d53e130f402dc9b17551c7f4e7ec764b042e3 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Tue, 22 Feb 2022 14:21:32 +0800 Subject: [PATCH 02/13] translate onnx2tensorrt.md --- docs/zh_cn/tutorials/onnx2tensorrt.md | 107 +++++++++++++++++++++++++- 1 file changed, 106 insertions(+), 1 deletion(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 3f30f0a3cc8..b04bc4fd422 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -1,4 +1,109 @@ # 教程 9: ONNX 到 TensorRT 的模型转换（实验性支持） -> ## [尝试使用新的 MMDeploy 來部署你的模型](https://mmdeploy.readthedocs.io/) +> ## [尝试使用全新的 MMDeploy 来部署你的模型](https://mmdeploy.readthedocs.io/) + + + +- [Tutorial 9: ONNX to TensorRT (Experimental)](#tutorial-9-onnx-to-tensorrt-experimental) + - [How to convert models from ONNX to TensorRT](#how-to-convert-models-from-onnx-to-tensorrt) + - [Prerequisite](#prerequisite) + - [Usage](#usage) + - [How to evaluate the exported models](#how-to-evaluate-the-exported-models) + - [List of supported models convertible to TensorRT](#list-of-supported-models-convertible-to-tensorrt) + - [Reminders](#reminders) + - [FAQs](#faqs) + + + +## 如何将模型从 ONNX 转换为 TensorRT + +### 先决条件 + +1. 请参考 [get_started.md](https://mmdetection.readthedocs.io/en/latest/get_started.html) 从源码安装 MMCV 和 MMDetection 。 +2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full` 。 +3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX。 + +### 用法 + +```bash +python tools/deployment/onnx2tensorrt.py \ + ${CONFIG} \ + ${MODEL} \ + --trt-file ${TRT_FILE} \ + --input-img ${INPUT_IMAGE_PATH} \ + --shape ${INPUT_IMAGE_SHAPE} \ + --min-shape ${MIN_IMAGE_SHAPE} \ + --max-shape ${MAX_IMAGE_SHAPE} \ + --workspace-size {WORKSPACE_SIZE} \ + --show \ + --verify \ +``` + +所有参数的说明： + +- `config` : 模型配置文件的路径。 +- `model` : ONNX 模型文件的路径。 +- `--trt-file`: 输出 TensorRT 引擎文件的路径。如果未指定，它将被设置为 `tmp.trt` 。 +- `--input-img` : 用于追踪和转换的输入图像的路径。默认情况下，它将设置为 `demo/demo.jpg` 。 +- `--shape`: 模型输入的高度和宽度。如果未指定，它将设置为 `400 600`。 +- `--min-shape`: 模型输入的最小高度和宽度。如果未指定，它将被设置为与 `--shape` 相同。 +- `--max-shape`: 模型输入的最大高度和宽度。如果未指定，它将被设置为与 `--shape` 相同。 +- `--workspace-size` : 构建 TensorRT 引擎所需的 GPU 工作空间大小（以 GiB 为单位）。如果未指定，它将设置为 `1` GiB 。 +- `--show`: 确定是否显示模型的输出。如果未指定，它将设置为 `False`。 +- `--verify`: 确定是否在 ONNXRuntime 和 TensorRT 之间验证模型的正确性。如果未指定，它将设置为 `False`。 +- `--verbose`: 确定是否打印日志消息。它对调试很有用。如果未指定，它将设置为 `False`。 + +例子: + +```bash +python tools/deployment/onnx2tensorrt.py \ + configs/retinanet/retinanet_r50_fpn_1x_coco.py \ + checkpoints/retinanet_r50_fpn_1x_coco.onnx \ + --trt-file checkpoints/retinanet_r50_fpn_1x_coco.trt \ + --input-img demo/demo.jpg \ + --shape 400 600 \ + --show \ + --verify \ +``` + +## 如何评估导出的模型 + +我们准备了一个工具 `tools/deplopyment/test.py` 来评估 TensorRT 模型。 + +请参阅以下链接以获取更多信息。 + +- [how-to-evaluate-the-exported-models](pytorch2onnx.md#how-to-evaluate-the-exported-models) +- [results-and-models](pytorch2onnx.md#results-and-models) + +## 支持转换为 TensorRT 的模型列表 + +下表列出了确定可转换为 TensorRT 的模型。 + +| Model | Config | Dynamic Shape | Batch Inference | Note | +| :----------: | :--------------------------------------------------: | :-----------: | :-------------: | :---: | +| SSD | `configs/ssd/ssd300_coco.py` | Y | Y | | +| FSAF | `configs/fsaf/fsaf_r50_fpn_1x_coco.py` | Y | Y | | +| FCOS | `configs/fcos/fcos_r50_caffe_fpn_4x4_1x_coco.py` | Y | Y | | +| YOLOv3 | `configs/yolo/yolov3_d53_mstrain-608_273e_coco.py` | Y | Y | | +| RetinaNet | `configs/retinanet/retinanet_r50_fpn_1x_coco.py` | Y | Y | | +| Faster R-CNN | `configs/faster_rcnn/faster_rcnn_r50_fpn_1x_coco.py` | Y | Y | | +| Cascade R-CNN| `configs/cascade_rcnn/cascade_rcnn_r50_fpn_1x_coco.py` | Y | Y | | +| Mask R-CNN | `configs/mask_rcnn/mask_rcnn_r50_fpn_1x_coco.py` | Y | Y | | +| Cascade Mask R-CNN | `configs/cascade_rcnn/cascade_mask_rcnn_r50_fpn_1x_coco.py` | Y | Y | | +| PointRend | `configs/point_rend/point_rend_r50_caffe_fpn_mstrain_1x_coco.py` | Y | Y | | + +注意: + +- *以上所有模型通过 Pytorch==1.6.0, onnx==1.7.0 and TensorRT-7.2.1.6.Ubuntu-16.04.x86_64-gnu.cuda-10.2.cudnn8.0 测试* + +## 提醒 + +- 如果您在上面列出的模型中遇到任何问题，请创建 issue ，我们会尽快处理。对于未包含在列表中的模型，由于资源有限，我们可能无法在此提供太多帮助。请尝试深入挖掘并自行调试。 +- 由于此功能是实验性的，并且可能会快速更改，因此请始终尝试使用最新的 `mmcv` 和 `mmdetecion` 。 + +## 常见问题 + +- 空 + + From 46da0288cee0bb3749684b6ef36db635143c3f3e Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Tue, 22 Feb 2022 14:27:33 +0800 Subject: [PATCH 03/13] fix --- docs/zh_cn/tutorials/onnx2tensorrt.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index b04bc4fd422..83df760845e 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -22,7 +22,7 @@ 1. 请参考 [get_started.md](https://mmdetection.readthedocs.io/en/latest/get_started.html) 从源码安装 MMCV 和 MMDetection 。 2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full` 。 -3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX。 +3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX 。 ### 用法 From dcf4749d78fcf405c6ab6fb637ae8f55ae0d3fa6 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Tue, 22 Feb 2022 14:41:27 +0800 Subject: [PATCH 04/13] fix end-of-file-fixer --- docs/zh_cn/tutorials/onnx2tensorrt.md | 6 ++---- 1 file changed, 2 insertions(+), 4 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 83df760845e..2ca940b04d9 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -1,7 +1,7 @@ # 教程 9: ONNX 到 TensorRT 的模型转换（实验性支持） -> ## [尝试使用全新的 MMDeploy 来部署你的模型](https://mmdeploy.readthedocs.io/) +> ## [尝试使用新的 MMDeploy 来部署你的模型](https://mmdeploy.readthedocs.io/) @@ -21,7 +21,7 @@ ### 先决条件 1. 请参考 [get_started.md](https://mmdetection.readthedocs.io/en/latest/get_started.html) 从源码安装 MMCV 和 MMDetection 。 -2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full` 。 +2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full` 。 3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX 。 ### 用法 @@ -105,5 +105,3 @@ python tools/deployment/onnx2tensorrt.py \ ## 常见问题 - 空 - - From 4172c06d54f8d8db39f925c15befced3f5bb4882 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 18:56:38 +0800 Subject: [PATCH 05/13] fix some bugs --- docs/zh_cn/tutorials/onnx2tensorrt.md | 8 ++++---- 1 file changed, 4 insertions(+), 4 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 2ca940b04d9..1130c68e90c 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -20,9 +20,9 @@ ### 先决条件 -1. 请参考 [get_started.md](https://mmdetection.readthedocs.io/en/latest/get_started.html) 从源码安装 MMCV 和 MMDetection 。 -2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full` 。 -3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX 。 +1. 请参考 [get_started.md](https://mmdetection.readthedocs.io/en/latest/get_started.html) 从源码安装 MMCV 和 MMDetection。 +2. 请参考 [ONNXRuntime in mmcv](https://mmcv.readthedocs.io/en/latest/deployment/onnxruntime_op.html) 和 [TensorRT plugin in mmcv](https://github.com/open-mmlab/mmcv/blob/master/docs/en/deployment/tensorrt_plugin.md/) 安装支持 ONNXRuntime 自定义操作和 TensorRT 插件的 `mmcv-full`。 +3. 使用工具 [pytorch2onnx](https://mmdetection.readthedocs.io/en/latest/tutorials/pytorch2onnx.html) 将模型从 PyTorch 转换为 ONNX。 ### 用法 @@ -95,7 +95,7 @@ python tools/deployment/onnx2tensorrt.py \ 注意: -- *以上所有模型通过 Pytorch==1.6.0, onnx==1.7.0 and TensorRT-7.2.1.6.Ubuntu-16.04.x86_64-gnu.cuda-10.2.cudnn8.0 测试* +- *以上所有模型通过 Pytorch==1.6.0, onnx==1.7.0 与 TensorRT-7.2.1.6.Ubuntu-16.04.x86_64-gnu.cuda-10.2.cudnn8.0 测试* ## 提醒 From fe6954cd10ac24eddfa5e656f63248fdb811d6ed Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:26:21 +0800 Subject: [PATCH 06/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 20 ++++++++++---------- 1 file changed, 10 insertions(+), 10 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 1130c68e90c..54be47a7f4b 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,14 +5,14 @@ -- [Tutorial 9: ONNX to TensorRT (Experimental)](#tutorial-9-onnx-to-tensorrt-experimental) - - [How to convert models from ONNX to TensorRT](#how-to-convert-models-from-onnx-to-tensorrt) - - [Prerequisite](#prerequisite) - - [Usage](#usage) - - [How to evaluate the exported models](#how-to-evaluate-the-exported-models) - - [List of supported models convertible to TensorRT](#list-of-supported-models-convertible-to-tensorrt) - - [Reminders](#reminders) - - [FAQs](#faqs) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) + - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从 ONNX 转换为 TensorRT) + - [先决条件](#先决条件) + - [用法](#用法) + - [如何评估导出的模型](#如何评估导出的模型) + - [支持转换为 TensorRT 的模型列表](#支持转换为 TensorRT 的模型列表) + - [提醒](#提醒) + - [常见问题](#常见问题) @@ -73,8 +73,8 @@ python tools/deployment/onnx2tensorrt.py \ 请参阅以下链接以获取更多信息。 -- [how-to-evaluate-the-exported-models](pytorch2onnx.md#how-to-evaluate-the-exported-models) -- [results-and-models](pytorch2onnx.md#results-and-models) +- [how-to-evaluate-the-exported-models](pytorch2onnx.md#如何评估导出的模型) +- [results-and-models](pytorch2onnx.md#模型和结果) ## 支持转换为 TensorRT 的模型列表 From d350952b880ce2405032f05f97cc92eecd70a248 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:32:09 +0800 Subject: [PATCH 07/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 20 ++++++++++---------- 1 file changed, 10 insertions(+), 10 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 54be47a7f4b..16346e5dd97 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,14 +5,14 @@ -- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) - - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从 ONNX 转换为 TensorRT) - - [先决条件](#先决条件) - - [用法](#用法) - - [如何评估导出的模型](#如何评估导出的模型) - - [支持转换为 TensorRT 的模型列表](#支持转换为 TensorRT 的模型列表) - - [提醒](#提醒) - - [常见问题](#常见问题) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#tutorial-9-onnx-to-tensorrt-experimental) + - [如何将模型从 ONNX 转换为 TensorRT](#how-to-convert-models-from-onnx-to-tensorrt) + - [先决条件](#prerequisite) + - [用法](#usage) + - [如何评估导出的模型](#how-to-evaluate-the-exported-models) + - [支持转换为 TensorRT 的模型列表](#list-of-supported-models-convertible-to-tensorrt) + - [提醒](#reminders) + - [常见问题](#faqs) @@ -73,8 +73,8 @@ python tools/deployment/onnx2tensorrt.py \ 请参阅以下链接以获取更多信息。 -- [how-to-evaluate-the-exported-models](pytorch2onnx.md#如何评估导出的模型) -- [results-and-models](pytorch2onnx.md#模型和结果) +- [如何评估导出的模型](pytorch2onnx.md#how-to-evaluate-the-exported-models) +- [结果和模型](pytorch2onnx.md#results-and-models) ## 支持转换为 TensorRT 的模型列表 From a66572e9cda71b5208bd817160dea5db0d91601d Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:34:44 +0800 Subject: [PATCH 08/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC-=E6=B5=8B=E8=AF=951?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 16 ++++++++-------- 1 file changed, 8 insertions(+), 8 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 16346e5dd97..406ea8c5e8f 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,14 +5,14 @@ -- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#tutorial-9-onnx-to-tensorrt-experimental) - - [如何将模型从 ONNX 转换为 TensorRT](#how-to-convert-models-from-onnx-to-tensorrt) - - [先决条件](#prerequisite) - - [用法](#usage) - - [如何评估导出的模型](#how-to-evaluate-the-exported-models) - - [支持转换为 TensorRT 的模型列表](#list-of-supported-models-convertible-to-tensorrt) - - [提醒](#reminders) - - [常见问题](#faqs) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) + - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从 ONNX 转换为 TensorRT) + - [先决条件](#先决条件) + - [用法](#用法) + - [如何评估导出的模型](#如何评估导出的模型) + - [支持转换为 TensorRT 的模型列表](#支持转换为 TensorRT 的模型列表) + - [提醒](#提醒) + - [常见问题](#常见问题) From 52f9751e18c0786f7a192038d83311ad61615869 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:36:03 +0800 Subject: [PATCH 09/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC-=E6=B5=8B=E8=AF=952?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 406ea8c5e8f..dcaec335015 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,8 +5,8 @@ -- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) - - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从 ONNX 转换为 TensorRT) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](# 教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) + - [如何将模型从 ONNX 转换为 TensorRT](# 如何将模型从 ONNX 转换为 TensorRT) - [先决条件](#先决条件) - [用法](#用法) - [如何评估导出的模型](#如何评估导出的模型) From dd2f1f8c9139ae992389fdfd21b7d7bd728d9263 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:37:53 +0800 Subject: [PATCH 10/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC-=E6=B5=8B=E8=AF=952?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 6 +++--- 1 file changed, 3 insertions(+), 3 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index dcaec335015..7c5e7da3907 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,12 +5,12 @@ -- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](# 教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）) - - [如何将模型从 ONNX 转换为 TensorRT](# 如何将模型从 ONNX 转换为 TensorRT) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程%209:%20ONNX%20到%20TensorRT%20的模型转换（实验性支持）) + - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从%20ONNX%20转换为%20TensorRT) - [先决条件](#先决条件) - [用法](#用法) - [如何评估导出的模型](#如何评估导出的模型) - - [支持转换为 TensorRT 的模型列表](#支持转换为 TensorRT 的模型列表) + - [支持转换为 TensorRT 的模型列表](#支持转换为%20TensorRT%20的模型列表) - [提醒](#提醒) - [常见问题](#常见问题) From e5ddd6485b8e46a5fa60ddffe9847d3d15b4c885 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:39:41 +0800 Subject: [PATCH 11/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC-=E6=B5=8B=E8=AF=953?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 7c5e7da3907..cf0974c5f7f 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -5,7 +5,7 @@ -- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程%209:%20ONNX%20到%20TensorRT%20的模型转换（实验性支持）) +- [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程-9-onnx-到-tensorrt-的模型转换实验性支持) - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从%20ONNX%20转换为%20TensorRT) - [先决条件](#先决条件) - [用法](#用法) From 9c8d460e66551e33b84cd6190f0066415ef55ad8 Mon Sep 17 00:00:00 2001 From: q3394101 <865626@163.com> Date: Mon, 28 Feb 2022 20:41:59 +0800 Subject: [PATCH 12/13] =?UTF-8?q?=E4=BF=AE=E5=A4=8D=E9=93=BE=E6=8E=A5?= =?UTF-8?q?=E8=B7=B3=E8=BD=AC-=E6=B5=8B=E8=AF=955?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- docs/zh_cn/tutorials/onnx2tensorrt.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index cf0974c5f7f..7acab44d00b 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -6,11 +6,11 @@ - [教程 9: ONNX 到 TensorRT 的模型转换（实验性支持）](#教程-9-onnx-到-tensorrt-的模型转换实验性支持) - - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从%20ONNX%20转换为%20TensorRT) + - [如何将模型从 ONNX 转换为 TensorRT](#如何将模型从-onnx-转换为-tensorrt) - [先决条件](#先决条件) - [用法](#用法) - [如何评估导出的模型](#如何评估导出的模型) - - [支持转换为 TensorRT 的模型列表](#支持转换为%20TensorRT%20的模型列表) + - [支持转换为 TensorRT 的模型列表](#支持转换为-tensorrt-的模型列表) - [提醒](#提醒) - [常见问题](#常见问题) From 6f8ab35ae55d5894fde7e5afeaf9f7175611fc15 Mon Sep 17 00:00:00 2001 From: jbwang1997 Date: Wed, 2 Mar 2022 11:58:05 +0800 Subject: [PATCH 13/13] Fix --- docs/zh_cn/tutorials/onnx2tensorrt.md | 14 +++++++------- 1 file changed, 7 insertions(+), 7 deletions(-) diff --git a/docs/zh_cn/tutorials/onnx2tensorrt.md b/docs/zh_cn/tutorials/onnx2tensorrt.md index 7acab44d00b..3839b3a2ea9 100644 --- a/docs/zh_cn/tutorials/onnx2tensorrt.md +++ b/docs/zh_cn/tutorials/onnx2tensorrt.md @@ -42,14 +42,14 @@ python tools/deployment/onnx2tensorrt.py \ 所有参数的说明： -- `config` : 模型配置文件的路径。 -- `model` : ONNX 模型文件的路径。 -- `--trt-file`: 输出 TensorRT 引擎文件的路径。如果未指定，它将被设置为 `tmp.trt` 。 -- `--input-img` : 用于追踪和转换的输入图像的路径。默认情况下，它将设置为 `demo/demo.jpg` 。 +- `config`: 模型配置文件的路径。 +- `model`: ONNX 模型文件的路径。 +- `--trt-file`: 输出 TensorRT 引擎文件的路径。如果未指定，它将被设置为 `tmp.trt`。 +- `--input-img`: 用于追踪和转换的输入图像的路径。默认情况下，它将设置为 `demo/demo.jpg`。 - `--shape`: 模型输入的高度和宽度。如果未指定，它将设置为 `400 600`。 - `--min-shape`: 模型输入的最小高度和宽度。如果未指定，它将被设置为与 `--shape` 相同。 - `--max-shape`: 模型输入的最大高度和宽度。如果未指定，它将被设置为与 `--shape` 相同。 -- `--workspace-size` : 构建 TensorRT 引擎所需的 GPU 工作空间大小（以 GiB 为单位）。如果未指定，它将设置为 `1` GiB 。 +- `--workspace-size`: 构建 TensorRT 引擎所需的 GPU 工作空间大小（以 GiB 为单位）。如果未指定，它将设置为 `1` GiB。 - `--show`: 确定是否显示模型的输出。如果未指定，它将设置为 `False`。 - `--verify`: 确定是否在 ONNXRuntime 和 TensorRT 之间验证模型的正确性。如果未指定，它将设置为 `False`。 - `--verbose`: 确定是否打印日志消息。它对调试很有用。如果未指定，它将设置为 `False`。 @@ -99,8 +99,8 @@ python tools/deployment/onnx2tensorrt.py \ ## 提醒 -- 如果您在上面列出的模型中遇到任何问题，请创建 issue ，我们会尽快处理。对于未包含在列表中的模型，由于资源有限，我们可能无法在此提供太多帮助。请尝试深入挖掘并自行调试。 -- 由于此功能是实验性的，并且可能会快速更改，因此请始终尝试使用最新的 `mmcv` 和 `mmdetecion` 。 +- 如果您在上面列出的模型中遇到任何问题，请创建 issue，我们会尽快处理。对于未包含在列表中的模型，由于资源有限，我们可能无法在此提供太多帮助。请尝试深入挖掘并自行调试。 +- 由于此功能是实验性的，并且可能会快速更改，因此请始终尝试使用最新的 `mmcv` 和 `mmdetecion`。 ## 常见问题