## 1.模型格式简介

*   训练模型的最终目标是将其部署到实际应用中。 YOLOv 11 中的导出模式提供了多种选项，可以将训练好的模型导出为不同的格式，使其可以部署在各种平台和设备上。

![image-20251118093550905](/media/202512/8b50008c2971436181ba5feb3c8180096696.png)

### 常见模型格式

*   PyTorch（.pt）：默认原生格式，包含完整模型结构和权重。 适用场景：模型训练、微调、后续格式导出的基础，不适合直接部署。
    
*   TorchScript（.torchscript）：PyTorch 模型的序列化格式，剥离 Python 依赖。
    
    适用场景：PyTorch 生态的生产环境部署（如服务器端推理），支持 C++ 调用。
    
*   ONNX（.onnx）：开放神经网络交换格式，跨框架兼容的核心标准。 适用场景：CPU/GPU 通用部署，搭配 ONNX Runtime 可实现 3 倍 CPU 加速。
    
*   TensorRT（.engine）：NVIDIA 专属优化格式，基于 GPU 的推理引擎。 适用场景：NVIDIA GPU（如Jetson 开发板）的实时推理，可实现 5 倍 GPU 加速。
    
*   OpenVINO（openvino_model）：Intel 专属格式，优化 Intel CPU/GPU/VPU。 适用场景：Intel 硬件（如 PC、边缘计算设备）部署。
    
*   TF Lite（.tflite）：TensorFlow 轻量化格式，针对移动 / 边缘设备。 适用场景：Android 设备、嵌入式硬件（如树莓派），支持 INT8 量化压缩。
    
*   RKNN（rknn_model）：Rockchip 瑞芯微专属格式，适配其 AI 芯片。 适用场景：瑞芯微 RK 系列芯片（如开发板、智能硬件）部署。
    
*   不同格式模型对比
 
| 对比   | 通用格式（ONNX）     | 加速格式（TensorRT） | 边缘格式（TF Lite）  | 原生格式（.pt）     |
|------|----------------|----------------|----------------|---------------|
| 推理速度 | 中速（CPU/GPU 通用） | 极速（GPU 专属）     | 低速 - 中速（轻量化）   | 低速（Python 依赖） |
| 模型大小 | 中等             | 中等（支持量化压缩）     | 极小（INT8 量化）    | 较大            |
| 硬件依赖 | 无              | NVIDIA GPU     | 移动 / 嵌入式设备     | PyTorch 环境    |
| 适用场景 | 通用部署、跨框架       | 实时高并发推理        | 低功耗边缘设备        | 训练 / 微调       |
| 精度支持 | FP32/FP16      | FP32/FP16/INT8 | FP32/FP16/INT8 | 全精度           |

## 2. 课程内容

1.将pt模型（yolov11导出的原生格式）转化导出TensorRT格式格式模型，并对比两者推理速度差异

> ### 使用 TensorRT 导出模型有什么好处？
> 
> 在jetson平台使用 TensorRT 导出模型可显著提高模型推理性能。导出到 TensorRT 的 YOLO11 模型可以实现高达 5 倍的 GPU 加速
> 
> *   **速度：** 通过高级优化实现更快的推理。
>     
> *   **兼容性：** 与 NVIDIA 硬件平稳集成。
>

## 3.转换模型

Note

*   orin主板才建议在主板上进行模型训练，训练源码在源码汇总的模型训练下的yolo_train文件夹，需要训练的可以自行将yolo_train文件夹程序放到主板根目录下
    
*   **RDK主板转换模型参考《YOLOV11开发(RDKX5）》章节的《模型量化》**

### 3.1 转换模型程序

模型格式转换程序路径：

/home/jetson/yolo_train/conver_model.py

可选启动参数说明：

*   **format**： 需要导出的模型格式，默认为engine（TensorRT格式）
    
*   **MODEL_PATH** 原始pt格式模型路径
    
*   **data** 校准数据集，仅在需要对模型进行int8量化时需要
    
*   **device** 运行设备编号,默认为0
    
*   **int8** 是否使用int8量化，进一步压缩模型尺寸，默认为False

### 3.1 开始转换

cd ~/yolo_train

*   这里以上节课程中训练的交通标志识别模型为例进行转换(这里--MODEL_PATH路径替换成自己命名的实际.pt模型路径)：

python3 conver_model.py --MODEL_PATH /home/jetson/yolo_train/yolo11n.pt

*   模型转换导出完成后终端提示`Export complete`和导出的模型路径

![image-20251201212255516](/media/202512/7008479b3dc9487297151f0f49eb7bea4805.png)

*   这里输出目录下的best.engine就是导出的TensorRT格式的模型文件

![image-20251201221342241](/media/202512/d5a8c2804997495da25fe71bcfd9135c6958.png)

Warning

*   注意！！！在不同GPU平台因为TensorRT版本不同，转换导出的TensorRT格式不是通用的。
    
*   例如在jetson orin NX上转换导出的 TensorRT格式模型在jetson nano上无法使用，因为两个平台的TensorRT版本不同。

## 4.源码解析

### 4.1 转换模型程序

程序源码位于`/home/jetson/yolo_train/conver_model.py`

程序流程分为：

*   解析参数：args = get_args() 读取命令行传入的参数，例如模型路径、导出格式等。
    
*   加载模型：model = YOLO(args.MODEL_PATH) 从指定路径加载 YOLO 预训练模型。
    
*   导出模型：根据是否启用 INT8 量化，调用不同的导出配置

```
import argparse
from ultralytics import YOLO

def get_args():
    '''
    '''
    parser = argparse.ArgumentParser()
    parser.add_argument('--project', default='./project', help='Project file output directory', type=str)
    parser.add_argument('--MODEL_PATH',default='/home/jetson/MODELS/yolov11/yolo11n.pt' ,help='原始模型权重文件路径Original model weight file path', type=str)
    parser.add_argument('--epochs', default=100, help='训练轮次Training rounds', type=int)
    parser.add_argument('--imgsz', default=640, help='图像大小Image size', type=int)
    parser.add_argument('--train_config', default='', help='配置文件路径Configuration file path', type=str)
    return parser.parse_args()

if __name__ == "__main__":
    args = get_args()
    model = YOLO(args.MODEL_PATH)  # 加载预训练模型  load a pretrained model

results = model.train(data=args.train_config, epochs=args.epochs, imgsz=args.imgsz,project=args.project)#开始训练 start training

```

4、模型格式转换