模型導(dǎo)出 ?? 這個教程用來解釋如何導(dǎo)出一個訓(xùn)練好的 OneFlow YOLOv5 模型 ?? 到 ONNX . 本文涉及到了幾個超鏈接，但是在微信文章里面外鏈接會被吃掉 ，所以歡迎大家到這里查看本篇文章的完整版本：https://start./oneflow-yolo-doc/tutorials/06_chapter/export_onnx_tflite_tensorrt.html
克隆工程并在 Python>3.7.0 的環(huán)境中安裝 requiresments.txt , OneFlow 請選擇 nightly 版本或者 >0.9 版本 。模型和數(shù)據(jù)可以從源碼中自動下載。
git clone https://github.com/Oneflow-Inc/one-yolov5.git
YOLOv5支持多種模型格式的導(dǎo)出，并基于特定模型對應(yīng)的框架獲得推理加速。
Format export.py --includeModel OneFlow - yolov5s_oneflow_model/ ONNX onnxyolov5s.onnx OpenVINO openvinoyolov5s_openvino_model/ TensorRT engineyolov5s.engine TensorFlow SavedModel saved_modelyolov5s_saved_model/ TensorFlow GraphDef pbyolov5s.pb TensorFlow Lite tfliteyolov5s.tflite TensorFlow Edge TPU edgetpuyolov5s_edgetpu.tflite TensorFlow.js tfjsyolov5s_web_model/
下面的命令把預(yù)訓(xùn)練的 YOLOV5s 模型導(dǎo)出為 ONNX 格式。yolov5s 是小模型，是可用的模型里面第二小的。其它選項(xiàng)是 yolov5n ，yolov5m，yolov5l，yolov5x ，以及他們的 P6 對應(yīng)項(xiàng)比如 yolov5s6 ，或者你自定義的模型，即 runs/exp/weights/best 。有關(guān)可用模型的更多信息，可以參考我們的README
python export.py --weights ../yolov5s/ --include onnx?? 提示: 添加 --half 以 FP16 半精度導(dǎo)出模型以實(shí)現(xiàn)更小的文件大小。
輸出：
export: data=data/coco128.yaml, weights=['../yolov5s/'], imgsz=[640, 640], batch_size=1, device=cpu, half=False, inplace=False, train=False, keras=False, optimize=False, int8=False, dynamic=False, simplify=False, opset=12, verbose=False, workspace=4, nms=False, agnostic_nms=False, topk_per_class=100, topk_all=100, iou_thres=0.45, conf_thres=0.25, include=['onnx']
導(dǎo)出的 onnx 模型使用 Netron Viewer 進(jìn)行可視化的結(jié)果如下：
在這里插入圖片描述 detect.py 可以對導(dǎo)出的模型進(jìn)行推理：
python path/to/detect.py --weights yolov5s/ # OneFlow # ONNX Runtime or OpenCV DNN with --dnn # OpenVINO # TensorRT # CoreML (macOS only) # TensorFlow SavedModel # TensorFlow GraphDef # TensorFlow Lite # TensorFlow Edge TPU val.py 可以對導(dǎo)出的模型進(jìn)行驗(yàn)證：
python path/to/val.py --weights yolov5s/ # OneFlow # ONNX Runtime or OpenCV DNN with --dnn # OpenVINO # TensorRT # CoreML (macOS only) # TensorFlow SavedModel # TensorFlow GraphDef # TensorFlow Lite # TensorFlow Edge TPU
基于 onnx 模型使用 onnxruntime 進(jìn)行推理：
python3 detect.py --weights ../yolov5s/yolov5s.onnx 輸出：
detect: weights=['../yolov5s/yolov5s.onnx' ], source =data/images, data=data/coco128.yaml, imgsz=[640, 640], conf_thres=0.25, iou_thres=0.45, max_det=1000, device=, view_img=False, save_txt=False, save_conf=False, save_crop=False, nosave=False, classes=None, agnostic_nms=False, augment=False, visualize=False, update=False, project=runs/detect, name=exp, exist_ok=False, line_thickness=3, hide_labels=False, hide_conf=False, half=False, dnn=Falsefor ONNX Runtime inference...for 'np.bool_' scalars to be interpreted as an index'{n} {names[int(c)]}{'s' * (n > 1)}, ' # add to string
圖片 https://github.com/ultralytics/yolov5/issues/251
