使用tenrorrt转化为trt文件后,用如下代码可以测试推理速度。
此处模型是多分类的图像语义分割,测试数据是一张图片,时间可以根据自己的需要决定起点在何处。
参考:
https://www.cnblogs.com/chentiao/p/16671459.html