野火电子论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

查看: 804|回复: 4

[求助] 关于yolov8l 1280*1280尺寸网络转化出错的问题

[复制链接]
发表于 2023-12-20 17:57:25 | 显示全部楼层 |阅读模式
rk3588s yolov8l 1280*1280 尺寸的onnx(opset=12)模型转rknn模型出错,如下和图中所示
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5048, shift = 19, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 0, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x4038, shift = 16, limit: 0x1fff, value: 0x7fc0
E RKNN: [17:01:46.306] REGTASK: The bit width of field value exceeds the limit, target: v2, offset: 0x5010, shift = 16, limit: 0x1fff, value: 0x7fc0
done
--> Export RKNN model: ./rknn_models/yolov8l-1280-1280_fans_rk3588s.rknn
done
同样模型640*640的没有问题,可以正常推理得出目标框,1280*1280尺寸转换虽然也可以得出rknn模型,推理出来是错误的 ,目标类型和目标框都是错误的
麻烦看下


1703064393262.png
回复

使用道具 举报

发表于 2023-12-25 10:20:33 | 显示全部楼层
我试过1280*1280的yolov8模型,没有遇到这个问题,,,你试下tooklit2  1.6.0版本,参考下rk官方的仓库https://github.com/airockchip/ultralytics_yolov8,,以及https://doc.embedfire.com/linux/ ... ple/yolov8.html#id4
回复 支持 反对

使用道具 举报

 楼主| 发表于 2023-12-28 14:00:03 | 显示全部楼层
monark 发表于 2023-12-25 10:20
我试过1280*1280的yolov8模型,没有遇到这个问题,,,你试下tooklit2  1.6.0版本,参考下rk官方的仓库http ...

你是用pt->torchscript->rknn,还是pt->onnx->rknn?
回复 支持 反对

使用道具 举报

发表于 2024-5-30 17:40:52 | 显示全部楼层
你好,请问你最后解决这个问题了吗?是怎么解决的呢,我遇到了同样的问题。384x640规格的yolo8模型可以得到正常推理结果。但是使用736x1280的yolov8模型就无法得到正确检测框了。
回复 支持 反对

使用道具 举报

发表于 2024-5-30 17:42:44 | 显示全部楼层
我这边是pt—>onnx—>rknn
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

联系站长|手机版|野火电子官网|野火淘宝店铺|野火电子论坛 ( 粤ICP备14069197号 ) 大学生ARM嵌入式2群

GMT+8, 2024-6-25 16:37 , Processed in 0.139831 second(s), 28 queries , Gzip On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表