rknn上转换wenet输出异常bug调试(下)
真相了,和rknn版本有问题,这版本转出来的模型实际推理chunk也有问题...和txt的误差相同...

我以为他来原来一样,chunk肯定是对的,因为我之前只确定chunk的输出了...
换成这个版本后...rknnpython输出和torch输出都对了:

使用此模型在c++端保存第一次推理的attncache,与python输出比较,结果正确:

至此,最终部署还有两个问题,第一个问题是板端是pipeline形式送来音频,和目前测试的单条音频直接计算出所有fbank分段输入还不太一样,同样一条音频送入pipeline反复推理,他结果总是变
第二个问题就是我之前搞的前缀束搜索好像没啥用,他竟然和贪心的输出一模一样,关键那个代码是用了kaldi的实现,不好编译进sdk,只在demo中编译还比较方便...
关于实际的转换,我也不确定可不可以直接转了,因为wenet的代码我已经做过不少修改,但是没有破坏网络层数,主要是他里面的一些if啊什么的条件判断影响了模型的追踪,一层一层排查吧~
另外,今天办公室空调开的真猛,现在已经发烧了呜呜呜,最后附上板端推理的黄鹤楼(贪心)

明天换成束搜索不知道会好多少呢~