原因:输入与训练时输入的数据不一致
可能情况:
[1]mask的数据与预期不一致,可以打印出来看看数据是否与预期的一致;
[2]检查模型mask是否为必须输入参数,我设置了默认值为None,传mask后,与单条预测结果一直不一样,但是大于1的batch_size结果一样;
总结:
[1]确保输入onnx的数据与bin格式预测的输入数据格式,数据一致;
[2]确保mask值为必须传入参数,这一点容易被忽视;
bin转onnx,BERT 设置batch sizh不一样,结果不一样;
阅读 38
2023-09-25
原因:输入与训练时输入的数据不一致
可能情况:
[1]mask的数据与预期不一致,可以打印出来看看数据是否与预期的一致;
[2]检查模型mask是否为必须输入参数,我设置了默认值为None,传mask后,与单条预测结果一直不一样,但是大于1的batch_size结果一样;
总结:
[1]确保输入onnx的数据与bin格式预测的输入数据格式,数据一致;
[2]确保mask值为必须传入参数,这一点容易被忽视;
相关推荐
精彩评论(0)