模型尺寸

[thinklab-sjtu]

模型尺寸

[yangxue0827]

你学习率调低一点试试 @zhouzhubin

[zhouzhubin]

谢谢大佬回复，刚降到5e-6还是会报那个错，而且还是在1600到1700步之间。是跟数据有关吗？我是用这相同的数据，训练了您的R2CNN++，模型400的情况下是可以的，但是训练了retinanet和R3Det，模型400的时候，就会有这种问题。

[zhouzhubin]

@yangxue0827

[yangxue0827]

试一下过滤极小的目标，有可能你缩小图片后，目标的坐标长宽出现太小的值了 @zhouzhubin

[zhouzhubin]

@yangxue0827 恩恩，好的，谢谢啊！我过会去试试。

[lw230]

请问你解决了吗，我也遇到了跟你一样的问题，弄了好久了还是出错

[zhouzhubin]

在back_forward_convert这个函数里，我对w，h做了处理。然后就可以训练了。

[lw230]

你好，只在这个地方找到了back_forward_convert，您说的是哪个地方呀

[zhouzhubin]

哦哦，不好意思，我重写了一个函数，应该是backward_convert的函数，在libs/boxs_utils/coordinate_convert.py里。