一文看懂训练集loss与测试集loss关系

train loss 不断下降&＃xff0c;test loss不断下降&＃xff0c;说明网络仍在学习;

train loss 不断下降&＃xff0c;test loss趋于不变&＃xff0c;说明网络过拟合;&＃xff08;max pool或者正则化&＃xff09;

train loss 趋于不变&＃xff0c;test loss不断下降&＃xff0c;说明数据集100%有问题;

train loss 趋于不变&＃xff0c;test loss趋于不变&＃xff0c;说明学习遇到瓶颈&＃xff0c;需要减小学习率或批量数目;或者是数据集有问题&＃xff08;数据集标注错误数据比较多&＃xff09;

train loss 不断上升&＃xff0c;test loss不断上升&＃xff0c;说明网络结构设计不当&＃xff0c;训练超参数设置不当&＃xff0c;数据集经过清洗等问题。