损失函数是什么，它为什么能够让AI知道自己错了多少

损失函数是什么，它为什么能够让AI知道自己错了多少 我们考试的时候会有老师批改，知道我们错了多少。那么AI训练的时候有没有“老师”呢？有！这一位“老师”就是损失函数（Loss），包括训练的时候，我们也主要看Loss判断模型训练的怎么样。 损失函数是什么 Loss是通过一个数值告诉你模型错了多少 。一般情况下Loss越大，模型预测的结果就离正确答案相差越远；Loss越小，模型预测的结果就离正确答案越近。比如小鱼干的价格是¥10/条，模型预测的价格是¥20/条，那么Loss就会比较大；如果模型预测的小鱼干价格是¥9/条，那么Loss就会比较小。 Loss有没有可能为0？ 在数学上Loss有可能为0，比如小鱼干的价格是¥10/条，模型也预测为¥10/条，那么这一个模型的Loss就为0。但是计算机中显示的0不一定就是0，因为有时侯Loss可能是0.0000…1，这个数太小了，超出了浮点数可以表示的范围所以计算机把它当作了0，这一种情况叫做下溢。并且Loss为0不代表模型真的学会了，因为它有可能只是记住了训练集，变成了过拟合。 Loss有什么用 Loss用处可大了，具体流程是这样的：做出预测——计算Loss——通过反向传播计算梯度——通过优化器调整参数——再次预测。经过不断的训练Loss就慢慢下降，然后训练出一个好模型。 以前只有人类有老师，现在AI也有Loss啦！喵 24 个帖子 - 16 位参与者 阅读完整话题 via LINUX DO - 热门话题 (author: xiaofeng1) 相关链接： https://linux.do/t/topic/2893068