softmax交叉熵损失函数 为什么交叉熵cross-entropy可以用于计算代价？

为什么交叉熵cross-entropy可以用于计算代价？

如果你是一个面试者，怎么判断一个面试官的机器学习水平？

请问神经网络有多个输出的回归问题，损失函数如何定义比较合理？

在我看来，多重输出与损失函数的类型选择没有直接关系。一般来说，使用交叉熵是没有问题的，即使MSE也不会产生特别显著的差异。但是，最好添加范数的正则化因子（计算量较少）。但是，输出量有多大是影响算法收敛的关键因素，因为如果需要对结果进行归一化也是非常费时的，比如输出量太多，比如一千多，那么可以考虑试试分层softmax，代码可以看word2vec，希望对你有所帮助

softmax交叉熵损失函数 二分类交叉熵损失函数 softmax损失函数

版权声明：本文内容由互联网用户自发贡献，本站不承担相关法律责任.如有侵权/违法内容,本站将立刻删除。