交叉熵损失函数

目录

一、交叉熵损失函数含义

二、交叉熵损失函数定义为:​

三、交叉熵损失函数计算案例


 

一、交叉熵损失函数含义

交叉熵是一个信息论中的概念,它原来是用来估算平均编码长度的。给定两个
概率分布p和q,通过q来表示p的交叉熵为

 交叉熵刻画的是两个概率分布之间的距离, p代表正确答案, q代表的是预测值,
交叉熵越小,两个概率的分布约接近

二、交叉熵损失函数定义为:

 其中: ??为标签值, ??′为预值测

三、交叉熵损失函数计算案例

假设有一个3分类问题,某个样例的正确答案是(1, 0, 0)
甲模型经过softmax回归之后的预测答案是(0.5, 0.2, 0.3)
乙模型经过softmax回归之后的预测答案是(0.7, 0.1, 0.2)
 

 


版权声明:本文为shazi4399原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。