???前言

✨你好啊，我是“ 怪& ”，是一名在校大学生哦。
?主页链接：怪&的个人博客主页
☀️博文主更方向为：课程学习知识、作业题解、期末备考。随着专业的深入会越来越广哦…一起期待。
❤️一个“不想让我曾没有做好的也成为你的遗憾”的博主。
?很高兴与你相遇，一起加油！

一、预备知识

1、熵是什么

熵：信息量的数学期望，在信息论中衡量一个系统的不确定性。（越小越好）

2、信息增益是什么？

信息增益：当知道额外属性时，对整个系统的不确定性降了多少。（越大越好）

二、如何计算信息增益

例题如下：

三、习题

解答如下：

❤️❤️❤️忙碌的敲代码也不要忘了浪漫鸭！