深度学习理论第四章——优化算法和参数调节

深度学习理论第四章——优化算法和参数调节

课程目录

课程目录

模型和风险

在这里插入图片描述

偏差和方差

在这里插入图片描述

在这里插入图片描述

评价指标

![在这里插入图片描述](https://img-blog.csdnimg.cn/a80dbea4302d47d08b1d3ee645f5c4d5.png

在这里插入图片描述

微平均和宏平均用sklearn包

Aoc大，模型泛化能力强

网络优化（原理）

在这里插入图片描述

（负梯度，导数平方保证函数下降）

初始值缩放变小

（方差很大的时候，学习率小）

在这里插入图片描述

动量法基本是最快的

版权声明：本文为sroman原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接和本声明。

原文链接：https://blog.csdn.net/sroman/article/details/126025304