方向导数和梯度

*课程上到机器学习,发现一些数学知识不会,随笔记下。作为数二的专硕,考研没考的概率论、高数下册那些东西现在全得补回来。呜呜呜~~~~~*

1.方向导数

方向导数的本质是一个数值,简单来说其定义为:

一个函数沿指定方向的变化率。

2.梯度

梯度与方向导数是有本质区别的,梯度其实是一个向量,其定义为:

在这里插入图片描述

一个函数对于其自变量分别求偏导数,这些偏导数所组成的向量就是函数的梯度。

在很多资料中可以看到如下的梯度定义方法:

这里是二维的定义,高维的可以推广。

3.梯度与方向导数的关系

梯度与方向导数的关系应该如何描述呢?

函数在某点的梯度是这样一个向量,它的方向与取得最大方向导数的方向一致,而它的模为方向导数的最大值。

以上描述非常好理解,那如何证明呢?
在这里插入图片描述
在这里插入图片描述


版权声明:本文为qq_41860776原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接和本声明。