向量的2范数求导?

f(x)=\frac{1}{2} \left| \left| A(x)-b \right| \right|_{2}^{2}  ,  A:\Re ^{m\times n}\rightarrow\Re ^{p} , 即 A(x)=b,   b\in\Re ^{p} ,  f(x)是求A(x)-b的2范数。

问题:对  f(x)  求一阶导   f^{'} (x)

 

解答过程如下:

 

原式等于    f(x)= \frac{1}{2} (Ax-b)^T (Ax-b)\Leftrightarrow f(x)=\frac{1}{2}(x^TA^TAx-2b^TAx+b^Tb)

对x求导得:  f'(x)=A^TA x-A^Tb=A^T(Ax-b)

 

这里主要用到的是向量和矩阵的求导公式。分别为

\frac{\partial y^T x}{\partial x}=y       和     \frac{\partial(x^TA x)}{\partial x}=(A+A^T)x

此外还有向量2范数的定义式。

 

Reference:

[1] https://www.zhihu.com/question/31845977