线性代数之矩阵导数微分

                           线性代数之矩阵导数微分

 矩阵微分及性质

矩阵微分的形式见下：

类似函数的微分，矩阵微分有如下性质：

其中矩阵转置的微分等于矩阵微分的转置：

 矩阵导数与微分

矩阵微分和导数有如下关系： 

 再结合矩阵迹和矩阵导数，则有：

二次型函数矩阵求导

假设有如下二次型函数

，求其对x的导数。这里A是个方阵，x是个列向量。

解决过程:

Step 1 由矩阵微分定义有：

Step 2  由微分矩阵迹的性质：

则可将上式变换为：

Step 3 再有乘积矩阵的微分性质

则上式展开为：

Step 4 其中Step 3里的右式里仍是乘积矩阵的微分，再次展开

Step 5 这里A是个常量，所以

是0矩阵，即有：

Step 6 由迹的性质，两个矩阵和的迹等于各自迹的和：

则可以展开为：

Step 7 再由如下性质：

1 矩阵的迹等于矩阵逆的迹的性质

2 矩阵乘逆的性质

3 矩阵转置的微分的性质

则上式转换为：

Step 8 在根据由迹的性质，两个矩阵和的迹等于各自迹的和，得

Step 9 合并相同的项，则得

Step 10 由矩阵导数微分的性质

则 上式里的矩阵导数为：

即得最终结果。

特别的如何A是个对称矩阵，则