深度学习中一些常用函数的偏导数

1.Mul（哈达玛积：对应相乘） 设： 则根据偏导数的定义得： 同理可得： 2.MatMul（矩阵乘） 矩阵乘的偏导与元素的顺序是相关的. 设： 那么： 根据矩阵相容的原理： 可见矩阵的偏导数是另一个矩阵的转置，但是在用链式法则的时候需要保持和原来一直的顺序，意思是原来矩阵乘的元素在前面时，应用链式
posted @ 2018-07-06 15:38  灰太狼锅锅  阅读(1518)  评论(0)  编辑  收藏  举报