$3.$ Retropropagaci$$n Agregar esta p$$gina a favoritos Uno de los pasos clave para entrenar redes neuronales multicapa es el descenso de gradiente estoc$$stico$.$ Usaremos el algoritmo de retropropagaci$$n para calcular el gradiente de la funci$$n de p$$rdida con respecto a los par$$metros del modelo. Considere la red neuronal de capa L a continuaci$$n: En los siguientes problemas, usaremos la siguiente notaci$$n: b$\text{'},$ es el sesgo de la j$-$sima neurona en la I$-$sima capa, al es la activaci$$n de la g$-$sima neurona en la $\{$sima capa, y es el peso para la conexi$$n desde la k$-$sima neurona en la $(1-1)$ capa hasta la en$$sima neurona en la I$-$sima capa. Si la funci$$n de activaci$$n es f y la funci$$n de p$$rdida que estamos minimizando es C$,$ entonces las ecuaciones que describen la red son: P$$rdida $=$ C$($a$)$ Tenga en cuenta que las notaciones sin sub$$ndice denotan el vector o matriz correspondiente, de modo que a$\text{'}$ es el vector de activaci$$n de la capa I, y w$\text{'}$ es la matriz de pesos de la capa. Para l $=1,...,$L$.$Funciones de activaci$$n: Sigmoide $3/4$ puntos $($graduado$)$ Recuerde que hay varias opciones diferentes posibles de funciones de activaci$$n f$.$ Familiaric$$monos m$$s con ellos y sus gradientes. $$Cu$$l es la derivada de la funci$$n sigmoidea, o $(2)=?$ Por favor escriba su respuesta en t$$rminos de e y z: $1/$z