Calculo do Parâmetro Delta em Redes Neurais e Deep Learning

[André]

Professor, boa noite.

Fiquei com uma dúvida na parte da aula que explica achar o Delta da Camada Escondida. Vou tentar esmiuçar para que seja de fácil entendimento logo na primeira leitura.

Seguinte. Logo no primeiro slide após a apresentação da parte “Delta camada escondida” em que é feito o cálculo do primeiro registro, fazendo referencia a tabela XOR, ou seja, X1 = 0, X2 = 0, Classe = 0

O resultado da soma é zero (começa aí minha dúvida), de onde extraiu-se o valor soma zero? E logo depois a derivada é 0,25. Sendo que na resolução do mesmo registro na parte da aula sobre “Delta de Saída”, esses valores não aparecem, apenas os pesos (-0,017, -0,893, 0,148) e a função ativação sigmoide (0,5) são iguais.

resumindo, eu não sei como chegar nessa soma igual a zero e nem na derivada 0,25. Uma vez que na primeira parte, onde se chega no Delta de Saída, esses valores não existem, e sim s0ma igual a -0,381 e a derivada ativação (sigmoide) é igual a 0,241.

[Denny Ceccon]

Olá André,

A soma é igual a zero porque os registros (camada de entrada) são iguais a zero, então se multiplicar zero pelos pesos (ligações entre a camada de entrada e a camada oculta) e somar depois, o resultado final é zero. Aplicando a ativação (sigmoide de zero), o resultado é 0.5, e a derivada da sigmoide de 0.5 é igual a 0.25.

[Autor]

Posts