Taxa de aprendizado

[Júlio César Schoenardie de Oliveira]

Oi! Estou tendo um resultado muito inferior ao do professor no que diz respeito a acurácia do modelo.
Aumentei o número de épocas de treinamento para 100 vezes e mesmo assim o máximo que cheguei foi a pouco mais de 50%.
Poderia me dar alguma dica de como melhorar?

[Denny Ceccon]

Olá Júlio,

Nem sempre aumentar o número de épocas ajuda, pois pode ocorrer o fenômeno de overfitting. Geralmente, quando a arquitetura da rede e os dados são os mesmos, as maiores diferenças nos resultados se devem à inicialização da rede, mas como ela é inicializada com valores aleatórios, você precisa tentar várias vezes até que ela inicialize com os valores que entregam os melhores resultados.

[Júlio César Schoenardie de Oliveira]

Oi, Denny!
Tentei diversas vezes e a única coisa que fez melhorar um pouco realmente foi aumentar o número de épocas de treinamento, porém cheguei a no máximo 52%. Alguma outra dica?

[Denny Ceccon]

Júlio, lembrei que recentemente eu fiz esta atualização no código:

for layer in base_model.layers[:-10]:
#   layers.trainable = False
layer.trainable = False # correção MAI-2024

Isto para ficar de acordo com a aula gravada, congelando as últimas camadas do modelo. Entretanto, como na aula o código estava errado, o professor não congelou essas camadas, o que provavelmente explica os resultados melhores neste estudo de caso. Congelar essas camadas é geralmente uma opção do desenvolvedor; isso geralmente agiliza o treinamento, mas pode ter alguma perda de performance. Removendo esta parte do código, você pode encontrar resultados melhores. Aproveitei a oportunidade e adicionei essa observação no código da aula.

[Júlio César Schoenardie de Oliveira]

Oi, Denny!
Utilizando o código anterior sem a correção aumentou para 62.5%. O código corrigido está dando um valor menor.
Alguma outra dica?

[Denny Ceccon]

Eu testei sem congelar as camadas e o modelo em poucas épocas já estava acima de 80%. Meu último resultado é o que consta no notebook anexado à aula.

[Autor]

Posts