dropout

[Caio]

Porfessor,o dropout é feito quando temos o overfitting,e foi mostrado na aula que uma maneira de saber se é precicso fazer o drop out,e vendo o desvio padrão(validção cruzada,k=10),o que seria um valor elevado do desvio padrão,para se fazer o drop out?

 

[Denny Ceccon]

Oi Caio,

Infelizmente não existe uma resposta pronta para essa pergunta, pois depende muito das características do problema e se o modelo escolhido é de fato adequado para ele, o que é muito difícil de dizer com certeza. O que se costuma falar muito em machine learning é na ideia do trade-off, em algumas situações nós temos que encontrar um equilíbrio entre, por exemplo, o desvio padrão e a acurácia. Se o desvio está muito “alto”, vale a pena aplicar dropout para reduzir a probabilidade de overfitting, mas assim a gente pode sacrificar um pouco da acurácia. A solução final vai depender de uma série de fatores como a experiência do desenvolvedor e a área de aplicação da IA.

[Author]

Posts