Funções de ativação: definição, características, e quando usar cada uma

Conheça o que são, para que servem, as características que devem ter boas funções de ativação, e quando usar cada uma.