Novo algoritmo permite aprendizado com maior eficiência energética

Um dos principais fatores limitando a aplicação de redes neurais, especialmente em dispositivos móveis, é seu alto consumo de energia. De fato, um trabalho recente publicado pelo Instituto de Tecnologia de Massachusetts (MIT) sugere que o potencial de desenvolvimento da inteligência artificial está quase exaurido em função dos métodos e hardware atuais. Por outro lado, o cérebro humano é reconhecido como uma máquina computacional extremamente eficiente, fazendo o mesmo trabalho que um supercomputador com apenas um milionésimo do consumo energético. Isso se deve à maneira com que a informação trafega entre os neurônios do cérebro, na forma de impulsos elétricos curtos, ou disparos, que só são gerados quando absolutamente necessário.

Inspirados neste modelo biológico, pesquisadores da Universidade de Tecnologia Graz, na Áustria, desenvolveram um novo algoritmo de machine learning que também faz uso de disparos para a comunicação entre os neurônios da rede neural artificial. Imitando o cérebro, os disparos também só ocorrem quando eles são necessários para o processamento da informação. Este algoritmo, publicado na semana passada, foi batizado de e-prop, abreviação para e-propagation.

Métodos anteriores que tentaram aplicar conceitos similares se mostraram ineficientes para reter conhecimento, já que menos informação trafega pela rede durante o treinamento, o que só podia ser compensado com maior tempo de treinamento e maior espaço para armazenamento de dados. O novo algoritmo resolve este problema usando um método decentralizado, novamente copiado do cérebro, onde cada neurônio mantém um histórico das conexões utilizadas por ele. Isso torna desnecessário o realocamento constante de dados entre a memória e o processador, que é um dos principais responsáveis pelo alto consumo energético dos métodos atuais.

O algoritmo e-prop foi avaliado no trabalho publicado em três tarefas distintas – reconhecimento de fonemas, atribuição de crédito a estímulos ambientais, e aprendizagem por reforço -, alcançando um desempenho similar ao dos melhores métodos atualmente disponíveis.

O trabalho é promissor tanto do ponto de vista científico, permitindo modelar de uma maneira mais precisa o funcionamento do cérebro, quanto do tecnológico. No futuro, ele pode vir a integrar o hardware dos dispositivos móveis – dando origem ao chamado hardware neuromórfico – , sendo responsável pelo aprendizado local, ao invés de depender da nuvem e, no final das contas, de servidores com alto consumo energético. Os autores já estão inclusive trabalhando junto com a Intel para desenvolver protótipos que trabalhem com esta abordagem.