O algoritmo usa princípios de processamento de linguagem natural para procurar perspectivas diferentes sobre vários aspectos de interesse público relacionados ao tema, e os ranqueia com base na qualidade da informação, usando critérios como a confiabilidade da fonte.
O algoritmo usa informações contextuais, como a hora do dia e o local onde o usuário se encontra, para aumentar a eficiência de predição da próxima palavra, assim diminuindo consideravelmente o esforço que o usuário precisa fazer para se comunicar.
O BERT é um modelo que faz uso dos transformers para alcançar desempenhos inéditos em tarefas de processamento de linguagem natural.
Voluntários que sobreviveram ao Holocausto foram filmados respondendo a uma quantidade grande de perguntas, de forma a cobrir toda sua experiência relevante associada ao trágico evento, e agora uma IA é capaz de selecionar o vídeo mais adequado frente à pergunta de uma pessoa interessada, criando um ambiente virtual de diálogo.
Como os relatórios médicos tradicionais não fazem a distinção entre a agudez do quadro, os autores treinaram uma rede neural convolucional para identificar o estado a partir de anotações clínicas em texto livre, atingindo precisão elevada.
Neste artigo apresento como o conceito de atenção é implementado na estrutura do transformer, quais são as principais etapas que envolvem uma tarefa do tipo seq2seq nessa estrutura, e por que os transformers têm desbancado mesmo as versões mais recentes de RNNs.
Conheça o mecanismo de atenção, que é a base do transformer, a arquitetura de rede mais recente para PLN, e que permite que uma rede focalize em trechos específicos de uma sequência de dados para produzir resultados mais precisos.
O spaCy é uma biblioteca de Python que disponibiliza as principais ferramentas para Processamento de Linguagem Natural avançado, permitindo, por exemplo, extrair informações e anotar textos para uso em modelos de deep learning com objetivos mais complexos.
A nova arquitetura, chamada de Reformer, aplica as estratégias de hashing sensitivo à localidade e camadas reversíveis para permitir que o algoritmo processe janelas de contexto de até 1 milhão de palavras usando apenas um processador com 16 GB de memória, o que lhe habilita a compreender o contexto de um livro inteiro.
O autor do trabalho usou features de texto característicos de poesia e métodos de machine learning para classificar as sequências da peça Henrique VIII, chegando à conclusão de que o trabalho foi escrito de forma revezada por Shakespeare e por John Fletcher, sendo que uma das cenas teve participação de ambos os autores.
