A Nature Machine Intelligence relatou o desenvolvimento da NucleicBERT, um modelo de linguagem auto-supervisionado com mascaramento, que é treinado em sequências individuais de RNA e forma representações contextuais sem informações evolutivas.

Os autores vinculam o desenvolvimento ao problema da parte não codificante do genoma: muitos de seus elementos atuam via RNA, contudo, os papéis estruturais e funcionais de tais sequências permanecem insuficientemente compreendidos.

O significado prático da abordagem ainda não pode ser avaliado com base na descrição disponível. Ela não apresenta resultados de testes, tarefas biológicas específicas, comparação com outros modelos ou dados sobre a aplicação da NucleicBERT.