Um grupo de pesquisadores apresentou um artigo na Conferência Internacional de Aprendizado de Máquina, realizada neste mês. O trabalho afirma que é impossível tornar os grandes modelos de linguagem completamente seguros contra invasões.
Os autores do documento vinculam esse problema a uma falha fundamental nos princípios de funcionamento de tais sistemas. Segundo eles, a própria arquitetura dos modelos cria uma brecha ineliminável para potenciais ataques.
O material baseia-se nas conclusões publicadas em um relatório para o principal evento do setor. A publicação MIT Technology Review destaca essas declarações como um desafio sério para a indústria da inteligência artificial.
comentário editorial
Por que importa
A consequência mais provável será uma mudança de paradigma no desenvolvimento de IA, passando da busca por proteção ideal para a criação de sistemas capazes de funcionar mesmo com comprometimento parcial. O próximo sinal observável serão as reações das grandes empresas de tecnologia a este relatório e possíveis mudanças nos roteiros de segurança. A incerteza material permanece sobre quão amplamente aplicável é o defeito identificado a diferentes tipos de arquiteturas de modelos.