Bradley Amy, diretor técnico da Pangram, afirma que o pós-treinamento e as restrições de segurança reduzem significativamente o alcance expressivo de modelos de linguagem. De acordo com o material publicado pelo The Decoder, modelos básicos sem tais restrições já são capazes de escrever com muito mais variedade.
Isso significa que a reconhecibilidade do texto criado pela modelo pode estar ligada não à incapacidade fundamental de escrever de forma humana, mas aos efeitos do pós-treinamento e das configurações de segurança. Para os usuários, isso é importante ao avaliar a qualidade e a origem de materiais gerados automaticamente.
A confirmação disponível é limitada ao resumo do The Decoder e não inclui o texto completo da publicação, a metodologia ou uma verificação independente da afirmação. Não está claro quais modelos e procedimentos foram comparados e até que ponto a conclusão se aplica aos sistemas modernos em geral.
comentário editorial
Por que importa
Conseqência provável: detectores e analistas da origem do texto podem levar em conta não apenas as capacidades da model, mas os efeitos do pós-treinamento. O próximo sinal observável será o aparecimento de comparações reprodutíveis entre modelos básicos e de pós-treinamento. A incerteza substancial está relacionada à ausência no conjunto de metodologia, dados e verificação independente.