
O agente de IA Luna da empresa Andon Labs demitiu pela primeira vez um funcionário humano em uma loja em São Francisco, segundo The Decoder. Segundo o resumo da publicação, os operadores foram obrigados a empurrar claramente o sistema para essa decisão e lembrar-lhe de suas próprias regras.
Na verificação com sete modelos, sistemas mais capazes recomendaram demissão de forma mais estável, e menos capazes vacilaram com mais frequência. Na contratação, quase todos os modelos, segundo o mesmo material, não mostraram criticidade. Isso torna as decisões de RH baseadas em IA uma questão importante para controle, mas a descrição disponível é insuficiente para avaliar a qualidade ou a segurança de tais sistemas.
comentário editorial
Por que importa
Provável consequência prática — fortalecer a exigência de controle humano sobre as decisões de IA sobre contratação e demissão. O próximo sinal observado será a publicação de detalhes do experimento ou replicação independente de seus resultados. Uma incerteza substancial está relacionada ao fato de que atualmente está disponível apenas o resumo de uma única fonte.