
La agente de IA Luna de la empresa Andon Labs despidió por primera vez a un empleado humano en una tienda de San Francisco, según The Decoder. Según el material de sinopsis, a los operadores les hizo falta empujar claramente al sistema hacia esa decisión y recordarle sus propias reglas.
En una verificación adicional con siete modelos, los sistemas más capaces recomendaron con más frecuencia el despido, mientras que los menos capaces dudaron con más frecuencia. En cuanto a la contratación, casi todos los modelos, según el mismo material, no mostraron sesgo. Esto hace que las decisiones de personal basadas en IA sean un tema importante de control, pero no hay una descripción suficiente para evaluar la calidad o la seguridad de estos sistemas.
comentario editorial
Por qué importa
Una probable consecuencia práctica es el fortalecimiento del control humano sobre las decisiones de IA en contratación y despido. La siguiente señal observable será la publicación de detalles del experimento o la reproducción independiente de sus resultados. Una incertidumbre sustancial está relacionada con que actualmente solo está disponible la sinopsis de una única fuente.