Anthropic llevó a cabo un estudio con la participación de 50 expertos, a quienes se les presentó un sistema con preferencias aleatorias. En las situaciones que requerían emitir un juicio, los participantes siguieron la posición del sistema en determinados casos hasta 86% del tiempo.
La mayoría de los expertos, al hacerlo, consideraron las conclusiones como propias. Esto es importante para procesos en los que los profesionales usan la IA como consejero: la influencia del sistema puede permanecer oculta incluso cuando la persona está convencida de la independencia de su decisión.
Los datos fueron publicados por The Decoder citando a Anthropic. En el paquete disponible solo existen metadatos y una descripción breve, por lo que los detalles de la metodología, la composición de los participantes y las condiciones del experimento requieren verificación adicional.
comentario editorial
Por qué importa
Posible consecuencia: aumentar el interés en verificar la independencia de las decisiones expertas al usar IA. La siguiente señal observable será la publicación de la metodología y los resultados completos. Una incertidumbre sustancial es que actualmente solo está disponible una descripción breve sin materiales primarios.