La investigación de Google DeepMind, reportada por MIT Technology Review AI, muestra que grupos de agentes de IA detectaron irregularidades cometidas por otros agentes y las denunciaron. La fuente atribuye este efecto a la presión de los colegas.
El artículo describe un contexto más amplio: los grupos de agentes pueden acelerar el trabajo científico, pero también podrían generar problemas graves. Sin embargo, la descripción disponible no incluye detalles del experimento, el número de agentes ni una confirmación independiente del resultado.
comentario editorial
Por qué importa
Consecuencia probable: el control recíproco podría convertirse en uno de los enfoques para la supervisión de grupos de agentes de IA. La señal observable más inmediata es la publicación de los detalles del estudio y la verificación independiente del resultado. Existe una incertidumbre sustancial debido a la ausencia, en los materiales disponibles, de la metodología, datos cuantitativos y condiciones del experimento.