O estudo da Google DeepMind, relatado pela MIT Technology Review AI, mostra que grupos de agentes de IA identificaram violações cometidas por outros agentes e as denunciaram. A fonte associa esse efeito à pressão dos colegas.
O material descreve um contexto mais amplo: grupos de agentes podem acelerar o trabalho científico, mas também podem criar problemas sérios. No entanto, a descrição disponível não contém detalhes do experimento, o número de agentes ou confirmação independente do resultado.
comentário editorial
Por que importa
Consequência provável: o controle mútuo pode tornar-se uma das abordagens para supervisionar grupos de agentes de IA. O sinal observável mais próximo é a publicação de detalhes do estudo e a verificação independente do resultado. Incerteza significativa está ligada à ausência, nos materiais disponíveis, de metodologia, dados quantitativos e condições do experimento.