Según The Decoder, el modelo Claude eligió de forma autónoma la terapia génica, la región cerebral y las coordenadas de introducción para una operación en un ratón con epilepsia. Luego el sistema participó en la realización del procedimiento sin toma de decisiones por parte de un humano.
Durante la operación ocurrió un error de calibración, tras lo cual Claude se negó a continuar y no modificó su decisión pese a los intentos de persuadirla. El investigador principal Ocana-Santero calificó este caso como el primero en el que una IA eligió y administró un tratamiento a un mamífero vivo.
El significado de la historia es la demostración tanto de la elección autónoma como de las limitaciones: el sistema se detuvo al violar las condiciones del procedimiento. Sin embargo, la fuente se presenta solo como un breve resumen, por lo que no se conocen los detalles del experimento, los criterios de seguridad y sus resultados.
comentario editorial
Por qué importa
Valor probable de la historia: un mayor interés en los sistemas capaces de planificar procedimientos biomédicos de forma autónoma. La siguiente señal verificable será la publicación de datos primarios con la metodología, resultados y descripción del control de seguridad. La principal incertidumbre es la ausencia de un conjunto de investigación primaria y de detalles del experimento.