
Segundo The Decoder, o modelo Claude escolheu autonomamente a terapia gênica, a área do cérebro e as coordenadas de introdução para uma operação em um camundongo com epilepsia. Em seguida, o sistema participou da realização do procedimento sem tomada de decisão humana.
Durante a operação ocorreu um erro de calibração, após o qual Claude se recusou a continuar e não alterou a decisão após tentativas de convencê-la. O pesquisador principal Ocana-Santero classificou esse caso como o primeiro em que a IA escolheu sozinha o tratamento e o entregou a um mamífero vivo.
O significado da história está na demonstração tanto da autonomia na escolha quanto das limitações: o sistema parou ao violar as condições do procedimento. No entanto, a fonte é apresentada apenas com uma sinopse, portanto não são conhecidos os detalhes do experimento, critérios de segurança e seus resultados.
comentário editorial
Por que importa
Provável valor da história — aumentar o interesse em sistemas capazes de planejar procedimentos biomédicos de forma autônoma. O próximo sinal verificável será a publicação de dados primários com a metodologia, resultados e descrição do controle de segurança. A maior incerteza é a ausência no conjunto de pesquisa primária e detalhes do experimento.