
Selon The Decoder, le modèle Claude a autonomement choisi une thérapie génique, une région du cerveau et les coordonnées d'injection pour une opération sur une souris atteinte d'épilepsie. Puis le système a participé à la procédure sans prise de décision humaine.
Pendant l'opération, une erreur de calibrage s'est produite, après quoi Claude a refusé de continuer et n'a pas modifié sa décision après les tentatives de persuasion. Le chercheur principal Ocana-Santero a qualifié ce cas de premier où une IA choisit et administre elle-même un traitement à un mammifère vivant.
La signification de l'histoire réside dans la démonstration à la fois d'un choix autonome et des limitations: le système s'est arrêté lorsque les conditions de la procédure n'étaient pas respectées. Cependant, la source est présentée uniquement sous forme de synopsis, donc les détails de l'expérience, les critères de sécurité et les résultats restent inconnus.
commentaire éditorial
Pourquoi c’est important
La signification probable de l'histoire est l'accentuation de l'intérêt pour les systèmes capables de planifier eux-mêmes des procédures biomédicales. Le prochain signal vérifiable sera la publication des données primaires avec la méthodologie, les résultats et la description du contrôle de la sécurité. L'incertitude majeure est l'absence dans le paquet d'étude primaire et les détails de l'expérience.