El investigador de Anthropic, Jacob Coxon, dejó la empresa debido a preocupaciones de que una IA incontrolada podría conducir a la extinción de la humanidad. Su colega, que continúa trabajando en Anthropic, coincidió con sus temores.

Los expertos en seguridad citados por Scientific American AI sostienen que los incidentes ya registrados requieren fortalecer la vigilancia en lugar de fomentar el pánico. La fuente no presenta en el material suministrado una lista de dichos incidentes ni revela detalles de la posición de la colega de Coxon.

La historia es importante como ejemplo de desacuerdos sobre la evaluación de los riesgos a largo plazo de la IA: parte de los especialistas los ve como una amenaza de alcance existencial, mientras que otros enfatizan medidas de control prácticas. La información disponible se basa en una única publicación independiente y sus metadatos, sin declaraciones primarias de Anthropic o de Coxon.