El director ejecutivo de Anthropic, Dario Amodei, esbozó un plan para ralentizar el avance de los sistemas avanzados de inteligencia artificial. Según informa TechCrunch AI, el plan se basa en evaluadores independientes de seguridad y en la coordinación entre laboratorios de IA en países democráticos.

La propuesta surgió una semana después de que un investigador de Anthropic advirtiera sobre un posible escenario catastrófico, lo cual atrajo la atención de la industria de la IA. Según la fuente, la iniciativa ya cuenta con el apoyo de algunos representantes del sector, pero también ha generado críticas por parte del director ejecutivo de Nvidia, Jensen Huang.

La importancia de la iniciativa radica en el intento de alinear el ritmo de desarrollo de los sistemas de propósito general con una verificación independiente de riesgos. Sin embargo, el material disponible es solo un sinopsis editorial de TechCrunch AI, por lo que los detalles del plan, la composición de sus partidarios y el contenido de las objeciones de Huang permanecen sin revelar.