El director general de Anthropic, Dario Amodei, se pronunció a favor de ralentizar el desarrollo de IA. Según TechCrunch AI y The Verge AI, describió un plan de tres etapas que debe dar a las empresas tiempo para crear salvaguardas y a los reguladores tiempo para evaluar los modelos.
El primer paso de Anthropic es otorgar a evaluadores externos, incluido METR, un acceso amplio a los modelos para verificar el cumplimiento de prácticas y compromisos de seguridad. En la descripción disponible se indica que este paso la empresa lo emprende por su cuenta.
En los materiales también se señala que Sam Altman y Amodei, al parecer, coinciden en la idea de 'reducir el ritmo'. Sin embargo, el contenido completo del plan, sus plazos y posibles compromisos de otros desarrolladores a partir de los datos proporcionados no están claros.
comentario editorial
Por qué importa
Consecuencia probable: mayor papel de evaluadores externos y la aparición de procedimientos más formales antes de liberar nuevos modelos. La siguiente señal observable sería la publicación de detalles de un plan de tres etapas o la confirmación de compromisos específicos por parte de otros desarrolladores. Persisten importantes incertidumbres por la limitada cantidad de materiales disponibles y la ausencia de una declaración inicial.