Anthropic presentó un proyecto de ley de seguridad de IA, que prevé la posibilidad de bloquear un modelo si su uso podría llevar a la muerte de 50 o más personas. Así lo informa TechCrunch AI; la descripción disponible se basa en los metadatos de la publicación, y no en el texto completo del documento.
Según la misma descripción, las agencias federales no podrán detener la lanzamiento de un modelo sin la aprobación de un juez. Por lo tanto, la medida propuesta abarca no solo el umbral de daño potencial, sino también el procedimiento de intervención estatal.
El valor de la iniciativa depende de cómo se definan en el documento el riesgo, la relación entre el modelo y el daño, así como las competencias del tribunal y de las agencias. Estos detalles no se revelan en la fuente presentada.
comentario editorial
Por qué importa
Posible consecuencia: trasladar parte de las decisiones sobre la emisión de modelos de alto riesgo desde el plano administrativo al judicial. La próxima señal observable será la publicación del texto completo de la iniciativa o su reacción oficial por parte de las autoridades. Persisten incertidumbres sustanciales debido a la ausencia del documento completo y de comentarios primarios.