Anthropic a proposé un projet de loi sur la sécurité de l’IA qui prévoit la possibilité de bloquer un modèle si son utilisation pourrait entraîner la mort de 50 ou plus de personnes. Selon TechCrunch AI; la description disponible est basée sur les métadonnées de la publication et non sur le texte complet du document.

Selon la même description, les agences fédérales ne pourront pas arrêter la mise sur le marché d’un modèle sans l’autorisation d’un juge. Ainsi, la mesure proposée concerne non seulement le seuil de préjudice potentiel, mais aussi la procédure d’intervention étatique.

La valeur de l’initiative dépend de la manière dont le risque, la relation entre le modèle et le dommage, ainsi que les pouvoirs du tribunal et des agences, sont définis dans le document. Ces détails ne sont pas révélés dans la source présentée.