Anthropic propôs um projeto de lei de segurança de IA, que prevê a possibilidade de bloquear um modelo se sua aplicação puder levar à morte de 50 ou mais pessoas. Segundo o TechCrunch AI; a descrição disponível baseia-se em metadados da publicação, e não no texto completo do documento.
Pelo mesmo descrição, as agências federais não poderão interromper o lançamento de um modelo sem a permissão de um juiz. Assim, a medida proposta envolve não apenas o limiar de dano potencial, mas também o procedimento de intervenção governamental.
O valor da iniciativa depende de como no documento são definidos o risco, a ligação entre o modelo e o dano, bem como as competências do tribunal e das agências. Esses detalhes não são revelados na fonte apresentada.
comentário editorial
Por que importa
Provável consequência — transferência de parte das decisões sobre a liberação de modelos de alto risco da esfera administrativa para o judiciário. O próximo sinal observado será a publicação do texto completo da iniciativa ou a reação oficial das autoridades. A incerteza significativa permanece devido à ausência de documento completo e de comentários primários.