O pesquisador da Anthropic Jacob Coxon deixou a empresa, temendo que a IA descontrolada possa levar à extinção da humanidade. O colega dele, que continua na Anthropic, concordou com esses temores.
Especialistas em segurança, citados pela Scientific American AI, afirmam que os incidentes já documentados exigem maior supervisão, e não pânico. O texto não apresenta a lista desses incidentes nem detalha a posição do colega de Coxon.
A história é um exemplo de divergências sobre a avaliação de riscos de longo prazo da IA: parte dos especialistas vê esses riscos como uma ameaça de alcance existencial, enquanto outros ressaltam medidas práticas de controle. As informações disponíveis baseiam-se em uma única publicação independente e seus metadados, sem declarações primárias da Anthropic ou de Coxon.
comentário editorial
Por que importa
Provável consequência — o aumento do debate sobre como conciliar a avaliação das ameaças de longo prazo da IA com o controle dos riscos já observados. Sinais verificáveis a seguir incluirão comentários iniciais de Coxon, Anthropic ou informações adicionais sobre os incidentes mencionados. A incerteza substancial permanece devido à ausência de texto completo e de confirmação independente.