O pesquisador em saída da Anthropic, Jacob Coxon, alertou a CNN de que uma IA autoaperfeiçoável representa uma ameaça existencial para a humanidade. O tema também apareceu na Fox News e recebeu atenção de políticos americanos e de Joe Rogan.
Segundo dados do The Decoder, especialistas em segurança da Anthropic e da OpenAI compartilham as visões de Coxon. No entanto, a fonte observa que interesses culturais e financeiros também atuam em torno de tais alertas.
Para o debate público, isso significa a transição da disputa sobre a segurança de longo prazo da IA de um círculo restrito de especialistas para as mídias de massa. Contudo, a afirmação sobre uma possível extinção da humanidade continua sendo uma posição extrema e contestada, e o material apresentado não contém confirmação independente da avaliação de risco.
comentário editorial
Por que importa
A provável consequência imediata é a maior expansão dos debates públicos sobre a segurança da IA e os motivos de tais alertas. O próximo sinal observável será o surgimento de novas declarações públicas ou análises por parte de especialistas e políticos. Uma incerteza significativa está relacionada à ausência, no pacote, de materiais primários e de verificação independente das estimativas apresentadas.