O CEO da Anthropic, Dario Amodei, delineou um plano para desacelerar o avanço de sistemas de inteligência artificial de ponta. Segundo a TechCrunch AI, o plano baseia-se em avaliadores independentes de segurança e na coordenação entre laboratórios de IA em países democráticos.
A proposta surgiu uma semana após um alerta de um pesquisador da Anthropic sobre um possível cenário catastrófico, que chamou a atenção da indústria de IA. De acordo com a fonte, a iniciativa já recebeu apoio de alguns representantes do setor, mas também gerou críticas do CEO da Nvidia, Jensen Huang.
O significado da iniciativa reside na tentativa de alinhar o ritmo de desenvolvimento de sistemas de propósito geral com uma verificação independente de riscos. No entanto, o material disponível consiste apenas em um sinopse editorial da TechCrunch AI; portanto, os detalhes do plano, a composição de seus apoiadores e o teor das objeções de Huang permanecem não divulgados.
comentário editorial
Por que importa
Uma consequência provável é o aumento do debate sobre auditoria independente e coordenação entre desenvolvedores de sistemas de IA de ponta. O sinal observável mais próximo seria a publicação de critérios específicos de avaliação ou de uma lista de participantes da iniciativa. Uma incerteza significativa permanece devido à falta do texto completo da proposta e de comentários primários das partes envolvidas.