O CEO da Anthropic, Dario Amodei, pediu a desaceleração do desenvolvimento de IA. Segundo TechCrunch AI e The Verge AI, ele descreveu um plano em três etapas que deveria dar às empresas tempo para criar salvaguardas e aos reguladores tempo para avaliar os modelos.
A primeira etapa, segundo a Anthropic, consiste em fornecer, a avaliadores externos, incluindo a METR, amplo acesso aos modelos para verificar a conformidade com práticas e compromissos de segurança. No relato disponível, afirma-se que essa etapa é uma ação autônoma da empresa.
Nos materiais também é observado que Sam Altman e Amodei, aparentemente, concordam com a ideia de “reduzir o ritmo”. No entanto, o conteúdo completo do plano, seus prazos e compromissos potenciais de outros desenvolvedores, a partir dos dados fornecidos, não estão claros.
comentário editorial
Por que importa
Provável consequência — aumento do papel de avaliadores externos e surgimento de procedimentos mais formais antes do lançamento de novos modelos. O próximo sinal observado será a publicação de detalhes do plano em três etapas ou a confirmação de compromissos específicos por parte de outros desenvolvedores. A incerteza substancial permanece devido ao volume limitado de materiais disponíveis e à ausência de declaração primária.