OpenAI fechou a equipe Preparedness, que avaliava se seus próprios modelos eram capazes de gerar riscos catastróficos. Segundo o The Decoder, suas tarefas foram distribuídas entre unidades já existentes.
De acordo com o mesmo veículo, após as mudanças a empresa viu a saída de alguns funcionários que lidavam com segurança. Dentro da OpenAI, conforme alegam, cresce a preocupação de que a empresa não está fazendo o suficiente pela segurança.
O significado da notícia está na mudança da estrutura organizacional do setor responsável pela avaliação de riscos potencialmente catastróficos. Entretanto, a fonte é apresentada apenas com metadados e um resumo da publicação, sem confirmação independente ou detalhes sobre os novos responsáveis por essas tarefas.
comentário editorial
Por que importa
Conseqüência provável — maior atenção a quem agora é responsável pelas avaliações de riscos catastróficos e de como os resultados são publicados. O próximo sinal observado será uma declaração da OpenAI ou a descrição de novos departamentos responsáveis. Uma incerteza substancial permanece: o material disponível baseia-se no resumo de uma única publicação e não fornece detalhes sobre a reorganização interna.