
A cientista-chefe do AI Now Institute e ex-engenheira de segurança da OpenAI, Heidy Khlaaf, declarou que as afirmações científicas devem permitir testes de veracidade ou falsidade. Foi assim que ela comentou os debates sobre se a IA poderia levar à extinção de toda a humanidade.
Segundo Khlaaf, o requisito de verificabilidade é necessário para que os argumentos científicos não assumam o caráter de crenças religiosas. Na descrição disponível do material, não há detalhes adicionais sobre sistemas específicos, cenários ou pesquisas realizadas.
O significado desta declaração reside no apelo para separar avaliações de risco verificáveis de afirmações que não podem ser confirmadas ou refutadas. No entanto, o pacote apresentado contém apenas um sinopse da publicação do AI Now Institute e não oferece confirmação independente da posição ou de sua validação empírica.
comentário editorial
Por que importa
A provável consequência é o aumento das exigências quanto à formulação e comprovação de alegações sobre riscos extremos de IA. O próximo sinal observável seriam métodos de teste publicados, resultados de pesquisas ou avaliações independentes de cenários específicos. Incerteza substancial permanece: na fonte, está disponível apenas um breve sinopse sem tais detalhes.