AI Now Institute publicó material sobre el lado científico del debate sobre las amenazas de la inteligencia artificial. En el centro de la síntesis está la posición de Heidi Klaaf: baja fiabilidad y precisión de la IA en condiciones críticamente importantes con riesgo para la vida generan más preocupación que los escenarios de la destrucción de la humanidad.
Las amenazas de extinción total de la humanidad Klaaf las caracterizó como sensacionalismo. La fuente no aporta en el resumen disponible indicadores concretos de precisión, ejemplos de sistemas o resultados de investigaciones independientes.
El sentido práctico de la discusión es verificar cuán segura es la IA en situaciones críticas reales, y no solo discutir escenarios límite. Sin embargo, los datos existentes no son suficientes para evaluar el alcance del problema o comparar diferentes tipos de modelos.
comentario editorial
Por qué importa
Una consecuencia probable de tal postura es aumentar la atención a la verificación de la exactitud y fiabilidad de la IA antes de su aplicación en esferas críticas. La siguiente señal observada serán datos concretos, ejemplos de sistemas y evaluaciones independientes a partir del material completo u otras fuentes. Sigue existiendo una gran incertidumbre debido a que solo está disponible una publicación sinóptica.