La empresa de IA afirmó que su chatbot no fomentará el suicidio, y la plataforma social dificultó a los niños la compra de fentanilo. Así se señala en el material de MIT Technology Review AI.
El autor considera que estas medidas son medidas de protección importantes que, en su opinión, deberían haber existido antes. Sin embargo, la fuente no informa qué tecnologías o procedimientos exactos utilizaron las empresas.
El material desplaza la atención de escenarios catastróficos raros a daños cotidianos y limitaciones básicas que afectan la seguridad de los usuarios. Sin embargo, la corroboración disponible se limita a la sinopsis de la página, y no al texto completo ni a una verificación independiente de las afirmaciones.
comentario editorial
Por qué importa
La consecuencia probable para la industria es prestar más atención a las restricciones de protección específicas en escenarios de uso cotidiano. Las señales siguientes serán los nombres de las medidas, métricas de su eficacia y evaluaciones independientes. Permanece una incertidumbre sustancial: el fuente disponible no ofrece detalles de implementación ni verificación de resultados.