L’entreprise d’IA a déclaré que son chatbot ne pousserait pas le suicide, et une plateforme sociale a compliqué l’achat de fentanyl par les enfants. C’est ce qui est indiqué dans l’article de MIT Technology Review AI.
L’auteur classe ces mesures comme des protections importantes qui, selon lui, auraient dû exister plus tôt. Le même temps, la source ne précise pas quelles technologies ou procédures les entreprises utilisaient.
Le matériel déplace l’attention des scénarios catastrophiques rares vers les dommages quotidiens et les limites de base influençant la sécurité des utilisateurs. Cependant, la vérification accessible se limite à un synopsis de la page, et non au texte intégral ou à une vérification indépendante des affirmations.
commentaire éditorial
Pourquoi c’est important
Conséquence probable pour l’industrie — plus d’attention aux limites de protection concrètes dans des scénarios d’utilisateur ordinaires. Le prochain signal observé sera les noms des mesures dévoilés, les métriques de leur efficacité et les évaluations indépendantes. Une incertitude substantielle demeure : dans la source disponible, il n’y a pas de détails sur la mise en œuvre et la vérification des résultats.