Das KI-Unternehmen hat erklärt, dass sein Chatbot suizidfördernde Inhalte nicht unterstützen wird, und eine Social-Plattform habe den Kauf von Fentanyl für Kinder erschwert. Das geht aus dem Material von MIT Technology Review AI hervor.
Der Autor zählt solche Schritte zu wichtigen Schutzmaßnahmen, die seiner Ansicht nach schon früher existieren hätten müssen. Der Quelle zufolge werden jedoch keine konkreten Technologien oder Verfahren genannt, die die Unternehmen eingesetzt haben.
Der Artikel verschiebt die Aufmerksamkeit von seltenen katastrophalen Szenarien auf alltägliche Schäden und grundlegende Beschränkungen, die die Sicherheit der Nutzer beeinflussen. Allerdings ist der verfügbare Beleg lediglich die Seitenzusammenfassung und kein vollständiger Text oder eine unabhängige Prüfung der Aussagen.
redaktioneller Kommentar
Warum es wichtig ist
Vermutliche Folge für die Branche ist eine stärkere Fokussierung auf konkrete Schutzmaßnahmen in gängigen Nutzungsszenarien. Als nächstes beobachtete Signalität werden bekannt gewordene Namen der Maßnahmen, deren Wirksamkeitsmetriken und unabhängige Bewertungen sein. Wesentliche Unsicherheit bleibt bestehen: Im verfügbaren Material gibt es keine Details zur Implementierung oder Bestätigung der Ergebnisse.