IEEE Spectrum AI verband die Verbreitung maschinell erstellter Inhalte in sozialen Netzwerken mit dem Vertrau- ensproblem. In dem beschriebenen Autorensynopsis war der Anteil der Inhalte, die von sorgfältigen Nutzern als von KI erstellt erkannt wurden, etwa die Hälfte des Feeds.
Nach dieser Beschreibung verbreiteten sich einige solcher Publikationen unbewusst durch Menschen, andere absichtlich, zur Unterhaltung oder zur Verbreitung von Verwirrung. Im Beitrag wird auch GPT-3 als Beispiel für einen Chatbot genannt, der sicher plausible, aber falsche Antworten gab.
Der in einem Kurzsynopsis-Format vorgelegte Metadaten ist keine unabhängige Bestätigung weiterreichender Schlüsse; es ist unklar, wie der Anteil des Contents gemessen wurde und wie repräsentativ die Beobachtung ist.
redaktioneller Kommentar
Warum es wichtig ist
Wahrscheinliche Folge — den Nutzern wird es wichtiger, die Herkunft von Publikationen zu überprüfen, aber die Quelle bestätigt weder das Ausmaß des Trends noch seine Dynamik. Als nächstes beobachtbare Signale werden unabhängige Messungen des Anteils maschinell erzeugter Inhalte und Daten zur Genauigkeit ihrer Erkennung sein. Wesentliche Unsicherheit besteht darin, dass die Schlussfolgerungen auf einer einzigen Autorenbeobachtung und der Synopsis der Metadaten basieren.