Bradley Amy, technischer Direktor von Pangram, behauptet, dass Nachtraining und Schutzmaßnahmen den ausdrücklichen Spielraum von Sprachmodellen deutlich einschränken. Dem veröffentlichten The Decoder-Material zufolge sind Basismodelle ohne solche Einschränkungen bereits in der Lage, viel vielfältiger zu schreiben.
Dies bedeutet, dass die Erkennbarkeit von Texten, die von einem Modell erstellt wurden, nicht damit zusammenhängt, dass das Modell grundsätzlich nicht menschenähnlich schreiben kann, sondern mit den Folgen von Post-Training und Sicherheits-/Einstellungsmaßnahmen. Für Nutzer ist dies wichtig bei der Bewertung von Qualität und Herkunft automatisch erzeugter Materialien.
Der verfügbare Beleg ist auf die Synopsis von The Decoder beschränkt und enthält keinen vollständigen Text der Veröffentlichung, keine Methodik oder unabhängige Überprüfung. Unklar ist, welche Modelle und Verfahren verglichen wurden und inwieweit die Schlussfolgerung auf moderne Systeme insgesamt anwendbar ist.
redaktioneller Kommentar
Warum es wichtig ist
Vermutliche Folge: Detektoren und Analysten der Textherkunft können nicht nur die Fähigkeiten des Modells berücksichtigen, sondern auch Effekte des Post-Trainings. Als nächstes beobachtbare Signale wird das Auftreten reproduzierbarer Vergleiche zwischen Basis- und nachtrainierten Modellen erwartet. Wesentliche Unsicherheit ergibt sich aus dem Fehlen von Methodik, Daten und unabhängiger Überprüfung im Paket.