Was bei gewöhnlichen Textprüfungen unbemerkt bleibt

Eine Zeile enthält mehrere Prüfgegenstände

Betrachten wir den Satz „Der Becher mit 500 ml Fassungsvermögen hält Getränke sechs Stunden heiß und ist spülmaschinengeeignet“. Darin stecken mindestens drei Aussagen. Fassungsvermögen, Temperaturhaltung und Pflege benötigen jeweils eine eigene Entscheidung. Ein pauschales „im Wesentlichen richtig“ würde die Unterschiede verdecken.

Das fiktive T500-Dossier erlaubt die Reinigung des abnehmbaren Deckels von Hand, enthält aber keine Angaben zur Spülmaschine. Im Protokoll stehen 450 ml Getränk mit anfangs 95 °C, der während der gesamten sechs Stunden geschlossene Becher, eine Lufttemperatur von +20 °C und eine Endtemperatur von mindestens 60 °C. Damit sind die nominellen 500 ml belegt; das uneingeschränkte Versprechen über sechs Stunden muss korrigiert werden, und die Spülmaschinenerlaubnis ist unbelegt.

Der Prüfgegenstand sollte zusammen mit seiner Position im Text und der Dokumentversion gespeichert werden. Sonst ist ein Hinweis wie „Im zweiten Satz fehlen die Bedingungen“ nach einer Umstellung der Absätze nicht mehr eindeutig. Für eine inhaltliche Prüfung sind außerdem das gewählte Produkt, die Dossierversion, die Frage und die Bewertungsregeln nötig.

Das Urteil über eine Aussage unterscheidet sich vom Urteil über eine Seite. Eine Seite mit einer korrekten Zahl kann wichtige Kompatibilitätsfragen offenlassen. Die Prüfung vorhandener Aussagen entdeckt nicht sämtliche fehlenden Inhalte. Dafür müssen die Fragen und Prioritäten der Produktseite gesondert geprüft werden.

Was die einzelnen Prüfungen tatsächlich feststellen

Eine Formatprüfung stellt fest, ob Daten angenommen werden können: Pflichtfelder sind vorhanden, Datentypen und Länge stimmen oder die Auszeichnung ist zulässig. Eine Sprachprüfung findet Tippfehler, Widersprüchlichkeiten und unklare Bezüge. Eine Belegprüfung gleicht die Aussage mit den anwendbaren Angaben ab. Jede Prüfung kann nützlich sein; ihr Ergebnis darf jedoch keiner anderen zugeschrieben werden.

Auch eine wörtliche Vorgabe muss präzise definiert sein. „Der Text muss die Bezeichnung T500 enthalten“ und „Der Text muss T500 als eigenständiges Wort enthalten“ verlangen unterschiedliche Suchverfahren. Vorab ist festzulegen, ob Groß- und Kleinschreibung, Wortgrenzen, Zeilenumbrüche und geschützte Leerzeichen berücksichtigt werden. Normalisiert der Prüfer die Zeichenfolge eigenmächtig, kann er die Vorgabe des exakten Abgleichs verletzen.

Eine Sprachprüfung kann eine Verneinung erkennen, gewinnt daraus aber keinen Fakt über das Produkt. „Der Deckel darf nicht in der Spülmaschine gereinigt werden“ ist grammatisch korrekt. Nach dem vorhandenen Dossier ist das Verbot ebenso unbegründet wie die Erlaubnis: Fehlende Angaben wurden in eine bestimmte Regel verwandelt.

Für eine gefundene Stelle sollten getrennte Ergebnisse festgehalten werden: Verhältnis zum Beleg, Anwendbarkeit auf das Produkt, Erhalt der Bedingungen und ausreichende Beantwortung der Frage. Eine unzureichende Beleggrundlage bedeutet nicht, dass die Aussage in der Realität zwingend falsch ist. Für eine Veröffentlichung kann sie dennoch nicht ausreichen. Der nächste Schritt ist dann eine Klärung oder engere Aussage, nicht die automatische Umkehrung ins Gegenteil.

Schließlich wird die ausgelieferte Seite geprüft. Das Attribut „Masse — 280 g“ und die Erläuterung „leerer Becher“ können in unterschiedlichen Bereichen oder Varianten landen. Ein korrekter Ausgangsabsatz garantiert nach der Übermittlung keine korrekte Darstellung.

Ein Prüfhinweis muss die Entscheidung nachvollziehbar machen

Vergleichen wir zwei Prüfurteile. „Zu gewagtes Versprechen, Bewertung 7/10“ erklärt nicht, welche Aussage welche Regel verletzt. „Bei ‚sechs Stunden warm‘ fehlen die Prüfbedingungen; das Protokoll betrifft 450 ml, anfangs 95 °C, Luft mit +20 °C und einen geschlossenen Becher; am Ende mindestens 60 °C“ macht den Gegenstand des Hinweises deutlich.

Im zweiten Fall lässt sich der Beleg öffnen und prüfen, ob die Zusätze tatsächlich wesentlich sind und nicht bereits in der Nähe stehen. Auch der Prüfer kann Kontext übersehen. Deshalb sollte der Eintrag das Zitat, die verwendete Dossierstelle, die Art der Abweichung und die vorgeschlagene Maßnahme enthalten. Ein Link auf ein umfangreiches Dokument ohne die relevante Stelle erschwert diese Arbeit.

Der Schweregrad wird gesondert bestimmt. Eine falsche Variante, unbelegte Kompatibilität oder der Verlust einer für die Eignung maßgeblichen Bedingung können nach dem gewählten Bewertungsraster die Veröffentlichung verhindern. Ein wiederholter Nutzen oder ein schwerfälliger Satz erfordern meist eine andere redaktionelle Bearbeitung. Eine hohe Stilbewertung darf eine festgestellte Sperre nicht aufheben.

Eine Gesamtbewertung kann als ergänzender Überblick dienen, sofern ihre Zusammensetzung bekannt ist. Für die Freigabe braucht es die konkreten Verstöße und Zulassungsregeln. Andernfalls gleichen mehrere gelungene Absätze im Durchschnitt jene Aussage aus, die Käufer zu einem ungeeigneten Produkt führt.

Der Modellprüfer wird selbst zum Prüfgegenstand

Ein Modell kann Abweichungen zwischen Text und Dossier suchen. Eine ausführliche Begründung zeigt aber noch nicht, dass die Entscheidung richtig ist. Das Modell kann die falsche Stelle wählen, eine Einschränkung übersehen oder seinen Hinweis mit einer Angabe begründen, die in den bereitgestellten Unterlagen fehlt.

Die Studie von Zheng und Kollegen zu LLM-as-a-Judge untersuchte positionsabhängige Präferenzen und die Neigung, unter bestimmten Bedingungen unnötig lange Antworten zu bevorzugen. Bei der Bewertung zweier Fassungen lässt sich ihre Reihenfolge vertauschen, um die Stabilität des Urteils zu prüfen. Diese Stabilität ist eine hilfreiche Kontrolle, belegt für sich genommen aber keine Richtigkeit.

Für die Prüfung von Produkttexten ist ein eigener Satz von Fällen nötig. Dazu gehören korrekte kurze Antworten, ausführliche Antworten mit Fehlern, zulässige Berechnungen, unbekannte Parameter und ähnliche Zahlen in unterschiedlichen Rollen. Besteht der Satz nur aus groben Erfindungen, sagt ein Erfolg wenig darüber aus, ob verlorene Bedingungen erkannt werden.

Geprüft wird eine bestimmte Konfiguration: Modell, Anweisung, verfügbare Dokumente, Suchverfahren und Ausgabeformat. Wird eines dieser Elemente ersetzt, können sich die Entscheidungen ändern. Die allgemeine Modellbezeichnung beschreibt nicht den gesamten Prozess.

Auch die menschliche Annotation braucht ein Bewertungsraster. Unabhängige Redakteure entscheiden zunächst nach denselben Regeln und klären anschließend Abweichungen. Verstehen sie unter einem Fehler Unterschiedliches, darf ein Mittelwert den Streit nicht verdecken. Manchmal muss der Auftrag präzisiert oder ein Fall als strittig gekennzeichnet werden, statt willkürlich ein Referenzurteil festzulegen.

Zwei Arten, bei der Fehlersuche falschzuliegen

Als positive Klasse definieren wir „Die Aussage enthält nach dem festgelegten Bewertungsraster einen Fehler“. Der Prüfer meldet diesen Fehler oder gibt kein Signal aus. So lassen sich übersehene Fehler und Fehlalarme getrennt zählen. Die Einheit ist hier eine Aussage; das Referenzurteil bezieht sich auf das vorgegebene Dossier und die Regeln, nicht auf die vollständige Wahrheit über das Produkt.

Nach diesem Raster ist eine fehlende Angabe im Dossier für sich genommen kein Beschreibungsfehler. Ein Fehler entsteht, wenn der Text aus dieser Lücke eine eindeutige Erlaubnis, ein Verbot oder ein anderes unbelegtes Versprechen macht.

Wir legen einen fiktiven Satz von 20 Aussagen fest: Acht enthalten laut Referenzurteil einen Fehler, zwölf sind korrekt. Als erfundenes Prüfergebnis werden sechs der acht Fehler erkannt und drei korrekte Aussagen fälschlich beanstandet. Zwei Fehler bleiben ohne Signal, neun korrekte Aussagen ohne unberechtigten Hinweis. Die Zahlen dienen nur der Rechenerklärung; ein Test fand nicht statt. In diesen zwanzig Lehrfällen gibt es keine Urteilsverweigerungen.

Der Anteil berechtigter Meldungen, Precision, beträgt 6 / (6 + 3) ≈ 66,7 %. Sechs von neun Hinweisen sind begründet. Die Erkennungsquote, Recall, beträgt 6 / (6 + 2) = 75 %: Sechs von acht Fehlern wurden gefunden. Das sind die üblichen Definitionen von Klassifikationskennzahlen, angewandt auf die Erkennung von Verstößen.

Der Gesamtanteil richtiger Entscheidungen beträgt (6 + 9) / 20 = 75 %. Er zeigt nicht, welche Fehler übrig bleiben. Legen wir fest, dass der Satz genau zwei kritische Fehler enthält und beide übersehen wurden, beträgt der Recall für diese kritische Gruppe 0 von 2. Neben den Gesamtwerten sind deshalb Zahlen nach Fehlerarten und Folgen erforderlich.

Bei einem Nenner von null ist die betreffende Kennzahl nicht definiert. Gibt der Prüfer gar keine Hinweise aus, darf ihm nicht stillschweigend eine Precision von 100 % zugesprochen werden. Ein Ausschnitt ohne Referenzfehler bewertet nicht deren Erkennung. Die Ausgangszahlen sollten neben den Anteilen veröffentlicht werden.

„Das Dossier enthält nicht genügend Angaben“ kann ein korrektes Prüfurteil sein. Als Urteilsverweigerung gilt hier, dass der Prüfer keine nach dem Raster vorgesehene Entscheidung treffen konnte. Dieses Ergebnis sollte gesondert erfasst werden. Leitet das System schwierige Fälle zur manuellen Bearbeitung weiter, müssen deren Zahl und Anteil sichtbar bleiben. Eine Berechnung nur anhand der verbleibenden einfachen Fälle würde sonst die Leistungsfähigkeit des Gesamtprozesses überzeichnen.

Was eine Freigabe zur Veröffentlichung bedeutet

Für die T500 lassen sich die Entscheidungen ohne Durchschnittsnote festhalten: Nominelle 500 ml sind akzeptiert; nominelle 450 ml müssen korrigiert werden; das Prüfergebnis ist zusammen mit seinen Bedingungen zu prüfen; die Spülmaschinenaussage muss geklärt werden. Bei wichtigen unbeantworteten Fragen werden Daten- oder Inhaltslücken gesondert erfasst.

Die Freigabe verknüpft die Prüfergebnisse mit dem Zulassungsraster. Sie betrifft eine bestimmte Textversion, die betrachteten Belege und offene Fragen. „Von KI geprüft“ vermittelt diese Informationen nicht. Eine menschliche Unterschrift ohne festgehaltene Grundlagen lässt dasselbe Problem bestehen.

In einem kleinen Satz lässt sich jeder Fall einzeln untersuchen. Bei großen Mengen hilft automatische Prüfung, verdächtige Stellen auszuwählen, während manuelle Stichproben übersehene Fehler unter den akzeptierten Ergebnissen aufdecken. Allein die abgelehnten Texte zu betrachten, zeigt nicht, wie viele Fehler unbemerkt durchgegangen sind.

Die Freigabe gilt für die geprüfte Fassung und die zugrunde liegenden Daten. Nach einer Kürzung oder Quellenaktualisierung muss der betroffene Teil des Urteils neu betrachtet werden. Selbst der präzise Hinweis „Bedingung wieder ergänzen“ garantiert keine gelungene Korrektur: Die Ergänzung kann einen Widerspruch erzeugen, während eine benachbarte Kürzung eine andere Einschränkung entfernt.