Exécution de notre outil de synthèse sur un nouvel article

Résumé : Große Sprachmodelle finden zunehmend Anwendung in Bereichen, in denen sachliche Korrektheit unverzichtbar ist. Selbst innerhalb von Retrieval-Augmented-Generation(RAG) Pipelines erzeugen sie jedoch weiterhin Aussagen, die der bereitgestellte Kontext nicht deckt. Verfügbare Modelle zur Halluzinationserkennung setzen erst nach Abschlussder Generierung an und markieren fehlerhafte Passagen somit erst im Nachhinein.Die vorliegende Arbeit untersucht, wie sich diese Lücke zwischen retrospektiver Erkennung und echtzeitfähiger Prävention schließen lässt. Dazu wird ein logit-basierter Mechanismus in die Generierungsschleife der Hugging-Face Bibliothek eingebettet, der Kandidatentoken bereits während des Dekodierens prüft und nicht unterstützte Token unterdrückt, bevor die Dekodierungsstrategie das nächste Token festlegt. Ergänzend wird mit lettuceprevent-ettin-decoder-68m-en ein eigens trainierter Detektor vorgestellt, dessen kausale Decoder-Architektur auf den schrittweisen, von links nach rechts verlaufenden Charakter der Textgenerierung abgestimmt ist.Die Untersuchung stützt sich auf den RAGTruth Datensatz und drei Sprachmodelle. Eingepaarter Experimentenaufbau stellt jedem Prompt einen unveränderten Basislauf und einen Präventionslauf gegenüber. Auf der regex-verifizierbaren Unterklasse numerischer Halluzinationen verringert der Mechanismus das Volumen halluzinierter Zahlen um 51,9 %bis 64,8 % bei einem Laufzeit-Overhead im einstelligen Prozentbereich. Im operativen Wirkungsbereich des Mechanismus steigt die Reduktion auf 86,0 % bei Mistral-7B, dem in numerischer Hinsicht halluzinationsanfälligsten Modell des Panels. Im Detektorvergleich erreicht der Decoder lettuceprevent den höchsten F1-Wert und den höchsten Recall auf der Halluzinationsklasse sowie zugleich die geringste kumulierte Laufzeit aller Kandidaten.Die vollständige Präventionspipeline für faktische Halluzinationen ergibt ein uneinheitlicheres Bild, da eine statistisch signifikante Reduktion nur für Llama-2-7B nachweisbar ist, während die Laufzeit auf jedem Sprachmodell in den dreistelligen Prozentbereich steigt. Die Ergebnisse zeigen, dass eine Intervention auf Logit-Ebene eine ganze Klasse von Halluzinationen unterdrücken kann, ohne das Sprachmodell zu verändern und dass die streaming-orientierte Decoder-Architektur encoder-basierten Ansätzen im Echtzeit-scenario überlegen ist. Eine breit angelegte faktische Prävention bleibt vorerst durch Detektorqualität, Tokenizer-Ausrichtung, Modell-Variabilität und Laufzeitkosten begrenzt.