Ancrer les réponses dans les passages récupérés : étude des hallucinations dans les modèles de langage augmentés par la recherche

Why Retrieval-Augmented Generation Fails: A Graph Perspective

Cet article étudie directement comment les preuves récupérées influencent la génération et pourquoi un système RAG échoue. Son analyse interne des circuits complète l'attribution des erreurs proposée dans le brouillon.

Comment vous positionner : À citer pour l'analyse de l'utilisation des preuves par le générateur, en distinguant l'approche par graphes internes du diagnostic par entaillement et erreurs d'entité du présent travail.

D’après son résumé : We present a model-internal study of retrieval-augmented generation that examines how retrieved evidence influences answer generation.

Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection

Self-RAG traite la pertinence des passages et l'ancrage des réponses au moyen d'une récupération adaptative et d'une autocritique. Il propose ainsi une réponse méthodologique aux défaillances que le brouillon cherche à mesurer.

Comment vous positionner : À citer comme méthode concurrente améliorant la factualité par récupération adaptative, alors que le présent travail évalue un pipeline dense–BART et isole les erreurs d'entité.

D’après son résumé : indiscriminately retrieving and incorporating a fixed number of retrieved passages, regardless of whether retrieval is necessary, or passages are relevant

Retrieval Error or Generation Error? Hierarchical Failure Attribution and Evidence-Constrained Correction for Legal LLM-RAG

Ce travail sépare explicitement les échecs de récupération, de sélection des preuves et de réalisation de la réponse. Il rejoint donc directement la question d'attribution des erreurs du brouillon, dans un domaine juridique.

Comment vous positionner : À citer pour l'attribution hiérarchique des erreurs RAG, en soulignant que le présent travail porte sur les questions ouvertes et les passages concernant une mauvaise entité.

D’après son résumé : Legal retrieval-augmented generation (RAG) can fail because the supporting authority was not retrieved, because retrieved authority was not selected as evidence

Leveraging Passage Retrieval with Generative Models for Open Domain Question Answering

Cette étude évalue déjà le bénéfice de passages récupérés pour des générateurs en questions-réponses ouvertes, notamment sur Natural Questions. Elle constitue un précédent direct, même si son résumé met l'accent sur la performance plutôt que sur les phrases non étayées.

Comment vous positionner : À citer pour les gains de la génération augmentée par passages en questions-réponses ouvertes, tandis que le présent travail mesure l'entaillement des réponses et la sensibilité aux erreurs d'entité.

D’après son résumé : we investigate how much these models can benefit from retrieving text passages, potentially containing evidence.

Disentangling Faithfulness Hallucinations in Retrieval-Augmented Generation: A Systematic Benchmark and Analysis

Cette étude évalue explicitement la fidélité des systèmes RAG et dissocie les erreurs de récupération de celles de génération. Son objectif recoupe directement celui du brouillon, avec d'autres modèles et jeux de données.

Comment vous positionner : À citer pour l'analyse expérimentale des interactions récupération–génération, en distinguant l'étude dense–BART sur Natural Questions et son diagnostic des erreurs d'entité.

D’après son résumé : By disentangling retrieval and generation errors, we characterize how different pipeline components contribute to hallucinations in RAG systems.

Hybrid Retrieval for Hallucination Mitigation in Large Language Models: A Comparative Analysis

Cette comparaison relie directement la qualité de récupération à la réduction des hallucinations et oppose récupération sparse, dense et hybride. Elle rejoint la conclusion du brouillon selon laquelle les bénéfices du RAG dépendent des preuves récupérées.

Comment vous positionner : À citer pour le lien empirique entre pertinence des passages et hallucinations, tandis que le présent travail compare avec l'absence de récupération et cible les confusions d'entités.

D’après son résumé : This study evaluates the relationship between retriever effectiveness and hallucination reduction in LLMs using three retrieval approaches

Facet-Level Tracing of Evidence Uncertainty and Hallucination in RAG

Ce préprint distingue explicitement l’insuffisance des preuves de leur mauvaise utilisation par le générateur, ce qui recoupe la question centrale du manuscrit. Il combine également pertinence documentaire et inférence en langue naturelle pour diagnostiquer l’ancrage des réponses.

Comment vous positionner : À citer pour le diagnostic des erreurs de récupération et de génération ; le présent travail privilégie une mesure par phrase et une analyse des confusions d’entités.

D’après son résumé : Comparing these modes enables thorough analysis of retrieval-generation misalignment, defined as cases where relevant evidence is retrieved but not correctly integrated during generation.

When Attention Escapes: Diagnosing and Mitigating Hallucination in Retrieval-Augmented Generation

Cet article étudie les hallucinations dues à une utilisation insuffisante du contexte récupéré et les relie au routage de l’attention. Il apporte donc une explication mécaniste à l’une des sources d’erreur que le manuscrit cherche à distinguer.

Comment vous positionner : À citer pour les défaillances d’exploitation des passages ; le présent travail évalue plutôt leur effet observable sur les phrases étayées et les erreurs d’entité.

D’après son résumé : Retrieval-Augmented Generation (RAG) mitigates hallucinations by grounding generation in retrieved evidence, yet failures persist when models underutilize the retrieved context.

Rowen: Adaptive Retrieval-Augmented Generation for Hallucination Mitigation in LLMs

Rowen souligne que les informations externes peuvent combler des lacunes mais aussi provoquer des hallucinations lorsqu’elles sont non pertinentes. Ce constat rejoint directement la disparition du bénéfice observée avec des passages concernant une autre entité.

Comment vous positionner : À citer pour le risque introduit par des informations récupérées non pertinentes ; le présent travail quantifie ce risque par le soutien des phrases et cible les confusions d’entités.

D’après son résumé : While incorporating external information can help fill knowledge gaps, it also introduces the risk of irrelevant information, thereby increasing the likelihood of external hallucinations.

Stable-RAG: Mitigating Retrieval-Permutation-Induced Hallucinations in Retrieval-Augmented Generation

Stable-RAG montre que les réponses peuvent varier avec l’ordre des documents même lorsqu’un document de référence est présent. Ce résultat distingue la disponibilité d’une preuve de son exploitation fiable par le générateur.

Comment vous positionner : À citer pour les échecs de génération malgré la présence de preuves ; le présent travail examine surtout le soutien des phrases et les passages portant sur une mauvaise entité.

D’après son résumé : LLM answers vary substantially across permutations of the retrieved set, even when the gold document is fixed in the first position.

ReDeEP: Detecting Hallucination in Retrieval-Augmented Generation via Mechanistic Interpretability

ReDeEP étudie les hallucinations qui subsistent malgré des passages exacts et pertinents, en séparant l’usage des connaissances paramétriques et du contexte externe. Il traite directement du versant génération de la question posée par le manuscrit.

Comment vous positionner : À citer pour les mécanismes de non-exploitation des preuves ; le présent travail se distingue par une évaluation par inférence textuelle et une comparaison avec un générateur sans récupération.

D’après son résumé : However, even with accurate and relevant retrieved content, RAG models can still produce hallucinations by generating outputs that conflict with the retrieved information.

REALM: Retrieval-Augmented Language Model Pre-Training

REALM constitue un antécédent important de l’utilisation de documents externes pour les questions-réponses ouvertes, avec une comparaison aux connaissances stockées dans les paramètres. Ses résultats portent sur l’exactitude des réponses plutôt que sur leur soutien phrase par phrase.

Comment vous positionner : À citer pour l’augmentation par récupération en questions-réponses ouvertes ; le présent travail utilise DPR et BART pour analyser les affirmations non étayées plutôt que préentraîner un récupérateur latent.

D’après son résumé : we augment language model pre-training with a latent knowledge retriever, which allows the model to retrieve and attend over documents from a large corpus

Adaptive Retrieval, Selective Answers: Evaluating Conformal Factuality in Agentic RAG

Ce préprint mesure le soutien factuel des affirmations dans des systèmes RAG, notamment sur Natural Questions, et rappelle que récupérer des informations ne garantit pas des réponses étayées. Il étudie toutefois une récupération agentique et un filtrage conforme après génération.

Comment vous positionner : À citer pour l’évaluation du soutien des affirmations et ses compromis avec la couverture ; le présent travail compare directement avec et sans récupération et analyse les erreurs d’entité.

D’après son résumé : Retrieval-augmented generation (RAG) improves the grounding of language-model responses through external evidence, yet retrieved information alone does not ensure factual support for generated claims.

Detecting and Repairing Hallucinations in Retrieval-Augmented Generation

Ce travail examine lui aussi les affirmations non étayées dans les réponses RAG, mais privilégie leur correction après détection. Il compare plusieurs réparations plutôt que l'effet causal de l'ajout de récupération.

Comment vous positionner : À citer pour la correction des hallucinations après génération, tandis que le présent travail mesure le gain de la récupération et sa dépendance à l'identité de l'entité.

D’après son résumé : we split each flagged answer into individual factual claims, check each against the retrieved source

A Comprehensive Survey of Retrieval-Augmented Generation (RAG): Evolution, Current Landscape and Future Directions

Cette synthèse situe les architectures RAG et leurs difficultés générales. Son résumé ne présente pas d'étude ciblée des phrases non étayées ou des confusions d'entités.

Comment vous positionner : À citer pour le panorama des architectures RAG, tandis que le présent travail fournit une évaluation ciblée de leur ancrage factuel.

D’après son résumé : The study explores the basic architecture of RAG, focusing on how retrieval and generation are integrated to handle knowledge-intensive tasks.

Hallucination in Large Language Models and Retrieval-Augmented Generation: Mechanisms, Mitigation, and Evaluation

Cette revue distingue plusieurs sources d'hallucination dans les pipelines RAG ainsi que plusieurs dimensions d'évaluation. Elle fournit un cadre pour situer la mesure d'étayage par entaillement du brouillon.

Comment vous positionner : À citer pour distinguer factualité, fidélité aux sources et qualité de récupération, alors que le présent travail mesure spécifiquement le soutien des phrases par les passages.

D’après son résumé : the main evaluation dimensions are examined, including factuality, faithfulness, attribution quality, and retrieval relevance.

Investigating the Robustness of Retrieval-Augmented Generation at the Query Level

L'article montre que des variations de requête peuvent dégrader la récupération et étudie leurs effets sur les composants et le système complet. Cette fragilité est proche, mais distincte, du cas des passages portant sur une entité incorrecte.

Comment vous positionner : À citer pour la robustesse du pipeline face aux perturbations des requêtes, en distinguant cette cause de dégradation des confusions d'entités étudiées ici.

D’après son résumé : Our analysis reveals that the performance of commonly used retrievers can degrade significantly even under minor query variations.

Why Retrieval Doesn't Cure Everything: A Review of Hallucination in Retrieval-Augmented Generation

Cette revue couvre les hallucinations persistantes malgré la récupération, notamment les échecs de récupération et la génération infidèle. Elle mentionne également l'évaluation de fidélité par NLI utilisée dans le brouillon.

Comment vous positionner : À citer pour la taxonomie des causes et des détecteurs d'hallucinations RAG, tandis que le présent travail apporte une comparaison expérimentale ciblée sur Natural Questions.

D’après son résumé : why RAG systems continue to hallucinate even when correct evidence is available in context

Retrieval-Augmented Generation for Large Language Models: A Survey

Cette revue présente les composants, paradigmes et évaluations des systèmes RAG. Elle contextualise le pipeline du brouillon sans fournir, dans son résumé, de résultat spécifique aux erreurs d'entité.

Comment vous positionner : À citer pour situer le pipeline dans les architectures RAG, alors que le présent travail examine expérimentalement l'étayage des réponses.

D’après son résumé : It meticulously scrutinizes the tripartite foundation of RAG frameworks, which includes the retrieval, the generation and the augmentation techniques.

Improving Factual Grounding and Citation Reliability in Retrieval-Augmented Generation Systems

Ce travail sépare l'évaluation des preuves au niveau des affirmations de la validation des étiquettes de citation. Il rejoint la notion de soutien documentaire, mais repose sur une évaluation préliminaire très limitée.

Comment vous positionner : À citer pour distinguer soutien sémantique et validité des citations, tandis que le présent travail utilise l'entaillement des phrases et compare génération avec et sans récupération.

D’après son résumé : their presence does not guarantee that every generated claim is supported or that a citation is correctly associated with the claim it accompanies.

Hallucination Reduction in Large Language Models with Retrieval-Augmented Generation Using Wikipedia Knowledge

Cette étude rapporte des améliorations des réponses grâce à un RAG utilisant Wikipédia, avec Mistral. Elle partage la source documentaire et l'objectif général du brouillon, mais son résumé ne précise pas de mesure d'entaillement ou d'analyse des erreurs d'entité.

Comment vous positionner : À citer pour les améliorations rapportées avec une récupération sur Wikipédia, en distinguant l'évaluation phrase par phrase et le modèle BART du présent travail.

D’après son résumé : By dynamically integrating relevant information, the Mistral model demonstrates substantial improvements in precision, recall, and overall quality of responses.

Survey of Hallucination in Natural Language Generation

Cette synthèse situe les hallucinations et leurs méthodes d’évaluation dans plusieurs tâches de génération, dont les questions-réponses. Elle fournit un cadre général plutôt qu’une comparaison ciblée entre génération avec et sans récupération.

Comment vous positionner : À citer pour le contexte et les méthodes de mesure des hallucinations ; le présent travail isole leur réduction par récupération et leur dépendance à l’entité retrouvée.

D’après son résumé : a general overview of metrics, mitigation methods, and future directions

An Intelligent Biomedical Retrieval Pipeline for Reducing Hallucination Risk in Retrieval Augmented Generation

Cet article traite du risque d’hallucination lié à l’absence ou au mauvais classement des preuves dans un système biomédical. Il évalue toutefois la récupération, sans mesurer directement les affirmations non étayées dans les réponses.

Comment vous positionner : À citer pour les moyens d’améliorer l’accès aux preuves ; le présent travail mesure directement le soutien des phrases générées en questions-réponses ouvertes.

D’après son résumé : These findings suggest lower hallucination risk through better evidence access rather than providing direct end-to-end proof on generated answers.

To Retrieve or Not to Retrieve? Uncertainty Detection for Dynamic Retrieval Augmented Generation

Ce préprint étudie quand déclencher la récupération en fonction de l’incertitude du modèle. Il porte sur le compromis entre coût de récupération et exactitude, plutôt que sur l’attribution des affirmations aux passages.

Comment vous positionner : À citer pour la récupération adaptative ; le présent travail compare la présence et l’absence de récupération et examine le soutien documentaire des réponses.

D’après son résumé : dynamically performing retrieval by invoking it only when the underlying LLM lacks the required knowledge can be more efficient.

Advancing Retrieval-Augmented Generation with Inverted Question Matching for Enhanced QA Performance

QuIM-RAG cherche à améliorer la sélection des passages en rapprochant les requêtes de questions générées à partir des documents. Cette approche concerne la qualité de récupération, mais le résumé ne montre pas une analyse directe du soutien documentaire des phrases.

Comment vous positionner : À citer comme alternative pour sélectionner des passages pertinents ; le présent travail conserve un récupérateur dense et mesure les conséquences de ses erreurs sur l’ancrage des réponses.

D’après son résumé : This strategy generates potential questions from document chunks and matches these with user queries to identify the most relevant text chunks for generating accurate answers.

Reducing hallucination in structured outputs via Retrieval-Augmented Generation

Cet article rapporte une réduction des hallucinations grâce au RAG dans la génération de workflows structurés. Il fournit un résultat connexe, mais dans une tâche différente des questions-réponses ouvertes.

Comment vous positionner : À citer pour les bénéfices empiriques du RAG sur les hallucinations ; le présent travail teste ces bénéfices sur des réponses textuelles et identifie leur dépendance à l’entité récupérée.

D’après son résumé : our proposed system significantly reduces hallucinations in the output and improves the generalization of our LLM in out-of-domain settings.

Dense Passage Retrieval: Is it Retrieving?

Cet article analyse les effets de l’entraînement DPR et propose une limite liée aux connaissances internes du récupérateur. Il éclaire les défaillances possibles de récupération sans étudier directement les phrases produites par le générateur.

Comment vous positionner : À citer pour les limites des récupérateurs denses ; le présent travail étudie leurs conséquences sur le soutien documentaire des réponses, notamment lors de confusions d’entités.

D’après son résumé : We also uncover a limitation in this training style: the internal knowledge of the pre-trained model bounds what the retrieval model can retrieve.

Retrieval-Augmented Generation and Hallucination in Large Language Models: A Scholarly Overview

Cet aperçu présente le RAG comme moyen de réduire les hallucinations et en discute les limites générales. Son résumé n'annonce ni protocole ni résultat directement comparable au brouillon.

Comment vous positionner : À citer éventuellement pour le contexte général de réduction des hallucinations par RAG, plutôt que pour justifier les résultats spécifiques du présent travail.

D’après son résumé : This article explores the underlying causes of hallucinations in LLMs, the mechanisms and architectures of RAG systems, their effectiveness in reducing hallucinations

A Self-Reflective Retrieval Augmented Generation System to Eliminate Hallucination in LLM Generation

Ce préprint propose des étapes autoréflexives pour limiter les hallucinations dans un système RAG. Son résumé ne décrit cependant ni une analyse séparée des erreurs de récupération et de génération, ni une mesure comparable du soutien documentaire.

Comment vous positionner : À citer éventuellement comme approche autoréflexive de réduction des hallucinations ; le présent travail vise une évaluation comparative de l’ancrage plutôt qu’une nouvelle chaîne de correction.

D’après son résumé : To solve this problem, we introduced a series of selfreflective nodes, creating a self-RAG model.

Retrieval-Augmented Generation for Question Answering and Beyond: A State-of-the-Art Review

Cette revue présente les architectures et usages du RAG, notamment pour les questions-réponses ouvertes. Elle apporte un contexte général, sans résultat précis sur les phrases non étayées ou les erreurs d’entité.

Comment vous positionner : À citer éventuellement pour une vue d’ensemble du RAG ; le présent travail apporte une évaluation ciblée du soutien des réponses par les passages.

D’après son résumé : The primary RAG concepts have been systematically summarized in this paper, including system architecture, retrieval strategies, embedding techniques, reranking strategies and knowledge-aware generation frameworks.