# Fast Think-on-Graph: Wider, Deeper and Faster Reasoning of Large Language Model on Knowledge Graph

**Authors:** Xujian Liang, Zhaoquan Gu  
**arXiv:** [2501.14300](https://arxiv.org/abs/2501.14300)  
**Date:** 2025-01-24  
**Summary page:** https://www.summarizepaper.com/fr/paper/2501.14300v1/

## Key points

- Les auteurs Xujian Liang et Zhaoquan Gu ont présenté un article sur "Fast Think-on-Graph" pour améliorer les modèles linguistiques à grande échelle.
- Ils introduisent le concept de Graph Retrieval Augmented Generation (GRAG) pour intégrer des informations graphiques dans les modèles linguistiques et atténuer l'effet d'hallucination.
- Malgré les avancées de GRAG, certaines limitations persistent, notamment la capture étroite des corrélations provenant des graphes de connaissances (KGs) et la complexité des méthodes couplées aux KGs.
- Pour surmonter ces limitations, les auteurs proposent Fast Think-on-Graph (FastToG), qui permet aux LLMs de penser "communauté par communauté" au sein des KGs en utilisant la détection de communautés et deux étapes - grossière et fine - pour un rétablissement plus rapide.
- Deux méthodes Community-to-Text sont développées pour convertir la structure graphique des communautés en texte afin d'améliorer la compréhension par les LLMs.
- Les résultats expérimentaux montrent que FastToG offre une précision accrue, un raisonnement plus rapide et une meilleure explicabilité par rapport aux travaux antérieurs, offrant ainsi une solution prometteuse pour améliorer la performance des modèles linguistiques à grande échelle lorsqu'ils interagissent avec des graphes de connaissances complexes.

## Summary

Les auteurs Xujian Liang et Zhaoquan Gu ont présenté un article intitulé "Fast Think-on-Graph: Wider, Deeper and Faster Reasoning of Large Language Model on Knowledge Graph". Dans cet article, ils introduisent le concept de Graph Retrieval Augmented Generation (GRAG), une nouvelle approche qui va au-delà du système RAG naïf en intégrant des informations graphiques telles que les graphes de connaissances (KGs) dans des modèles linguistiques à grande échelle (LLMs) pour atténuer l'effet d'hallucination. Cependant, malgré les avancées apportées par GRAG, certaines limitations persistent : 1) les paradigmes simples échouent souvent face aux problèmes complexes en raison de la capture étroite et superficielle des corrélations provenant des KGs ; 2) les méthodes fortement couplées aux KGs ont tendance à être coûteuses en termes de calcul et chronophages lorsque le graphe est dense. Pour surmonter ces limitations, les auteurs proposent Fast Think-on-Graph (FastToG), un nouveau paradigme innovant permettant aux LLMs de penser "communauté par communauté" au sein des KGs. Pour ce faire, FastToG utilise la détection de communautés pour une capture plus profonde des corrélations et deux étapes de taille - grossière et fine - pour un rétablissement plus rapide. De plus, les auteurs développent également deux méthodes Community-to-Text pour convertir la structure graphique des communautés en forme textuelle afin d'améliorer la compréhension par les LLMs. Les résultats expérimentaux démontrent l'efficacité de FastToG, mettant en avant une précision accrue, un raisonnement plus rapide et une meilleure explicabilité par rapport aux travaux antérieurs. Cette approche offre ainsi une solution prometteuse pour améliorer la performance des modèles linguistiques à grande échelle lorsqu'ils interagissent avec des graphes de connaissances complexes.