# Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling

**Authors:** Junyoung Chung, Caglar Gulcehre, KyungHyun Cho, Yoshua Bengio  
**arXiv:** [1412.3555](https://arxiv.org/abs/1412.3555)  
**Date:** 2014-12-11  
**Summary page:** https://www.summarizepaper.com/fr/paper/1412.3555v1/

## Key points

- Les auteurs ont comparé différents types d'unités récurrentes dans les réseaux neuronaux récurrents (RNN).
- Leur étude s'est concentrée sur des unités sophistiquées avec un mécanisme de portes telles que LSTM et GRU.
- Les chercheurs ont évalué ces unités dans la modélisation musicale polyphonique et du signal vocal.
- Les résultats ont montré que les unités récurrentes avancées sont meilleures que les unités traditionnelles comme tanh.
- Le GRU s'est avéré comparable au LSTM.
- Présentation de l'étude lors de l'atelier Deep Learning and Representation Learning du NIPS 2014.
- L'efficacité des unités récurrentes avec mécanisme de portes a été soulignée, ouvrant la voie à des avancées significatives en apprentissage profond.

## Summary

Les auteurs Junyoung Chung, Caglar Gulcehre, KyungHyun Cho et Yoshua Bengio ont mené une étude intitulée "Évaluation empirique des réseaux neuronaux récurrents à portes sur la modélisation de séquences". Dans ce document, ils ont comparé différents types d'unités récurrentes dans les réseaux neuronaux récurrents (RNN). Leur focus était particulièrement sur des unités plus sophistiquées qui mettent en œuvre un mécanisme de portes telles qu'une unité de mémoire à court terme longue (LSTM) et une unité récurrente à portes proposée récemment (GRU). Les chercheurs ont évalué ces unités récurrentes dans le cadre de la modélisation musicale polyphonique et de la modélisation du signal vocal. Leurs expériences ont démontré que ces unités récurrentes avancées sont effectivement meilleures que les unités traditionnelles telles que les unités tanh. De plus, ils ont constaté que le GRU est comparable au LSTM. Cette étude a été présentée lors de l'atelier Deep Learning and Representation Learning du NIPS 2014. Les résultats obtenus soulignent l'efficacité des unités récurrentes avec mécanisme de portes dans divers domaines d'application, ouvrant ainsi la voie à des avancées significatives dans le domaine de l'apprentissage profond.