# A Primer on Bayesian Neural Networks: Review and Debates

**Authors:** Julyan Arbel, Konstantinos Pitas, Mariia Vladimirova, Vincent Fortuin  
**arXiv:** [2309.16314](https://arxiv.org/abs/2309.16314)  
**Date:** 2023-09-28  
**Summary page:** https://www.summarizepaper.com/fr/paper/2309.16314v1/

## Key points

- Les réseaux neuronaux ont des performances remarquables mais sont limités par la confiance excessive dans les prédictions, le manque d'interprétation et la vulnérabilité aux attaques adverses.
- Les réseaux neuronaux bayésiens (BNN) intègrent l'estimation de l'incertitude dans leurs capacités prédictives.
- Ce guide présente une introduction systématique aux concepts fondamentaux des réseaux neuronaux et de l'inférence bayésienne pour le développement des BNN.
- Le public cible comprend les statisticiens ayant une expérience en méthodes bayésiennes mais peu d'expertise en apprentissage profond, ainsi que les spécialistes de l'apprentissage automatique compétents en réseaux neuronaux profonds mais peu exposés aux statistiques bayésiennes.
- L'impact des priors sur le comportement et les performances du modèle est examiné.
- Des considérations pratiques liées à la formation et à l'inférence dans les BNN sont abordées.
- Des sujets avancés dans la recherche sur les BNN sont explorés, reconnaissant les débats et controverses en cours.
- Ce guide permet aux chercheurs et praticiens d'acquérir une base solide en BNN et éclaire les applications potentielles de ce domaine dynamique.
- L'estimation de l'incertitude est importante pour garantir l'acceptation et l'utilisation des systèmes d'intelligence artificielle dans des domaines tels que la médecine et la finance.

## Summary

Les réseaux neuronaux ont atteint des performances remarquables dans divers domaines problématiques, mais leur applicabilité généralisée est entravée par des limitations inhérentes telles que la confiance excessive dans les prédictions, le manque d'interprétation et la vulnérabilité aux attaques adverses. Pour relever ces défis, les réseaux neuronaux bayésiens (BNN) se sont imposés comme une extension convaincante des réseaux neuronaux classiques en intégrant l'estimation de l'incertitude dans leurs capacités prédictives. Ce guide complet présente une introduction systématique aux concepts fondamentaux des réseaux neuronaux et de l'inférence bayésienne, en élucidant leur intégration synergique pour le développement des BNN. Le public cible comprend les statisticiens ayant une expérience potentielle en méthodes bayésiennes mais peu d'expertise en apprentissage profond ainsi que les spécialistes de l'apprentissage automatique compétents en réseaux neuronaux profonds mais peu exposés aux statistiques bayésiennes. Nous donnons un aperçu des priors couramment utilisés et examinons leur impact sur le comportement et les performances du modèle. De plus, nous nous penchons sur les considérations pratiques liée à la formation et à l'inférrence dans les BNN. En outre, nous explorons des sujets avancés dans le domaine de la recherche sur les BNN, reconnaissant l’existence de débats et controverses en cours. En offrant un aperçu des développements de pointe, ce guide permet non seulement aux chercheurs et aux praticiens d’acquirir une base solide en BNN mais éclaire également les applications potentielles de ce domaine dynamique. En outre, cette expansion du résumaire souligne l’importance de l’interprétation et de l’estimation de l’incertitude dans les systèmes d’intelligence artificielle pour garantir leur acceptation et leur utilisation dans des domaines tels que la même decine et la finance. La perspective bayésienne offre une approche permettant d’amliorer ces aspects critiques des algorithmes d’apprentissage automatique en fournissant des explications comprhenssibles parles humains et quantifiant l’incertitude associée aux prdictions.