# Ten Hard Problems in Artificial Intelligence We Must Get Right

**Authors:** Gavin Leech, Simson Garfinkel, Misha Yagudin, Alexander Briand, Aleksandr Zhuravlev  
**arXiv:** [2402.04464](https://arxiv.org/abs/2402.04464)  
**Date:** 2024-02-06  
**Summary page:** https://www.summarizepaper.com/fr/paper/2402.04464v1/

## Key points

- Nous explorons les "problèmes difficiles" de l'IA2050 qui bloquent la promesse de l'IA et causent des risques liés à l'IA :
- Développer les capacités générales des systèmes
- Garantir la performance des systèmes d'IA et de leurs processus de formation
- Aligner les objectifs du système avec les objectifs humains
- Permettre de grandes applications de l'IA dans la vie réelle
- Aborder les perturbations économiques
- Garantir la participation de tous tout en assurant un déploiement socialement responsable
- Aborder toute perturbation géopolitique que l'IA cause
- Promouvoir une gouvernance saine de la technologie
- Gérer les perturbations philosophiques pour les humains vivant à l'ère de l'IA
- La vision globale du programme AI2050 est que les chercheurs en IA, les organismes de financement et la société dans son ensemble peuvent prendre des décisions dès maintenant et dans les années à venir qui entraîneront un impact bénéfique généralisé.
- Pour tous ces problèmes, une condition claire d'un scénario réussi en 2050 est que nous commencions à travailler dessus dès maintenant.

## Summary

Nous explorons les "problèmes difficiles" de l'IA2050 qui bloquent la promesse de l'IA et causent des risques liés à l'IA : (1) développer les capacités générales des systèmes ; (2) garantir la performance des systèmes d'IA et de leurs processus de formation ; (3) aligner les objectifs du système avec les objectifs humains ; (4) permettre de grandes applications de l'IA dans la vie réelle ; (5) aborder les perturbations économiques ; (6) garantir la participation de tous ; (7) tout en assurant un déploiement socialement responsable ; (8) aborder toute perturbation géopolitique que l'IA cause ; (9) promouvoir une gouvernance saine de la technologie ; et (10) gérer les perturbations philosophiques pour les humains vivant à l'ère de l'IA. Pour chaque problème, nous décrivons le domaine, identifions des travaux récents significatifs et suggérons des pistes à suivre. La vision globale du programme AI2050 est que les chercheurs en IA, les organismes de financement et la société dans son ensemble peuvent prendre des décisions dès maintenant et dans les années à venir qui entraîneront un impact bénéfique généralisé. Trouver des réponses aux problèmes difficiles sera clairement un défi, mais nous ne voyons pas d'autre choix si les humains doivent coexister avec nos technologies. Pour tous ces problèmes, une condition claire d'un scénario réussi en 2050 est que nous commencions à travailler dessus dès maintenant. Ce document explore chacun des dix Problèmes Difficiles (HP). Nous commençons par l'histoire récente de l'IA. La Section 3 développe chaque HP en un programme de recherche, identifie des travaux importants publiés entre 2017 et 2022 et identifie le type de recherche nécessaire dans les décennies à venir. Une exercice similaire a été réalisé dans Gil and Selman [200]. Appeler ces problèmes "difficiles" pourrait signifier qu'ils sont insolubles; ce sont des "problèmes méchants". Nous abordons cette question dans la Section 4, concluant qu'il y a espoir pour des solutions partielles adaptées aux versions affinées des problèmes. La Section 5 se termine par notre perspective sur l'avenir. L'annexe électronique fournit des ressources supplémentaires pour chaque HP et présente notre méthodologie. Tout au long de ce document, notre analyse est guidée par la question motivante AI2050 : "Nous sommes en 2050. L'IA s'est avérée être extrêmement bénéfique pour la société. Qu'est-il arrivé ? Cette revue bibliographique a été rendue possible en partie grâce à la subvention G-22-63887 du Fonds Eric and Wendy Schmidt pour l’innovation stratégique, ainsi que par le Schelling Residency.