# Hello Me, Meet the Real Me: Audio Deepfake Attacks on Voice Assistants

**Authors:** Domna Bilika, Nikoletta Michopoulou, Efthimios Alepis, Constantinos Patsakis  
**arXiv:** [2302.10328](https://arxiv.org/abs/2302.10328)  
**Date:** 2023-02-20  
**Summary page:** https://www.summarizepaper.com/fr/paper/2302.10328v1/

## Key points

- Les avancées technologiques ont permis de développer des assistants vocaux pour contrôler les appareils intelligents dans les maisons connectées.
- Des recherches ont montré que ces assistants vocaux sont vulnérables aux attaques.
- Les fournisseurs prennent des mesures de précaution, comme limiter l'accès à certaines tâches risquées aux propriétaires de l'appareil.
- Une expérience a été menée sur les deux assistants vocaux les plus utilisés, en utilisant la synthèse vocale pour déclencher des commandes risquées.
- Plus de 30% des attaques deepfake ont réussi et au moins une attaque a réussi chez plus de la moitié des participants.
- Il y a une variation statistiquement significative entre les fournisseurs et un biais sexuel dans un cas particulier.
- Ces résultats sont alarmants car le nombre d'assistants vocaux en usage est comparable à celui de la population mondiale.
- Une expérience a été menée sur Android et iOS pour reproduire certaines attaques susceptibles d'être lancées via un logiciel espion ou via les réseaux sociaux.

## Summary

Les avancées technologiques dans les télécommunications et l'informatique ont ouvert la voie à une multitude d'applications et à une interaction innovante avec les interfaces informatiques. Les assistants vocaux (AV) sont devenus la norme pour les smartphones et des millions d'AV intégrés à des appareils intelligents sont utilisés pour contrôler ces appareils dans le contexte de la maison intelligente. Des recherches précédentes ont montré qu'ils sont vulnérables aux attaques, ce qui a conduit les fournisseurs à prendre des mesures de précaution. L'une de ces mesures consiste à autoriser uniquement le propriétaire de l'appareil à effectuer des tâches potentiellement risquées, telles que celles qui peuvent divulguer des informations personnelles ou impliquer des transactions financières. Pour comprendre jusqu’à quel point les AV offrent une protection adéquate à leurs utilisateurs, nous avons expérimenté avec les deux AV les plus largement utilisés que les participants ont formés. Nous avons ensuite utilisé la synthèse vocale en utilisant des échantillons fournis par les participants pour synthétiser des commandes qui ont été utilisées pour déclencher l'AV correspondant et effectuer une tâche risquée. Nos résultats approfondis ont montré que plus de 30% de nos attaques deepfake réussissaient et qu’au moins une attaque réussie était enregistrée chez plus de la moitié des participants. De plus, ils illustrent une variation statistiquement significative entre les fournisseurs et même un biais sexuel dans un cas particulier. Ces résultats sont plutôt alarmants et nous rappellent que davantage doit être fait pour empêcher l’exploitation car le nombre d’AV actuellement en usage est comparable à celui de la population mondiale. Afin d’analyser la sûreté offerte par ces AVs, nous avons menée une expérience sur Android et iOS -les systèmes mobiles les plus populaires- afin de reproduire certaines attaques susceptibles d’être lancée face-à-face via un logiciel espion ou via les réseaux sociaux. Nous n’avons pas considérée ici celles menée par téléphone car elles pouvaient être assimilables aux attaques en face-à-face avec du bruit supplémentaire liés au réseau ; elles requièrent également une interaction supplémentaire avec le participant dont beaucoup ne se sentiraient probablement pas confortable partageant son numero personnelle.