Les exemples adverses sont des entrées intentionnellement créées par un attaquant pour tromper un système d'apprentissage automatique et le pousser à produire une sortie incorrecte. Ces exemples ont connu beaucoup de succès dans plusieurs domaines tels que la reconnaissance d'images, la reconnaissance vocale et la détection de spam. Dans cet article, nous étudions la nature du problème adversaire dans les systèmes de détection d'intrusion réseau (NIDS). Nous nous concentrons sur la perspective de l'attaque, qui comprend des techniques permettant de générer des exemples adverses capables d'éviter divers modèles d'apprentissage automatique. Plus précisément, nous explorons l'utilisation de l'optimisation par essaim particulaire et de l'algorithme génétique en tant qu'outils pour la génération d’exemples adverses ainsi que les réseaux antagonistes génératifs basés sur l’apprentissage profond. Pour évaluer les performances de ces algorithmes pour contourner un NIDS, nous les appliquons à deux ensembles de données publiques disponibles : NSL-KDD et UNSW-NB15 et les comparons à une méthode perturbation standard : simulation Monte Carlo. Les résultats montrent que nos techniques pour générer des exemples adversaires entraînent des taux élevés de mauvaise classification avec onze modèles différents d’apprentissage automatique ainsi qu’un classificateur par vote. Notre travail met en évidence la vulnérabilité des NIDS basés sur l’apprentissage automatique face aux perturbations adversaires.
- Les exemples adverses sont créés pour tromper les systèmes d'apprentissage automatique.
- Ils ont été utilisés avec succès dans la reconnaissance d'images, la reconnaissance vocale et la détection de spam.
- Cet article se concentre sur l'utilisation de techniques telles que l'optimisation par essaim particulaire, l'algorithme génétique et les réseaux antagonistes génératifs pour générer des exemples adverses.
- Deux ensembles de données publics, NSL-KDD et UNSW-NB15, sont utilisés pour évaluer les performances des algorithmes.
- Les résultats montrent que ces techniques entraînent des taux élevés de mauvaise classification avec différents modèles d'apprentissage automatique et un classificateur par vote.
- Le travail met en évidence la vulnérabilité des NIDS basés sur l'apprentissage automatique face aux perturbations adversaires.
Cet article parle de techniques utilisées pour tromper les systèmes d'apprentissage automatique. Ces techniques ont été utilisées avec succès dans la reconnaissance d'images, la reconnaissance vocale et la détection de spam. L'article se concentre sur l'utilisation de techniques spécifiques comme l'optimisation par essaim particulaire, l'algorithme génétique et les réseaux antagonistes génératifs pour créer des exemples adverses. Deux ensembles de données publics sont utilisés pour tester ces techniques et les résultats montrent qu'elles peuvent causer des erreurs dans différents modèles d'apprentissage automatique. Ce travail met en évidence la vulnérabilité des systèmes d'apprentissage automatique face à ces perturbations adverses.
Définitions
- Apprentissage automatique: Un système qui permet aux machines d'apprendre à partir de données et de prendre des décisions sans être explicitement programmées.
- Reconnaissance d'images: La capacité d'un ordinateur à identifier et comprendre le contenu visuel des images.
- Reconnaissance vocale: La capacité d'un ordinateur à comprendre et interpréter la parole humaine.
- Détection de spam: Le processus de filtrage des courriers électroniques non sollicités ou indésirables.
- NIDS (Syst
Les exemples adverses sont des entrées intentionnellement créées par un attaquant pour tromper un système d'apprentissage automatique et le pousser à produire une sortie incorrecte. Ces exemples ont connu beaucoup de succès dans plusieurs domaines tels que la reconnaissance d'images, la reconnaissance vocale et la détection de spam. Dans cet article, nous étudions la nature du problème adversaire dans les systèmes de détection d'intrusion réseau (NIDS). Nous nous concentrons sur la perspective de l'attaque, qui comprend des techniques permettant de générer des exemples adverses capables d'éviter divers modèles d'apprentissage automatique. Plus précisément, nous explorons l’utilisation de l’optimisation par essaim particulaire et de l’algorithme génétique en tant qu’outils pour la génération des exemples adversaires ainsi que les réseaux antagonistes génératifs basés sur l’apprentissage profond. Pour évaluer les performances de ces algorithmes pour contourner un NIDS, nous les appliquons à deux ensembles de données publiques disponibles : NSL-KDD et UNSW-NB15 et les comparons à une méthode perturbation standard : simulation Monte Carlo. Les résultats montrent que nos techniques pour générer des exemples adversaires entraînent des taux élevés de mauvaise classification avec onze modèles différents d’apprentissage automatique ainsi qu’un classificateur par vote. Notre travail met en évidence la vulnérabilité des NIDS basés sur l’apprentissage automatique face aux perturbations adversaires.
Introduction
Les exemples adversaires sont un type spécialement conçu pour induire une erreur chez un système informatique ou robotique apprenant automatiquement à partir du domaine du Machine Learning (ML). Ils peuvent être utilisés par un attaquant afin de manipuler le comportement du système ML afin qu'il produise une sortie incorrecte ou inappropriée malgré sa formation initiale correcte ou exhaustive. Les applications courantes incluent notamment la reconnaissance vocale, le traitement du langage naturel (NLP), le filtrage anti-spam et bien plus encore [1]. Dans ce document, nous allons examiner comment cette technique est appliquée aux systèmes Intrusion Detection System (IDS) basés sur le ML afin que les attaquants puissent contourner efficacement cette protection informatique importante sans se faire remarquer [2].
Fondements théoriques
Avant que nous ne commencions à examiner comment contourner efficacement les IDS basés sur le ML via l'utilisation des exemples adversaires, il est important que nous examinions brièvement certaines notions fondamentales liées au ML qui seront pertinentes à notre discussion ultérieure:
- Apprentissage supervisé: Ceci est une forme commune et populaire du ML qui implique l'utilisation active humaine pour fournir au système apprenant non seulement ses donnéees initialement mais aussi son objectif final.
- Algorithmes Génétiques: Ceci est une forme avancée algorithmique qui imite directement le processus biologique naturel "survival of the fittest" en simultanément testant plusieurs solutions possibles jusqu'à ce qu'une solution optimale soit trouvée.
- Optimization Swarm Particulaire: Ceci est similaire à ; Algorithmes Génétiques car il cherche à ; trouver une solution optimale mais fait usage plutôtde petits agents individuellement intelligents qui interagissent entre eux afin atteindre ce but.
Methode
Pour vérifier si nos techniques peuvent effectivement contourner un IDS basée sur le Machine Learning , nous avons choisi 2 jeux publics disponibles : NSL-KDD and UNSW-NB15 . Ensuite , nous avons appliquer 11 different models of machine learning to these datasets along with an ensemble voting classifier . Pour chaque model , we have used our proposed methods for generating Adversarial Examples which include Particle Swarm Optimization and Genetic Algorithm as well as Deep Learning based Generative Adversarial Networks . We then compared the results with those obtained from standard Monte Carlo Simulation method for generating Adversarial Examples .
Résultats
The results show that our proposed methods for generating Adversarial Examples are able to successfully bypass eleven different models of Machine Learning as well as an ensemble voting classifier with high misclassification rates when compared to the baseline Monte Carlo Simulation method . This highlights the vulnerability of Network Intrusion Detection Systems based on Machine Learning towards Adversarial Perturbations .
