Adversarial Machine Learning in Network Intrusion Detection Systems

Les exemples adverses sont des entrées intentionnellement créées par un attaquant pour tromper un système d'apprentissage automatique et le pousser à produire une sortie incorrecte. Ces exemples ont connu beaucoup de succès dans plusieurs domaines tels que la reconnaissance d'images, la reconnaissance vocale et la détection de spam. Dans cet article, nous étudions la nature du problème adversaire dans les systèmes de détection d'intrusion réseau (NIDS). Nous nous concentrons sur la perspective de l'attaque, qui comprend des techniques permettant de générer des exemples adverses capables d'éviter divers modèles d'apprentissage automatique. Plus précisément, nous explorons l'utilisation de l'optimisation par essaim particulaire et de l'algorithme génétique en tant qu'outils pour la génération d’exemples adverses ainsi que les réseaux antagonistes génératifs basés sur l’apprentissage profond. Pour évaluer les performances de ces algorithmes pour contourner un NIDS, nous les appliquons à deux ensembles de données publiques disponibles : NSL-KDD et UNSW-NB15 et les comparons à une méthode perturbation standard : simulation Monte Carlo. Les résultats montrent que nos techniques pour générer des exemples adversaires entraînent des taux élevés de mauvaise classification avec onze modèles différents d’apprentissage automatique ainsi qu’un classificateur par vote. Notre travail met en évidence la vulnérabilité des NIDS basés sur l’apprentissage automatique face aux perturbations adversaires.

Les exemples adverses sont des entrées intentionnellement créées par un attaquant pour tromper un système d'apprentissage automatique et le pousser à produire une sortie incorrecte. Ces exemples ont connu beaucoup de succès dans plusieurs domaines tels que la reconnaissance d'images, la reconnaissance vocale et la détection de spam. Dans cet article, nous étudions la nature du problème adversaire dans les systèmes de détection d'intrusion réseau (NIDS). Nous nous concentrons sur la perspective de l'attaque, qui comprend des techniques permettant de générer des exemples adverses capables d'éviter divers modèles d'apprentissage automatique. Plus précisément, nous explorons l’utilisation de l’optimisation par essaim particulaire et de l’algorithme génétique en tant qu’outils pour la génération des exemples adversaires ainsi que les réseaux antagonistes génératifs basés sur l’apprentissage profond. Pour évaluer les performances de ces algorithmes pour contourner un NIDS, nous les appliquons à deux ensembles de données publiques disponibles : NSL-KDD et UNSW-NB15 et les comparons à une méthode perturbation standard : simulation Monte Carlo. Les résultats montrent que nos techniques pour générer des exemples adversaires entraînent des taux élevés de mauvaise classification avec onze modèles différents d’apprentissage automatique ainsi qu’un classificateur par vote. Notre travail met en évidence la vulnérabilité des NIDS basés sur l’apprentissage automatique face aux perturbations adversaires.

Introduction

Les exemples adversaires sont un type spécialement conçu pour induire une erreur chez un système informatique ou robotique apprenant automatiquement à partir du domaine du Machine Learning (ML). Ils peuvent être utilisés par un attaquant afin de manipuler le comportement du système ML afin qu'il produise une sortie incorrecte ou inappropriée malgré sa formation initiale correcte ou exhaustive. Les applications courantes incluent notamment la reconnaissance vocale, le traitement du langage naturel (NLP), le filtrage anti-spam et bien plus encore [1]. Dans ce document, nous allons examiner comment cette technique est appliquée aux systèmes Intrusion Detection System (IDS) basés sur le ML afin que les attaquants puissent contourner efficacement cette protection informatique importante sans se faire remarquer [2].

Fondements théoriques

Avant que nous ne commencions à examiner comment contourner efficacement les IDS basés sur le ML via l'utilisation des exemples adversaires, il est important que nous examinions brièvement certaines notions fondamentales liées au ML qui seront pertinentes à notre discussion ultérieure:

• Apprentissage supervisé: Ceci est une forme commune et populaire du ML qui implique l'utilisation active humaine pour fournir au système apprenant non seulement ses donnéees initialement mais aussi son objectif final.
• Algorithmes Génétiques: Ceci est une forme avancée algorithmique qui imite directement le processus biologique naturel "survival of the fittest" en simultanément testant plusieurs solutions possibles jusqu'à ce qu'une solution optimale soit trouvée.
• Optimization Swarm Particulaire: Ceci est similaire à ; Algorithmes Génétiques car il cherche à ; trouver une solution optimale mais fait usage plutôtde petits agents individuellement intelligents qui interagissent entre eux afin atteindre ce but.

Methode

Pour vérifier si nos techniques peuvent effectivement contourner un IDS basée sur le Machine Learning , nous avons choisi 2 jeux publics disponibles : NSL-KDD and UNSW-NB15 . Ensuite , nous avons appliquer 11 different models of machine learning to these datasets along with an ensemble voting classifier . Pour chaque model , we have used our proposed methods for generating Adversarial Examples which include Particle Swarm Optimization and Genetic Algorithm as well as Deep Learning based Generative Adversarial Networks . We then compared the results with those obtained from standard Monte Carlo Simulation method for generating Adversarial Examples .

Résultats

The results show that our proposed methods for generating Adversarial Examples are able to successfully bypass eleven different models of Machine Learning as well as an ensemble voting classifier with high misclassification rates when compared to the baseline Monte Carlo Simulation method . This highlights the vulnerability of Network Intrusion Detection Systems based on Machine Learning towards Adversarial Perturbations .