Guides Essentiels
Voir tous les articles de ce guide
Actualites
Cet article fait partie de notre guide: Comprendre le Machine Learning

Intelligence Artificielle et Machine Learning au service des attaquants

Plusieurs spécialistes de la sécurité informatique s’attendent à ce que les cyber-délinquants commence à mettre à profit des techniques qui commencent à peine à se faire plus présentes dans l’arsenal de défense.

Valéry Rieß-Marchive
par
Publié le: 18 déc. 2017

L’heure est aux prédictions pour l’an prochain. Pour certains – et sans ironie aucune –, il faut avant tout s’attendre à retrouver les menaces déjà observées cette année. Mais certains experts ne s’en attendent pas moins à des nouveautés, à commencer par la mise à profit de techniques d’intelligence artificielle et d’apprentissage automatique par les cyber-délinquants.

Il en va ainsi d’IBM qui s’attend à ce que l’on assiste, en 2018, à l’émergence d’attaques exploitant ces techniques « pour imiter le comportement humain ».  Pour McAfee, cette année marquera le début d’une « course à l’armement », avec des attaquants utilisant l’apprentissage machine « pour apprendre des réponses défensives, chercher à tromper les modèles de détection » et « exploiter des vulnérabilités nouvellement découvertes plus vite qu’elles ne pourront être corrigées ».  

Machine contre machine

Bitdefender envisage également l’année à venir dans cette perspective. Pour l’éditeur, il s’agira, du côté des attaquants, de « créer et diffuser des codes entraînant la détection de faux positifs » dans les systèmes de protection, ne serait-ce que pour augmenter le bruit de fond et réduire l’efficacité des équipes de défense, ou encore pour « manipuler la charge utile du malware jusqu’à ce qu’elle ne soit plus détectée.

De son côté, Symantec entrevoir l’utilisation des techniques d’apprentissage automatique et d’intelligence artificielle pour accélérer l’exploration des réseaux visés. En somme, il s’agit d’industrialiser un processus qui reste hautement manuel après l’intrusion initiale.

Si ces prévisions peuvent paraître fantaisistes, elles pourraient bien ne constituer qu’une extrapolation prudente à partir de travaux bien concrets. Ainsi, lors de l’édition 2016 de la conférence Black Hat, la finale du défi Cyber grand Challenge, organisé par la Darpa, l’agence américaine chargée des projets de défense avancés, a vu s’opposer des hackers totalement cybernétiques, sans la moindre intervention humaine.

D’importants travaux de recherche

Et les techniques d’apprentissage automatique sont déjà appliquées à des domaines comme la détection de vulnérabilités. Le projet VDiscover en est l’une des multiples illustrations. Un atelier était consacré au sujet dans le cadre de la conférence Hack In The Box en mai 2016. Mais il faut aussi compter avec la librairie Python AdversariaLib, les travaux de Yevgeny Vorobeychik, ou encore le projet Deep-Pwning, qui vise à évaluer la robustesse des modèles d’apprentissage machine face à des attaquants motivés. Il apparaît difficile d’imaginer que les cyber-délinquants n’ont pas déjà commencé à s’intéresser au domaine. 

Pour approfondir sur Menaces, Ransomwares, DDoS