Le NIST américain, dédié à la défense des systèmes d’informations, a publié récemment un billet sur les menaces grandissantes contre les systèmes IA. Au menu, données corrompues, empoisonnement, attaques contre la vie privée et autres abus.
Le National Institute of Standards and Technology est un organisme américain remplissant de multiples fonctions. Il est chargé, certes, de la cybersécurité, mais également du développement de technologies et de normes en lien avec l’industrie, au sens large. Il dépend du département américain du Commerce et a une grande influence notamment sur les protocoles de sécurité et autres standards de chiffrement.
L’Institut a publié il y a quelques jours un billet faisant le point sur les menaces qui pèsent contre l’intelligence artificielle. La principale est évidente : « Les systèmes d’IA peuvent mal fonctionner lorsqu’ils sont exposés à des données non fiables, et les attaquants exploitent ce problème ». Le NIST indique qu’il n’existe pas, à l’heure actuelle, de méthode réellement fiable pour se prémunir à coup sûr de telles attaques. Cependant, il existe des moyens d’atténuer les risques.
La publication du NIST est basée sur les travaux menés par une équipe de chercheurs (Apostol Vassilev, Alina Oprea, Alie Fordyce et Hyrium Anderson). Cette étude vise à établir une « taxonomie et terminologie des attaques et des mesures d’atténuation », pour ce qu’ils nomment le « machine learning conflictuel ».
« Ces défis en matière de sécurité et de protection de la vie privée comprennent le potentiel de manipulation des données d’entraînement par des adversaires, l’exploitation des vulnérabilités des modèles pour nuire aux performances du système d’IA, et même les manipulations malveillantes, les modifications ou la simple interaction avec les modèles pour exfiltrer des informations sensibles sur les personnes représentées dans les données, sur le modèle lui-même, ou sur les données propriétaires de l’entreprise », présente ainsi le NIST.