Des chercheurs ont créé un ver informatique destiné aux IA

Voler des données, envoyer des spams ou propager des logiciels malveillants. Ces méfaits ont été commis par des systèmes d’IA infestés par un ver créé par des chercheurs spécialisés en sécurité informatique. En milieu sécurisé pour le moment.

Des chercheurs ont créé ce qu’ils assurent être le premier ver informatique spécifique à des intelligences artificielles génératives, capable de se propager d’un système d’IA à un autre et de voler des données, d’envoyer des courriels ou encore de répandre des logiciels malveillants, rapporte le site américain Wired.

“En résumé, cela signifie qu’il est désormais possible de mener une cyberattaque d’un genre complètement nouveau”, explique Ben Nassi, chercheur à Cornell Tech, qui a participé à l’étude. Avec ses collègues, il a conçu un ver baptisé Moris II, en référence au tout premier ver informatique développé en 1988, appelé Moris, qui utilise un “adversarial self-replicating prompt”, des instructions autoréplicatives. Il s’agit d’un prompt, du texte en langage naturel, qui fait en sorte que, dans sa réponse, le modèle d’IA produise à son tour un prompt. En d’autres termes, l’IA est “manipulée” pour produire des instructions supplémentaires.

Sans entrer dans les détails techniques (disponibles sur le site des chercheurs), Moris II cible les assistants de messagerie par IA générative. Il est capable de les manipuler pour leur faire dévoiler des informations contenues dans un courriel par exemple ou pour leur faire propager des spams via une boîte de messagerie.

Source