Alors que de plus en plus d’organisations adoptent l’IA et le ML comme contrôles de cybersécurité et pour détecter et dissuader les attaques, les cybercriminels élaborent des moyens d’utiliser l’IA comme base des attaques. « Ce que l’on appelle » l’IA offensive » permettra aux cybercriminels de diriger des attaques ciblées à une vitesse et à une échelle sans précédent tout en passant sous le radar des outils de détection traditionnels basés sur des règles « .
MIT Technology Review s’est associé à Darktrace pour mener des recherches sur la manière de faire face aux menaces de cybersécurité actuelles et futures. Presque tous les quelque 300 cadres, directeurs et managers de niveau C interrogés (96 %) ont déclaré qu’ils se préparaient à des cyberattaques basées sur l’IA, et 68 % s’attendent à ce que l’ IA soit utilisée pour usurper l’identité d’humains et lancer des attaques de spear phishing.
« Les approches basées sur l’analyse des attaques historiques seront mal équipées pour se défendre contre l’IA offensive. Une approche fondamentalement nouvelle utilisant une technologie d’auto-apprentissage et une réponse autonome sera nécessaire pour augmenter les équipes de sécurité humaine », a déclaré Nicole Eagan, responsable de la stratégie et de l’IA chez Darktrace, dans un communiqué officiel.
Tout système pouvant recevoir les informations des utilisateurs sera sujet à manipulation, a déclaré John Bambenek, conseiller en renseignement sur les menaces chez Netenrich, dans un commentaire par e-mail.
« Qu’il s’agisse de systèmes de reconnaissance faciale, de publications sur les réseaux sociaux ou de systèmes de reconnaissance d’objets pour voitures autonomes, les attaques black hat SEO et d’amplification des réseaux sociaux sont, à la base, des attaques contre les systèmes d’apprentissage automatique déployés par les entreprises technologiques », a ajouté Bambenek.
Étant donné que les attaquants se tournent davantage vers cette « IA offensive » et utilisent des techniques telles que l’usurpation d’identité pour inciter les utilisateurs à se compromettre, les équipes de cybersécurité doivent être plus vigilantes que jamais. La sensibilisation au phishing sera particulièrement importante.
Source : https://securityboulevard.com/2021/06/how-offensive-ai-can-disarm-cybersecurity/