IA Act : stimuler l’innovation tout en renforçant la cybersécurité

Le 8 décembre dernier, le parlement européen est parvenu à un accord légiférant l’utilisation de l’intelligence artificielle (IA). Ce règlement vise à promouvoir l’innovation dans le secteur mais aussi à protéger les droits fondamentaux, de la démocratie, de l’État de droit et de la durabilité environnementale face aux applications à haut risque de cette technologie.

Bien que cet accord soit destiné à stimuler les progrès dans le domaine, Ben Eichorst, principal ingénieur en sécurité chez Yubico, souligne que les dirigeants doivent simultanément renforcer leur posture en cybersécurité pour mieux appréhender les risques induits par l’intelligence artificielle en 2024.

« En 2023, le paysage professionnel, et au-delà, a été fortement influencé par une hausse significative de l’adoption des outils d’intelligence artificielle (IA) comme ChatGPT. Cependant, malgré les multiples avantages qu’elle offre, cette technologie a semé des inquiétudes parmi les dirigeants d’entreprise, notamment en ce qui concerne la sécurité informatique. Les avancées dans les modèles d’IA générative, ciblant les sens primordiaux tels que la vue et l’ouïe des utilisateurs, sont exploitées par les cybercriminels. Cette tendance aggrave la complexité de la détection des attaques, notamment du phishing.

En 2024, la mobilité de la main d’œuvre représentera un risque accru en ce qui concerne les outils d’IA, car les employés opéreront à partir de leurs propres réseaux et appareils, qui sont souvent moins sécurisés. Cette transition facilitera l’utilisation de méthodes de plus en plus crédibles par les cybercriminels pour mener à bien des attaques d’ingénierie sociale. Des mesures de sécurité auparavant robustes, telles que la vérification vocale de l’identité lors de la réinitialisation d’un mot de passe, deviendront obsolètes à cause de l’IA générative. Bien que ChatGPT ne puisse pas encore produire des résultats convaincants pour le spear phishing, il pourrait améliorer la qualité générale des campagnes de phishing en évitant les fautes de grammaire, d’orthographe et les informations erronées, par exemple.

Source