L’IA pourrait aussi servir à créer de la désinformation scientifique

Dans la lutte contre les fausses informations, l’intelligence artificielle peut apporter une aide précieuse. En novembre dernier, nous vous parlions notamment de ce système développé par des chercheurs de l’Université de Californie, de Berkekey et de Cornell. Il permet de repérer les adresses de sites d’informations douteux.

Dans le détail, l’outil se concentre sur les données d’enregistrement du domaine, ou encore sur l’identité de la personne qui l’a enregistré. Le résultat est concluant puisque ce dispositif affiche un taux de réussite de 92 % dans la détection de faux sites d’information.

Une bataille entre plusieurs formes d’IA

Pour autant, l’intelligence peut aussi devenir un vrai danger en matière de désinformation dans le domaine scientifique. Des chercheurs américains ont ainsi constaté qu’il est possible de générer de fausses nouvelles en ayant recours au générateur de texte de type GPT-2 de la société OpenAI. Cette découverte est assez effrayante et ils citent l’exemple de la fourniture de conseils médicaux erronés à des médecins qui mettraient la vie de leurs patients en jeu.

Source : https://www.presse-citron.net/lia-pourrait-aussi-servir-a-creer-de-la-desinformation-scientifique/