Le Comité national pilote pour l’éthique du numérique donne 22 préconisations sur l’IA générative

Saisi en février par Jean-Noël Barrot, le Comité national pilote pour l’éthique du numérique a publié son avis sur les enjeux d’éthique liés aux systèmes d’intelligence artificielle générative et livre 22 préconisations pour la conception, la recherche et la gouvernance sur le sujet.

Quelques mois après la sortie de ChatGPT et alors que le sujet des IA génératives commençait à prendre de l’ampleur, le Ministre délégué chargé de la transition numérique, Jean-Noël Barrot, saisissait le Comité national pilote pour l’éthique du numérique (CNPEN). Il lui demandait d’examiner « les questions d’éthiques liées à la conception, aux usages, aux impacts sur la société ainsi que les accompagnements nécessaires à la mise en œuvre de ces outils, en considérant prioritairement la génération automatisée de textes ».

Fin juin, Raja Chatila, Laurence Devillers, Alexei Grinbaum, les trois co-rapporteurs, lui ont remis le document et l’ont publié [PDF] début juillet.

Le rapport propose une introduction très didactique, renseignée et détaillée. Par exemple, les auteurs expliquent qu’outre les objectifs scientifiques qui étaient visibles jusque-là, les enjeux économiques de ces modèles « sont parus au grand jour depuis la création en novembre 2022 de l’interface ChatGPT adossée au modèle de langue GPT-3.5 (puis GPT-4) permettant son déploiement grand public, ce qui a provoqué un engouement du public, démultiplié par les médias, souvent au détriment de la connaissance d’autres modèles de langue comme, par exemple, le modèle européen BLOOM ».

Il rappelle aussi l’origine de ces technologies dans les recherches en informatique depuis les années 1950 et redonne la définition d’un modèle de fondation : « modèle de grande taille fondé sur une architecture de réseau de neurones profond, entraîné sur une grande quantité de données non annotées (généralement par apprentissage auto-supervisé) ».

• Le remplacement des travailleurs par l’IA, un récit peu nuancé
• Dangers des grands modèles de langage : des chercheuses avaient prévenu
• BLOOM : l’ambitieux modèle de langage de l’open science
• Des recherches des années 50 à GPT-4 en passant par BERT, quelles évolutions amènent les grands modèles de langage ?

Les chercheurs donnent ensuite 22 préconisations prenant en compte autant les enjeux éthiques, juridiques qu’écologiques et environnementaux.

Parmi ces préconisations, 12 concernent la gouvernance de ces IA génératives et 10  la conception et la recherche sur ces systèmes.

Source