La Commission européenne a adopté récemment deux propositions visant à encadrer les règles de responsabilité à l’ère numérique. La première veut moderniser les règles existantes sur la responsabilité objective des fabricants de produits défectueux, l’autre – pour la première fois – de définir un cadre pour les erreurs commises par les systèmes d’IA. Nous nous penchons sur la seconde.
Encadrer les responsabilités en matière d’IA était un projet en gestation depuis longtemps à la Commission. Elle est d’autant plus attendue qu’elle doit permettre un essor des SIA (systèmes d’intelligence artificielle) en définissant clairement qui est responsable quand un tel système produit une erreur ayant des répercussions sur la vie des administrés. Un moyen considéré comme l’un des principaux vecteurs de confiance.
On se souvient, dans notre dossier sur le rapport du Conseil d’État, que le nommage d’une personne comme responsable des SIA d’une structure était l’une des recommandations phares. La haute juridiction estimait qu’il s’agissait d’une étape essentielle dans la constitution d’une chaine de responsabilité propre à générer la confiance, cruciale pour un essor sain des SIA en Europe et en France.
La seconde proposition de la Commission vient justement s’attarder sur ce chapitre important de la responsabilité, face à la question : « En cas d’erreur impactant ma vie, quel est mon recours ? ». Elle propose de moderniser le cadre actuel en matière de responsabilité civile, tout en introduisant des règles spécifiques aux dommages causés par les SIA.