Différents constructeurs de modèles grand public d’intelligence artificielle, à commencer par Open AI, sont sous le coup d’enquêtes des autorités de protection des données canadiennes ou européennes. L’Italie a même banni temporairement ChatGPT le temps que l’entreprise se mette en conformité avec le Règlement général sur la protection des données (RGPD).
Problème, rapporte la Technology Review : les modèles sont construits de telle sorte (en récupérant d’immenses sommes de données en ligne) qu’il est quasiment impossible pour leurs créateurs de se conformer aux réglementations.
Si bien que selon le contrôleur européen de la protection des données Wojciech Wiewiórowski, interviewé par le média américain, les régulateurs doivent se préparer à l’éventualité d’un scandale à la Cambridge Analytica, qui a durablement éclaboussé Facebook.
D’un point de vue réglementaire, la plus grave infraction qu’avait commise l’entreprise n’avait pas été de collecter des données, mais de le faire à des fins prétendument scientifiques pour finalement les utiliser dans un autre but : celui de créer un profilage politique.
« L’approche européenne est liée à la finalité d’utilisation des données collectées », indique le contrôleur. « Si vous changez cette finalité », et si vous le faites sans prévenir, ou en donnant des informations fausses, « vous commettez une infraction. »
Pour Wojciech Wiewiórowski, les entreprises de la tech devraient construire des technologies intégrant des fonctionnalités de protection de la vie privée dès le départ – même s’il admet qu’il est difficile de les convaincre d’adopter ces approches « privacy-by-design » quand les entreprises doivent sortir leurs produits rapidement.
À la question « est-ce que la régulation freine l’innovation ? », le contrôleur répond que le problème devrait être reformulé pour se demander si, vraiment, nous souhaitons donner aux entreprises un accès illimité à nos données personnelles.
Le but des régulations, continue-t-il, est simplement de rendre l’innovation « plus civilisée ».