Un projet de règlement de la Commission européenne, que le Sénat s’apprête à discuter, veut faire surveiller, par des IA, l’intégralité du web, des emails et messageries chiffrées, afin d’identifier les « violences sexuelles sur mineurs ». Au-delà de son impossibilité technique, la proposition ferait de nombreuses victimes collatérales.
En mai 2022, la Commission européenne présentait une nouvelle proposition de règlement « visant à prévenir et à combattre les abus sexuels sur les enfants en ligne », afin d’obliger les fournisseurs de « certains services » à « détecter, signaler et retirer les matériels relatifs aux abus sexuels commis sur des enfants dans le cadre de leurs services » :
« Les obligations de détection concernent le matériel connu (photos et vidéos rechargées qui ont été précédemment repérées comme constituant du matériel relatif aux abus sexuels sur les enfants), le matériel nouveau (photos et vidéos qui n’ont pas été précédemment repérées) et le pédopiégeage (ou « grooming », une pratique selon laquelle les auteurs d’abus sexuels sur les enfants tissent une relation de confiance et un lien émotionnel avec des enfants afin de les manipuler, de les exploiter sexuellement et de les abuser). »
La Commission précisait que seraient concernés les « services d’hébergement et les services de communications interpersonnelles (tels que les services de messagerie), les boutiques d’applications et les fournisseurs d’accès à l’internet », comme le précise le projet de règlement :
« Afin d’atteindre les objectifs du présent règlement, celui-ci devrait s’appliquer aux fournisseurs de services susceptibles d’être utilisés à mauvais escient à des fins d’abus sexuels sur enfants en ligne. Étant donné qu’ils sont de plus en plus souvent utilisés à ces fins, les services de communications interpersonnelles accessibles au public, tels que les services de messagerie et les services de messagerie électronique sur l’internet, dans la mesure où ils sont accessibles au public, devraient être couverts par le présent règlement. »
La proposition prévoit qu’ils « devront déployer des technologies qui soient les moins intrusives au regard de la vie privée en l’état actuel de la technique dans le secteur, et qui limitent autant que possible le ratio d’erreurs (faux positifs) ».