La Commission européenne travaille actuellement sur un encadrement de la reconnaissance faciale et plus généralement sur l’encadrement des technologies d’intelligence artificielle.
Le Parlement a pris une position forte le 6 octobre 2021, il s’est prononcé à 377 voix contre 248 et 62 abstentions, en faveur de l’interdiction totale de la surveillance biométrique en masse.
Les députés soulignent le risque de biais algorithmique dans les applications d’intelligence artificielle et précisent que des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination de l’intelligence artificielle, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier.
En effet, le Parlement émet des craintes relatives aux discriminations, notamment de l’existence d’un nombre important d’erreurs d’identification. Pour garantir le respect des droits fondamentaux, les députés requiert des algorithmes transparents, traçables et suffisamment documentés.
Pour les députés, les décisions finales doivent être prises par un être humain et les personnes soumises à ces systèmes doivent disposer de voies de recours.
Ainsi, le Parlement sollicite une interdiction permanente de la reconnaissance automatisée des individus dans les espace publics. Il a explicitement exprimé sa préoccupation à l’égard de services de reconnaissance faciale comme Clearview AI.
Le Parlement souhaite également interdire les systèmes de notation sociale tentant d’évaluer la fiabilité des citoyens.
Il n’est pas sans rappelé que ce système existe d’ores et déjà en Chine. Les individus dont la note est trop basse se retrouve alors privés du droit de postuler certains emplois, d’inscrire leurs enfants dans certaines écoles ou encore de prendre les transports en commun.
Le rapporteur Petar Vitanov a déclaré: « Nous envoyons un message clair: les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants. Nous nous opposons clairement à la police prédictive fondée sur l’utilisation de l’IA ainsi que sur tout traitement des données biométriques conduisant à une surveillance de masse. C’est une énorme victoire pour tous les citoyens européens. »
Il convient de préciser que la résolution du Parlement européen n’est pas juridiquement contraignante. Cependant elle pourrait avoir une forte influence à l’heure où l’Union Européenne travaille sur l’élaboration des nouvelles règles en matière d’intelligence artificielle.
