L’intelligence artificielle (IA) est considérée comme étant la révolution numérique du XXIème siècle. Cependant, les innovations au cours de l’histoire, ont toujours soulevé de nombreuses questions, notamment éthiques et juridique.
La montée en puissance de l’IA au début du XXIème n’y a échappé, et est responsable aujourd’hui encore de nombreuses zones de flou juridique.
En ce sens, les institutions commencent peu à peu à légiférer autour de l’intelligence artificielle, afin d’en éviter les dérives.
La commission européenne travaille depuis maintenant plusieurs années sur un projet de règlement « Proposition de résolution européenne relative à la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle et modifiant certains actes législatifs de l’Union COM (2021) »
Ce règlement obligerait chaque pays membre à désigner une autorité de contrôle nationale. Cette autorité servirait d’intermédiaire entre la commission européenne et le comité européen de l’intelligence artificielle.
Cette autorité représenterait notamment son pays devant le comité européen au sujet de l’IA.
En France, la CNIL ( Commission Nationale de l’Informatique et des Libertés) s’est rapidement montrée intéressée par ce rôle, mettant en avant ses connaissances dans le domaine des données personnelles, et étant déjà en charge en France, de la surveillance pour le respect du RGPD (Règlement Général sur la Protection des Données).
Le Conseil d’Etat en son étude du 30 août 2022, s’est montrée plutôt favorable à cette prise de rôle par la CNIL, à condition qu’une refonte soit effectuée en son sein, afin d’optimiser le contrôle et de le rendre efficace.
En conséquence et afin de se préparer à son nouveau rôle, la CNIL a en janvier 2023, créé en son sein le Service de l’intelligence artificielle (SIA).
Ce nouveau service sera composé de juristes et d’ingénieurs spécialisés dans les problématiques liées à l’IA, afin d’appréhender au mieux les contrôles.
Le SIA, après quelques mois de mise en place, décide d’entamer sa première mission « pour un déploiement de systèmes d’IA respectueux de la vie privée des individus ».
Dans le cadre de cette mission, la CNIL se penchera plus particulièrement sur les intelligences artificielles génératives, c’est-à-dire les IA produisant du contenu, image, texte, vidéo ou encore sonore. Parmi ces IA génératives, Chat GPT, DALL-E ou encore MidJourney.
Afin de remplir correctement sa mission, la CNIL a pris la décision de la découper en 4 parties distinctes.
Dans un premier lieu, le SIA étudiera en profondeur le fonctionnement de ces intelligences artificielles génératives, afin de comprendre et d’étudier leur impact sur les utilisateurs. Ainsi, dans cette première phase de recherche, le SIA se penchera sur la question de la collecte de données et particulièrement sur les différentes manières de collecte utilisées par ces IA génératives.
Dans un deuxième lieu, le SIA procèdera à la rédaction de notices, de guides, de recommandations permettant aux entités se servant des intelligences artificielles, d’avoir recours à ces outils, tout en connaissant les conséquences et les risques juridiques de leurs actes.
Dans un troisième lieu, le SIA instaurera des échanges fréquents avec les différents acteurs du monde de l’intelligence artificielle. Ces échanges se feront au travers d’entretiens, ou encore au travers de différents programmes, afin de former les acteurs au respect des données personnelles au sein des systèmes d’IA.
Enfin, dans un dernier temps, la CNIL et son service spécialisé dans l’intelligence artificielle procèdera à des contrôles et des audits, des différentes intelligences artificielles mises en place, avant même l’entrée en vigueur du règlement européen sur les « règles harmonisées concernant l’intelligence artificielle ».
Au-delà de cette mission concernant les IA génératives, la CNIL et son SIA prévoient d’ores et déjà, d’étudier et d’effectuer des contrôles notamment ; sur l’usage de l’IA pour la lutte contre la fraude, sur les plaintes déposées à l’encontre de ChatGPT, ou encore sur l’usage de la vidéosurveillance augmentée (vidéosurveillance permettant l’analyse automatique d’image et de personnes).
Ainsi, la CNIL occupe déjà, et est vouée à occuper, un rôle d’autant plus important, dans le contrôle de l’intelligence artificielle en France, au même titre que ses consœurs dans les pays voisins, comme la Bundesbeauftragte für den Datenschutz und die Informationsfreiheit en Allemagne ou la Data Protection Commission en Irlande.
