Ce mercredi 15 septembre, l’ONU a appelé à instituer un moratoire sur certains systèmes d’intelligence artificielle risqués tels que la reconnaissance faciale, tant qu’ils ne sont pas contrôlés.
En effet, Michelle Bachet, la Haut-commissaire des droits de l’Homme de l’ONU a déclaré que « les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques s’ils sont utilisés sans prendre en compte suffisamment la manière dont ils affectent les droits humains ».
Le rapport de l’ONU constate que les systèmes d’intelligence artificielle peuvent heurter les droits de l’Homme de manière de plus en plus flagrante.
Ce rapport a notamment révélé que ces systèmes sont utilisés pour déterminer qui a accès aux services publics, au recrutement et avoir un impact sur les informations que les gens voient et peuvent partager en ligne.
Ainsi, des outils défectueux ont pu engendrer des refus injustifiés à des prestations de sécurité sociale et des arrestations.
Au regard de ces risques, l’ONU a appelé les Etats à instituerun moratoire sur les technologies présentant de grands risques, le temps d’effectuer des évaluations sur le niveaud’atteinte au droit à la vie privée ou encore à la liberté de circulation et d’expression.
La Commission européenne, aussi attentive à ces systèmes, avait déjà proposé en avril, des nouvelles règles et actions visant à faire de l’Europe le pôle mondial d’une intelligence artificielle digne de confiance.
Notamment, la Commission souhaite adopter des restrictions portant sur l’utilisation des systèmes d’intelligence artificielle pour l’identification biométrique à distance « en temps réel » dans des espaces accessibles au public et à des fins répressives.
Pour les responsables de l’ONU « ce problème n’est pas celui de demain. C’est celui d’aujourd’hui ».
