Si, jusqu’alors, le Défenseur Des Droits (DDD) et la CNIL, deux autorités administratives indépendantes, avaient, chacun dans son domaine de compétence[1], été amenée à se prononcer sur les risques liés au recours aux algorithmes pour les droits et libertés des personnes, un séminaire les réunissant les 28 et 29 mai sur le thème  « Algorithmes, biais et lutte contre les discriminations », les a conduit à mener une réflexion commune.

Le Défenseur Des Droits (DDD), en partenariat avec la CNIL, a fait certaines [2]préconisations, visant à réduire les risques de biais discriminatoires résultant, notamment du manque de représentativité des données de référence ou de la traduction mathématique de pratiques discriminatoires.

Ainsi, convient-il, au-delà de la nécessaire prise de conscience et mobilité collective face aux risques potentiels des algorithmes, de :

  • Former et sensibiliser les professionnels, utilisateurs de ces procédés, de sorte à développer leur vigilance et leur regard critique,
  • Développer, au sein de l’Union Européenne, les analyses menées aux Etats-Unis montrant l’ampleur des biais discriminatoires liés aux algorithmes,
  • Renforcer les obligations en matière d’information et de transparence des algorithmes,
  • Réaliser des études d’impact pour anticiper les effets discriminatoires des algorithmes,

Il est à noter, s’agissant des deux dernières recommandations, que les contraintes posées par le RGPD sont des éléments incontournables dans le déploiement de tout projet d’Intelligence Artificielle.

Cette réflexion commune s’inscrira dans la durée, de sorte à garantir le respect du principe d’égalité face au déploiement du recours aux algorithmes.

Vous travaillez sur un projet IA et souhaitez le mettre en conformité  ?

Le Cabinet ITLAW Avocats, fort de son expertise depuis plus de 25 ans en matière de nouvelles technologies et de protection des données  est à votre disposition pour vous accompagner.

Pour nous contacter : cliquez ici

[1] https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf

https://www.defenseurdesdroits.fr/fr/outils/recruter-avec-des-outils-numeriques-sans-discriminer

https://www.defenseurdesdroits.fr/fr/rapports/2017/09/lutte-contre-la-fraude-aux-prestations-sociales-a-quel-prix-pour-les-droits-des

[2] https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/synth-algos-num2-29.05.20.pdf

Nous contacter