« Obéir ou désobéir, il s’agit avant tout d’être en capacité de choisir. » Selon Sandrine Cochard, journaliste de l’ADN dans son article Faut-il désobéir aux IA ? Publié le 01/04/21.

 

Intelligence Artificielle : quelle confiance accorder aux algorithmes ? Faut-il parfois désobéir aux IA ?
L’IA utilisée comme aide à la décision : quels risques ? Jusqu’où faire confiance ?

 

Cet article nous rappelle l’importance de la place de l’humain dans l’utilisation des IA.

 

📌 Mais au fait, IA & biais : de quoi s’agit-il ?

  • L’IA est dépendante des données : de leur qualité, de leur « exhaustivité », de la façon dont elles vont être utilisées pour l’analyse
  • En fonction des données fournie à l’IA : les résultats de l’IA seront plus ou moins biaisés
  • Les biais sont en réalités sont issus de la société et vont donc dépendre de l’humain, ou l’équipe d’humains qui vont développer l’algorithme = en réalité l’IA est à l’image de son développeur !

 

D’où l’importance de prévoir des contrôles et des audits des algorithmes.

 

📌 Deux axes importants à retenir :

  • L’absence de législation et de régulation de l’IA. Certes, nous avons le RGPD mais il se limite à cadrer la protection des données personnelles.
    • Il faut donc mettre en place une gouvernance avec vos partenaires.
    • Le contrat est l’outil idéal pour cadrer les rôles et responsabilité des différentes parties prenantes.
    • Il est impératif de mettre en place une gouvernance juridique aux cotés de la gouvernance technologique.
  • La formation pour favoriser le libre arbitre : « En étant conscients de son fonctionnement, nous sommes libres de choisir la recommandation d’une IA – ou pas ! »

 

Claudia Weber

Claudia Weber, Avocat fondateur ITLAW Avocats.

 

Besoin d’aide pour sécuriser vos projets IA ?

ITLAW Avocats accompagne ses clients depuis 25 ans dans la rédaction et la négociation des contrats IT, y compris d‘innovation , de projets informatiques complexes et de propriété intellectuelle  et mobilise ses talents , ses expertises , ainsi que sa connaissance de l’écosystème IT, y compris des achats, pour vous accompagner dans la sécurisation et vos projets.

Nous avons également créé des formations  destinées aux juristes, DSI, Acheteurs et Commerciaux.

Nous contacter