Faut-il désobéir aux IA ? – L’ ADN
29 avril 2021.

« Obéir ou désobéir, il s’agit avant tout d’avoir la capacité de choisir. » Selon Sandrine Cochard, journaliste de l’ADN dans son article Faut-il désobéir aux IA ? Publié le 01/04/21.
Intelligence Artificielle : quelle confiance accorder aux algorithmes ? Faut-il parfois désobéir aux IA ?
L’IA utilisée comme aide à la décision : quels risques ? Jusqu’où faire confiance ?
Cet article nous rappelle l’importance de la place de l’humain dans l’utilisation des IA.
📌 Mais au fait, IA & biais : de quoi s’agit-il ?
- L’IA est dépendante des données : de leur qualité, de leur « exhaustivité », de la façon dont elles vont être utilisées pour l’analyse
- En fonction des données fournie à l’IA : les résultats de l’IA seront plus ou moins biaisés
- Les biais sont en réalités sont issus de la société et vont donc dépendre de l’humain, ou l’équipe d’humains qui vont développer l’algorithme = en réalité l’IA est à l’image de son développeur !
D’où l’importance de prévoir des contrôles et des audits des algorithmes.
📌 Deux axes importants à retenir :
- L’absence de législation et de régulation de l’IA. Certes, nous avons le RGPD mais il se limite à cadrer la protection des données personnelles.
- Il faut donc mettre en place une gouvernance avec vos partenaires.
- Le contrat est l’outil idéal pour cadrer les rôles et responsabilité des différentes parties prenantes.
- Il est impératif de mettre en place une gouvernance juridique aux cotés de la gouvernance technologique.
- La formation pour favoriser le libre arbitre : « En étant conscients de son fonctionnement, nous sommes libres de choisir la recommandation d’une IA – ou pas ! »
Claudia Weber, Avocat fondateur ITLAW Avocats.
Besoin d’aide pour sécuriser vos projets IA ?
ITLAW Avocats accompagne ses clients depuis 25 ans dans la rédaction et la négociation des contrats IT, y compris d‘innovation , de projets informatiques complexes et de propriété intellectuelle et mobilise ses talents , ses expertises , ainsi que sa connaissance de l’écosystème IT, y compris des achats, pour vous accompagner dans la sécurisation et vos projets.
Nous avons également créé des formations destinées aux juristes, DSI, Acheteurs et Commerciaux.
Nous contacter