L’IA de Facebook juge les oignons trop sexy !
11 octobre 2020.
L’outil d’IA de Facebook, programmé pour modérer automatiquement le réseau social, a encore des progrès à faire.
Cette IA vient de bloquer l’annonce d’un magasin de semences de plantes destinée à promouvoir une variété d’oignons : l’IA juge les oignons trop sexy !
L’annonce présentait la photographie d’un panier d’oignons.
Pour justifier le rejet, l’IA indiquait que l’agencement des produits était exagérément sexualisé et sexuellement suggestif (« Products with Overtly Sexualized Positionning. Listings may not position products or services in a sexually suggestive manner »).
Après réexamen, a priori par une intelligence humaine, l’annonce a repris sa place sur le réseau.
Le tri automatisé des images par une IA semble complexe ! dans la reconnaissance des objets représentés et, probablement dans les biais de l’algorithme.
Ainsi, selon le Guardian , entre janvier et mars 2020, la plateforme a supprimé 39,5 millions de contenus relatifs à la nudité ou à des activités sexuelles et 2,5 millions ont fait l’objet d’un appel contre ces suppressions. Au total, 613 000 publications ont été restaurées.
La modération automatique grâce à des outils d’IA est plus complexe encore en matière de détection des contenus haineux et de la désinformation pour lesquels il faut tenir compte des propos, du niveau de langage, du contexte…
Qu’en sera-t ’il des outils de filtrage des contenus protégés sur les plateformes de partage annoncés par la récente directive sur le droit d’auteur dans le marché unique numérique ?
A work in progress…
ITLAW Avocats mobilise ses talents et son expertise en matière de contrats, d’innovation, de projets informatiques complexes et de propriété intellectuelle ainsi que sa connaissance de l’écosystème IT et son expertise en matière de négociation pour vous accompagner dans la sécurisation de vos projets IA.
Nous contacter