IA washing en médiathèque

IA washing en médiathèque ? Je vous explique :

Comprendre le "IA washing"
En 2016, Amazon a lancé le programme «Il suffit de sortir», prétendant utiliser l’IA pour facturer automatiquement les achats. Cependant, en réalité, l’entreprise employait des travailleurs indiens pour traiter les achats, soulevant ainsi des questions sur le «IA washing».

Qu’est-ce que le "IA washing" ?
Le «IA washing» consiste à exagérer les capacités de l’IA ou à dissimuler le travail humain derrière des systèmes d’IA. Amazon a affirmé que leur modèle d’apprentissage automatique était amélioré avec des données synthétiques, mais des preuves suggèrent une implication humaine significative.

Préoccupations et transparence
Le manque de confiance envers l’IA est un obstacle majeur à son adoption généralisée.
Malgré les promesses de transparence, les récentes accusations contre Amazon soulignent la nécessité d’une plus grande honnêteté et transparence de la part des entreprises impliquées dans le développement et l’utilisation de l’IA.

Vers le "cool washing"
Depuis 2006, les IA ont réellement fait des progrès significatifs et fonctionnent sans intervention humaine.
Cependant, certaines IA cachées dans les flux d’informations hiérarchisent arbitrairement l’information pour placer de la publicité. Cette mise en avant de contenus problématiques, comme l’incitation à la haine contre les Rohingyas, a contribué à leur génocide, selon Amnesty International.
Malgré ces risques, l’attention reste souvent focalisée sur les progrès de l’IA générative, un phénomène appelé «cool washing».

Une utilisation de l’IA responsable
Cocktail Culturel utilise l’IA uniquement pour identifier le contenu des vidéos YouTube.
Les recommandations de contenus associés sont générées par un algorithme « en boite noire » transparent avec un modèle mathématique précis et vérifiable.
Cette approche vise à éviter les externalités négatives des flux de recommandation.

Activez la cloche
Du lundi au vendredi à 15h30 une nouvelle actu sur les nouveaux enjeux du monde des bibliothèques.

Aviez-vous déjà entendu parler de «cool washing» ?
Dites le moi en commentaire

https://lnkd.in/gyeMtAUt