MIDJOURNEY est-il adepte du biais de confirmation ou victime de nos préjugés ?

📻 Dans sa chronique sur France Culture, Aurélie JEAN, Ph.D. décrivait un test perturbant réalisé sur Midjourney. Lorsqu’on demande de générer une photo de mariage en France, on y voit un couple heureux avec des proches lançant des fleurs. Mais le simple fait d’ajouter « en banlieue » modifie pour une ambiance plus sombre, triste voire effrayante.

❓ Midjourney n’aime pas la banlieue ? En fait, l’application s’entraine sur des millions d’images existantes qui ont été labellisées par nos soins… et il semble que nous connotions statistiquement la banlieue de manière négative et violente. Donc si Midjourney génère ce type d’images, c’est parce que la représentation de la banlieue sur Internet est stigmatisée … et cela génère malheureusement un cercle vicieux renforçant nos préjugés, d’où le biais de confirmation. 

🧐 J’avais déjà écrit dans un article sur la nécessité de développer sa pensée critique face à l’IA Générative. La chercheuse recommande aux concepteurs des solutions de type Midjourney de continuer à ajuster leur modèle pour limiter ce genre de biais. 

📌 L'IA Generative est un formidable outil, son usage généralisé nécessite de l'acculturation et de la conduite du changement.