En 2023, j’ai fait une expérience toute simple avec MidJourney.

J’ai demandé au modèle de générer des portraits de femmes montréalaises, année par année, de 1980 à 2025.

Le prompt était volontairement minimaliste :

Sur le coup, je n’ai rien remarqué. Mais en assemblant les photos pour en faire une courte animation, ça m’a frappée.

As-tu remarqué, toi aussi?

Sur 45 portraits, presque toutes les femmes sont jeunes, minces, jolies et… blanches ! Une ou deux portaient des lunettes, comme si c’était le grand élément de diversité du projet.

Si on s’est déjà parlé toi et moi, ou si tu me suis sur les réseaux, tu sais probablement que je prône depuis toujours un modèle de marketing beaucoup plus diversifié et représentatif de la population générale.

Donc même si je SAVAIS en 2023 que les modèles pouvaient être biaisés, puisqu’ils étaient entraînés sur des comportements humains, je n’aurais jamais cru que ça serait aussi évident.

Fast-forward presque trois ans plus tard…

Je viens de refaire l’exercice avec Gemini.

Le modèle a peu d’importance ici : le résultat aurait probablement été similaire avec ChatGPT. Ce qui a surtout changé, c’est la vitesse. Ça m’a pris environ 15 minutes pour générer tout ça. Il y a trois ans, ça m’avait pris presque toute une journée.

Pour ce projet, j’ai gardé le même prompt qu’il y a trois ans, pour ne pas influencer les résultats. Donc oui, ça paraît que les images sont IA, pas besoin de me le dire ! 🙂

L’idée était de voir si les résultats sont le reflet de la société des 46 dernières années, ou pas.

Et j’aurais espéré une amélioration évidente.

Mais les femmes sont encore très jeunes, jolies, minces et blanches. La diversité visible reste subtile. Comme si le modèle avait appris à varier légèrement les visages, sans vraiment remettre en question son idée de départ.

Je me suis donc posé la question suivante, et j’en ai même discuté avec ChatGPT et Gemini :

Quand on demande à une IA de générer « une femme montréalaise », est-ce que ça sous-entend une femme blanche d’origine québécoise ?

Selon ChatGPT et Gemini, non.

Mais dans l’imaginaire visuel des modèles d’IA, c’est pas mal ça, oui.

L’IA ne voit pas Montréal. Elle voit des probabilités.

Une femme montréalaise, ce n’est pas un type de visage, ni une moyenne.

Ce n’est pas une origine ethnique, un âge, une silhouette ou une esthétique.

Une femme montréalaise, c’est une femme qui vit à Montréal, qui vient de Montréal ou qui est associée à Montréal.

Elle peut être blanche, noire, haïtienne, vietnamienne, autochtone, latine, métisse. Elle peut avoir 22 ans, 48 ans ou 76 ans. Elle peut être grande ou petite. Elle peut être entrepreneure, caissière, artiste, avocate, mère de famille, étudiante, retraitée ou travailleuse de nuit.

Montréal n’a pas un seul visage.

Mais les IA génératives aiment beaucoup les raccourcis.

Quand on leur donne un prompt très ouvert, elles remplissent les blancs avec ce qu’elles ont appris comme étant le plus probable.

Et « probable » ne veut pas dire « vrai ».

Pourquoi les femmes générées se ressemblent-elles autant ?

Les modèles d’IA ne comprennent pas le monde et sa diversité comme nous.

Ils ne se demandent pas : « Quelle serait une représentation juste de la diversité montréalaise selon l’époque, les quartiers, les classes sociales et les trajectoires migratoires ? »

Ils calculent plutôt une image probable à partir des données qu’ils ont absorbées.

Ces données viennent d’images publiques : photos de presse, banques d’images, archives, publicités, portraits professionnels, médias, magazines, réseaux sociaux, photos touristiques, contenus lifestyle.

Donc quand on demande « une femme montréalaise », le modèle ne va pas chercher Montréal dans toute sa complexité.

Il cherche une moyenne visuelle de ce que ses données associent à :

Et cette moyenne est déjà biaisée.

Le problème ne commence pas avec l’IA. Il commence avec trois filtres très humains : ce qu’on a choisi de montrer, ce qu’on a choisi de vendre et ce qu’on a réussi à numériser.

Trois biais derrière ces portraits

1. Le biais historique et médiatique

Qui avait accès aux caméras en 1980 ?

Qui était photographié ? Qui était publié dans les journaux ? Qui apparaissait dans les publicités, les magazines, les archives officielles et les images utilisées pour représenter Montréal ?

Majoritairement, des personnes blanches.

Ça ne veut pas dire que les autres communautés n’étaient pas là. Ça veut dire qu’elles étaient moins visibles dans les traces publiques qui ont ensuite servi à documenter l’époque.

L’IA ne retourne pas dans le Montréal de 1980 pour observer la ville. Elle reconstruit une image à partir des traces disponibles.

Et si ces traces montrent surtout certains visages, certains quartiers, certaines classes sociales et certains standards de beauté, le modèle apprend que ces visages sont plus « probables ».

2. Le biais de sélection commerciale

Les modèles d’IA générative ont aussi appris à partir d’images très commerciales : banques d’images, photos de mode, publicités, portraits professionnels, contenus lifestyle.

Ces images ne représentent pas la vraie vie. Elles représentent ce qui a été jugé beau, vendable, aspirationnel, cliquable ou publiable.

L’humain a massivement photographié des personnes jeunes, minces, branchées, symétriques et conformes aux standards dominants de beauté.

Ensuite, l’IA a appris que ce type de personne correspondait à une « bonne image ».

C’est pour ça qu’elle ne génère pas seulement une femme montréalaise. Elle génère souvent une femme montréalaise version banque d’images : jeune, jolie, mince et blanche.

3. Le biais de numérisation

Ce qui se trouve sur internet aujourd’hui représente une infime partie de la réalité.

Certaines communautés ont laissé beaucoup de traces numérisées. D’autres, beaucoup moins.

Des photos existent peut-être dans des albums de famille, des archives communautaires, des journaux locaux, des centres culturels ou des boîtes jamais ouvertes.

Mais si ces images ne sont pas numérisées, indexées, accessibles et bien nommées, elles deviennent pratiquement invisibles pour les algorithmes.

C’est particulièrement vrai pour les communautés racisées, immigrantes, ouvrières ou marginalisées dans l’histoire de Montréal.

Elles ont existé. Elles ont participé à la ville. Elles ont eu des visages, des styles, des vies, des métiers, des familles, des quartiers.

Mais si leurs traces sont moins présentes dans les données accessibles, l’IA les fait disparaître une deuxième fois.

C’est probablement ça, le plus troublant. Le biais n’est pas seulement dans ce que l’IA invente. Il est aussi dans ce que nos archives n’ont pas assez conservé, nommé ou rendu visible.

L’IA ne montre pas la réalité. Elle montre ce qui a été rendu visible.

C’est la grande leçon de cette expérience.

L’IA ne nous montre pas directement la réalité. Elle nous montre ce que nos images ont rendu probable.

Si certaines personnes ont été moins photographiées, moins publiées, moins archivées ou moins associées à une ville, elles deviennent moins visibles dans les résultats générés.

Pas parce qu’elles n’étaient pas là. Parce qu’elles étaient moins présentes dans les traces utilisées pour entraîner les modèles.

C’est comme ça qu’un biais historique devient un résultat technologique.

Et c’est aussi pour ça que les images générées peuvent être si trompeuses. Elles sont le résultat d’un calcul de probabilité basé sur des représentations déjà filtrées.

Conclusion : l’IA est le miroir de nos biais et de nos archives

L’IA est souvent décrite comme un miroir de la société. Je pense que c’est vrai, mais incomplet.

L’IA n’est pas un miroir de la réalité. C’est un miroir de ce qui a été documenté, publié, archivé, nommé, optimisé et rendu visible.

Quand j’ai demandé à l’IA de générer des femmes montréalaises, elle ne m’a pas montré des femmes montréalaises.

Elle m’a montré une version probable de femmes montréalaises, basée sur des représentations déjà biaisées.

Ce qui me frappe le plus, c’est que je pensais que ça allait s’améliorer presque naturellement avec le temps.

Mais une IA plus puissante n’est pas nécessairement une IA plus juste.

Si elle apprend encore à partir de traces incomplètes, de banques d’images standardisées, d’archives partielles et de représentations déjà biaisées, elle risque simplement de produire une version plus belle, plus propre et plus convaincante du même problème.

La diversité ne se génère pas toute seule.

Si on veut que l’IA reflète mieux notre société, il faut faire l’effort de diversifier ce qu’on lui donne à voir.

Ça veut dire mieux documenter. Mieux archiver. Mieux nommer. Mieux numériser. Mieux représenter.

Parce qu’au fond, l’IA ne fait pas qu’imaginer le monde. Elle répète aussi ce qu’on a choisi de montrer.

Et si on veut qu’elle montre autre chose, il va falloir commencer par rendre cet autre chose visible.

Tu veux être dans la boucle quand je publie du contenu comme ça? Inscris-toi à mon infolettre.

~ Mélanie

Tous les articles