CATALOGUE IA Apprendre à utiliser l’IA générative de façon responsable

Limiter les stéréotypes dans la génération d'images par l'IA

Retour à la formation
Chapitre 4 Leçon 4
Précédent
Suivant

Cette vidéo explore les bonnes pratiques pour réduire les stéréotypes lors de la génération d'images avec une IA, notamment via l'usage de prompts diversifiés, la contextualisation et l'itération, à l’aide de Stable Diffusion comme principal exemple.

Détails de la leçon

Description de la leçon

Dans cette leçon, nous abordons en profondeur les méthodes permettant de limiter la génération de stéréotypes lors de la création d’images par IA. L’explication commence par l’importance de spécifier la diversité dans les prompts, en précisant les genres, âges, ou origines ethniques souhaitées pour encourager l’IA à éviter la reproduction de schémas discriminants.


La vidéo insiste sur l’efficacité de remplacer les descriptions genrées (par exemple, « serveuse » ou « infirmière ») par des formulations neutres, et encourage à exploiter la technique du prompt négatif permettant d’expliciter les éléments à exclure de l’image, comme la dominance d’un groupe ethnique ou d’un sexe.


L’ajout de contexte, tel que l’emplacement géographique ou la profession, est également recommandé pour affiner la cohérence et la diversité du contenu généré. Un accent particulier est mis sur l’itération, conseillant de retravailler régulièrement le prompt en fonction des premiers résultats, afin d’atteindre l’équilibre souhaité en termes d’inclusivité.


L’étude de cas avec Stable Diffusion sert à illustrer la nécessité de persévérance et d’ajustement, notamment en comparaison entre différents modèles ou en modifiant le prompt négatif. La leçon conclut que seul un prompt rigoureux et adapté, soutenu par des outils professionnels, permet d’obtenir des images véritablement dénuées de biais.

Objectifs de cette leçon

À l’issue de la vidéo, l’apprenant saura :
- Identifier les stéréotypes fréquemment générés par les IA d’images.
- Maîtriser les techniques de prompt engineering pour favoriser la diversité et l’inclusion.
- Utiliser le prompt négatif de façon appropriée.
- Adapter et itérer ses demandes pour perfectionner le résultat.

Prérequis pour cette leçon

Une connaissance de base des outils de génération d’images par IA, tels que Stable Diffusion, ainsi qu’une sensibilité aux enjeux de diversité et éthique dans la technologie, sont recommandées.

Métiers concernés

Les graphistes, illustrateurs, spécialistes IA, rédacteurs, concepteurs pédagogiques, responsables RSE et data scientists sont concernés par ces pratiques, notamment dans le cadre de la création de visuels non discriminants et de contenus éthiques.

Alternatives et ressources

Outre Stable Diffusion, des alternatives telles que DALL·E, Midjourney ou DreamStudio peuvent être exploitées pour la génération d’images tout en appliquant les mêmes pratiques.
Des outils comme Artbreeder ou Deep Dream Generator offrent également des options complémentaires.

Questions & Réponses

Il est essentiel de spécifier explicitement la diversité attendue dans le prompt, de privilégier des formulations neutres et inclusives, et d’utiliser des prompts négatifs pour exclure tout biais potentiel.
Le prompt négatif consiste à décrire ce que l’on ne souhaite pas voir dans l’image générée. Cette technique permet d’orienter l’IA loin des clichés ou biais récurrents, garantissant ainsi un contenu plus inclusif et fidèle à la demande initiale.
Les modèles d’IA, même lorsqu’ils sont guidés, peuvent persister dans certains biais. Il est donc souvent indispensable de réitérer et affiner les prompts, voire de changer de modèle, pour obtenir un résultat qui respecte réellement l’intention de diversité et d’absence de stéréotypes.