CATALOGUE IA Apprendre à utiliser l’IA générative de façon responsable

Comparatif des niveaux de censure dans les IA génératives

Retour à la formation
Chapitre 4 Leçon 2
Précédent
Suivant

Cette vidéo analyse les différents niveaux de censure présents dans les IA génératives comme Stable Diffusion, MidJourney, Gemini, ChatGPT et Claude, soulignant leur impact sur la reproduction de biais et de stéréotypes dans les contenus générés.

Détails de la leçon

Description de la leçon

Dans ce module, nous explorons la manière dont plusieurs IA génératives gèrent la censure des contenus, en mettant en lumière les conséquences éthiques liées à la production de stéréotypes dans les images, textes ou vidéos. La première partie aborde des outils spécialisés dans la génération d'images, tels que Stable Diffusion et MidJourney, qui se distinguent par un niveau de censure léger. Ce faible contrôle laisse aux utilisateurs la pleine responsabilité des résultats, exposant ainsi à la reproduction directe des biais sociaux et culturels.


Ensuite, l’accent est mis sur Gemini de Google, qui applique une censure variable selon le contexte, pouvant tantôt générer des contenus stéréotypés, tantôt refuser certains types de demandes. ChatGPT d’OpenAI est, quant à lui, défini par une modération modérée à élevée; il accepte d’aborder les sujets sensibles principalement dans une optique éducative, ce qui limite les risques d’amplification des stéréotypes.


Enfin, la leçon présente Claude d'Anthropic, reconnu pour son niveau de censure élevé, capable de refuser strictement tout contenu jugé discriminant ou stéréotypé, et de délivrer des messages d’alerte en cas de demande inappropriée. Ce panorama illustre la diversité des politiques de censure et rappelle l'importance des enjeux éthiques associés à l'utilisation des IA génératives.

Objectifs de cette leçon

Identifier et comparer les différents niveaux de censure dans les principaux modèles d’IA générative.
Comprendre les conséquences d'un contrôle variable sur la reproduction des stéréotypes et sensibiliser aux enjeux éthiques liés à l’utilisation de ces technologies.

Prérequis pour cette leçon

Notions de base en intelligence artificielle et en éthique du numérique.
Connaissance générale des outils d’IA générative recommandée.

Métiers concernés

Ce contenu intéressera les développeurs IA, concepteurs de systèmes d’éthique numérique, data scientists, responsables conformité, mais également les consultants en transformation digitale et experts en responsabilité algorithmique.

Alternatives et ressources

En dehors des outils abordés, d’autres solutions telles que DALL-E, Imagine AI, Cohere ou encore des modèles open source sont disponibles.
Une veille régulière sur les logiciels émergents permet de comparer les approches de censure et d’éthique.

Questions & Réponses

Stable Diffusion et MidJourney présentent un niveau de censure léger, permettant de générer facilement des contenus comportant des stéréotypes sociaux, sans intervention proactive pour limiter ou modérer ces productions. L’utilisateur est ainsi entièrement responsable du contenu généré.
Gemini, l’IA de Google, adapte son niveau de censure en fonction du contexte d’utilisation. Dans certains cas, elle peut générer des stéréotypes comme Stable Diffusion, mais dans d’autres, elle peut refuser de fournir un contenu susceptible d’amplifier ou de reproduire des discriminations.
Claude applique une censure stricte, refusant catégoriquement de générer tout contenu associé à des stéréotypes sociaux, et va jusqu’à alerter l’utilisateur si une demande est jugée trop discriminante, ce qui en fait une IA particulièrement attentive à l’éthique dans la génération de textes ou d’images.