Pourquoi l'IA se trompe et invente des histoires ?

Dans cette leçon, vous allez comprendre le phénomène des hallucinations de l'IA, identifier ses forces et ses limites, et apprendre à repérer les biais algorithmiques pour garder un esprit critique en toutes circonstances.

Introduction

Quand l'IA invente des histoires avec aplomb

Imaginez que vous demandiez à un ami de vous aider pour votre devoir d'histoire. Au lieu de vous avouer qu'il ne connaît pas la réponse, il vous invente une anecdote incroyable sur un roi de France imaginaire, avec une date précise et des détails extrêmement convaincants. C'est exactement ce que fait parfois une intelligence artificielle générative !

Dans la leçon précédente, vous avez vu que l'IA fonctionne grâce à des probabilités pour deviner le mot suivant. Aujourd'hui, nous allons analyser pourquoi cette méthode de prédiction l'amène parfois à commettre de grosses erreurs et à inventer des faits de toutes pièces. Êtes-vous prêt à percer les mystères des bugs de l'IA ?

Définition

Qu'est-ce qu'une hallucination de l'IA ?

En informatique, on appelle hallucination le phénomène par lequel une intelligence artificielle génère une réponse fausse, erronée ou totalement inventée, tout en la présentant avec une assurance absolue.

Contrairement à un humain qui hésite ou avoue son ignorance, l'IA ne ressent aucun doute. Elle vous donnera une fausse formule chimique ou une date historique inventée avec le même ton sérieux et professionnel que s'il s'agissait d'une vérité absolue.