Accueil Formations Maîtriser le context engineering pour piloter l'IA
Chapitre 1 - Leçon 2 Théorie

La gestion de la mémoire de l'IA : fenêtre de contexte et prompt caching

Cette leçon théorique et opérationnelle détaille la mécanique de la mémoire de travail des grands modèles de langage. Vous découvrirez comment fonctionne la fenêtre de contexte, pourquoi les conversations dérivent lorsqu'elles s'étirent, et comment le mécanisme de prompt caching permet de manipuler d'importantes bases documentaires de manière économique et instantanée.

Comprendre la fenêtre de contexte et la mémoire des modèles d'IA

Comprenez le fonctionnement de la mémoire de travail des modèles de langage et le rôle fondamental de la fenêtre de contexte. Dans cet extrait de cours Elephorm, découvrez pourquoi les assistants généralistes perdent le fil au bout de quelques échanges et comment la délimitation rigoureuse de vos sources documentaires permet de supprimer les risques d'oubli et d'hallucination.

Source
Elephorm

Comparatif avant et après l'adoption du prompt caching

Critère opérationnelApproche classique (sans cache)Approche moderne (avec prompt caching)
Facturation des documentsRelecture payée à 100 % à chaque questionTarif réduit jusqu'à 75 % sur les tokens stables
Temps de réponse (latence)Lenteur croissante (3 à 8 secondes par message)Génération quasi instantanée (1 à 2 secondes)
Stabilité des consignesRisque d'oubli par accumulation de texteMaintien strict des règles fondamentales
Organisation de l'utilisateurCopier-coller manuel et prompts verbeuxDépôt unique dans un projet persistant

Contenu premium

Abonnez-vous ou achetez la formation pour accéder à l'intégralité du contenu.

Offre limitée -200 € : 00j 00h 00m
Abonnement
  • Accès illimité à 1700 formations
39,90€ /mois
Elephorm Je m'abonne
Recommandé
Achat unique
  • Accès illimité à la formation
39,00€ 19,50€ Ajouter au panier Acheter maintenant