Aller au contenu

Catégorie M · Les coulisses · Épreuve 1 sur 8 · 4 min

Ce qui se passe quand tu parles à une IA

Mis à jour le

Un homme en pull bleu tape sur son ordinateur portable à une table de café, une tasse et un croissant à côté.
Objectif · Suivre le trajet de ton message jusqu'au modèle et retour, et comprendre pourquoi une IA peut se perdre dans une longue conversation.Photo : Vitaly Gariev sur Unsplash

Ton message part sur Internet vers un serveur, un ordinateur puissant de l'éditeur. Le site y envoie une requête qui contient toute la conversation ; le modèle calcule la réponse morceau par morceau, puis elle revient sur ton écran. Le modèle lui-même ne garde rien d'un message à l'autre : c'est le site qui lui renvoie l'historique.

  1. 01
  2. 02
  3. 03
  4. 04
  5. 05
  6. 06
  7. 07
  8. 08
  9. 09
  10. 10

Étape 1 sur 10

Quatre mots pour suivre ton message

Quand tu écris à ChatGPT, Claude ou Vibe, ton téléphone ne réfléchit pas : il envoie et il affiche. Le travail se fait ailleurs. Quatre mots suffisent pour suivre le trajet :

  • Le modèle : le programme qui a appris sur d'énormes quantités de textes et qui fabrique la réponse. Imagine un cuisinier qui a lu des millions de recettes : il ne recopie pas, il compose.
  • Le serveur : l'ordinateur très puissant, dans un centre de données de l'éditeur, où tourne le modèle. Attention, ici le serveur n'apporte pas les plats : c'est la cuisine elle-même.
  • La requête : le message que le site envoie au serveur, comme un bon de commande. Il dit quel modèle utiliser, la longueur maximale de la réponse, et contient le texte de la conversation.
  • La réponse : le texte qui revient, avec une sorte de ticket de caisse, le nombre de morceaux de texte lus et écrits. Ces morceaux s'appellent des tokens : c'est le sujet de la leçon suivante.

Remets dans l'ordre le trajet de ta question.

Touche les étiquettes dans le bon ordre. Touche une étiquette placée pour la retirer.

Relie chaque mot à son image en cuisine.

Touche un élément à gauche, puis celui qui va avec à droite.

Le modèle n'a aucune mémoire

Voici ce que presque personne ne sait : entre deux messages, le modèle ne se souvient de rien. La documentation d'Anthropic, qui fabrique Claude, le dit clairement : son API est « sans état », il faut lui renvoyer tout l'historique à chaque fois.

Concrètement, quand tu envoies ton dixième message, le site renvoie au serveur tes dix questions, les neuf réponses et le document collé au début. Le modèle relit tout, depuis le début, à chaque message.

Trois conséquences :

  • Une longue conversation demande plus de calcul. L'aide de Claude cite la longueur des conversations parmi ce qui use tes limites d'utilisation.
  • Ce qui ne tient plus dans sa mémoire de travail n'est plus lu tel quel. Cette mémoire s'appelle la fenêtre de contexte, on la mesure dans la leçon 2.
  • Une erreur du début reste dans l'historique et continue de peser sur toute la suite.

Vrai ou faux ?

Entre deux messages, le modèle garde ta conversation en tête, comme une personne qui t'écoute.

Après deux heures de discussion autour d'un long contrat de location, tu atteins vite tes limites d'utilisation. Pourquoi ?

L'inférence, le travail de chaque jour

Un modèle vit deux moments très différents :

  • L'entraînement : il a lieu une fois, chez l'éditeur, avec d'énormes moyens de calcul. C'est très cher. Ce sont ses années d'école.
  • L'inférence : chaque fois que quelqu'un pose une question, le modèle déjà entraîné calcule une réponse. C'est son travail de tous les jours, et c'est ce qu'on paie à l'usage quand on passe par une API.

Le temps d'attente avant la réponse s'appelle la latence. Selon le glossaire d'Anthropic, elle dépend de la taille du modèle, du matériel, du réseau, et de la longueur de la demande comme de la réponse. Ton téléphone, lui, ne change rien à l'intelligence de la réponse : le calcul se fait sur le serveur.

Le moment où un modèle déjà entraîné reçoit ta demande et calcule la réponse s'appelle l'…….

Karim a un téléphone de 2018. Les réponses de l'IA seront-elles moins bonnes que sur un téléphone neuf ?

Ce que l'IA ne te dira pas

Quand une conversation s'est vraiment égarée, insister ne sert à rien. Des chercheurs de Microsoft et de Salesforce ont simulé plus de 200 000 conversations : quand les consignes arrivent en plusieurs messages, la qualité baisse de 39 % en moyenne. Leur conseil : demande « Résume tout ce que je t'ai demandé jusqu'ici », puis colle ce résumé dans une nouvelle conversation.

Source : Laban et al., « LLMs Get Lost In Multi-Turn Conversation » (Microsoft Research et Salesforce Research, arXiv, mai 2025)

Sources