La mémoire de conversation

Le modèle n'a pas de mémoire

L'API Gemini est sans état : chaque appel est indépendant. Si l'utilisateur demande « Et pour le samedi ? », le modèle ne sait pas de quoi on parlait… sauf si on lui renvoie la conversation. La « mémoire » d'un chatbot, c'est donc vous qui la gérez : une liste de messages que vous ajoutez à chaque appel.

sequenceDiagram
  participant U as Utilisateur
  participant C as chatbot.py
  participant G as Gemini
  U->>C: Horaires du pilates ?
  C->>G: système + [Q1]
  G-->>C: R1 (mardi 12h30, jeudi 19h)
  C->>C: mémoriser Q1, R1
  U->>C: Et pour le samedi ?
  C->>G: système + [Q1, R1, Q2]
  G-->>C: R2 (pas de pilates le samedi)

Le code : une liste par session

Chaque conversation a un identifiant de session (une chaîne aléatoire créée par la page web). On garde un dictionnaire session → liste de messages, au format types.Content attendu par google-genai : un rôle (user pour l'utilisateur, model pour Gemini) et le texte.

MAX_MESSAGES = 10  # mémoire courte : les 5 derniers échanges (question + réponse)
MEMOIRE: dict[str, list[types.Content]] = {}


def historique(session: str) -> list[types.Content]:
    return MEMOIRE.setdefault(session, [])


def memoriser(session: str, role: str, texte: str) -> None:
    """Ajoute un message ("user" ou "model") et oublie les plus anciens."""
    h = historique(session)
    h.append(types.Content(role=role, parts=[types.Part(text=texte)]))
    del h[:max(0, len(h) - MAX_MESSAGES)]  # garde les MAX_MESSAGES derniers (0 = aucun)

Et dans repondre, on envoie l'historique suivi de la nouvelle question ; on ne mémorise l'échange qu'après une réponse réussie :

contenus = historique(session) + [
    types.Content(role="user", parts=[types.Part(text=message)])]
# ... appel en streaming ...
memoriser(session, "user", masquer(message))  # pas d'IBAN gardé en mémoire
memoriser(session, "model", reponse)

Pourquoi limiter la mémoire ?

Chaque message renvoyé est facturé en tokens (morceaux de mots, l'unité de compte des LLM) à chaque tour : une conversation de 20 tours sans limite renvoie 20 fois le premier message.

Exercice : un bouton « Nouvelle conversation »

Ajoutez à chatbot.py une fonction oublier(session) qui efface la mémoire d'une session, et à app.py une route POST /oublier qui l'appelle. Écrivez le test correspondant.

def oublier(session: str) -> None:
    MEMOIRE.pop(session, None)

class Session(BaseModel):
    session: str = Field(min_length=1, max_length=64)


@app.post("/oublier")
def oublier(s: Session):
    chatbot.oublier(s.session)
    return {"ok": True}

def test_oublier(faux):
    web.post("/chat", json={"session": "s9", "message": "Bonjour"})
    assert chatbot.historique("s9")
    web.post("/oublier", json={"session": "s9"})
    assert chatbot.historique("s9") == []

Résultat obtenu

Même question de suivi, avec et sans mémoire, gemini-3.5-flash, le 2026-10-15 :

Q1: Les cours de Pilates ont lieu le mardi à 12h30 et le jeudi à 19h. [...]
Q2: Le samedi, la salle vous accueille de 8h à 20h, et l'accueil physique est ouvert de 9h
à 13h. Concernant les cours collectifs, nous proposons une séance de Yoga à 10h et un cours
de Cycling à 11h. [...]
messages en mémoire : []

Q1: Les cours de Pilates ont lieu le mardi à 12h30 et le jeudi à 19h. [...]
Q2: Il n'y a pas de cours de Pilates le samedi. En revanche, le samedi, nous proposons un
cours de Yoga à 10h et un cours de Cycling à 11h.
messages en mémoire : ['user', 'model', 'user', 'model']

Sans mémoire, Alti répond à côté (les horaires du samedi en général) ; avec, il comprend que « samedi » porte sur le pilates.

Je sais faire

• Expliquer pourquoi l'API est « sans état »
• Construire la liste contents avec les rôles user et model
• Limiter la mémoire à une fenêtre glissante, sans le piège [:-0]
• Choisir entre fenêtre, historique complet et résumé