Atelier

Lesson 4 — Mémoire et connaissances

Mettre la connaissance métier dans le contexte

6 min read

This content is not translated yet. Showing the original version.

Mettre la connaissance métier dans le contexte

Le modèle ne connaît pas votre entreprise

Gemini a appris sur des textes publics : il ne connaît ni les tarifs de la Salle Altitude ni ses horaires. Deux façons de lui donner cette connaissance :

flowchart TD
  K["Connaissances de l'entreprise"] --> T{"Taille ?"}
  T -->|"quelques pages"| C["Tout dans le contexte : le prompt système contient la fiche"]
  T -->|"des centaines de documents"| R["RAG : on cherche les passages utiles, puis on les met dans le contexte"]
  C --> G["Gemini"]
  R --> G

Le contexte est tout le texte envoyé au modèle lors d'un appel (prompt système, historique, question). Le RAG (Retrieval-Augmented Generation, génération augmentée par recherche) ajoute une étape de recherche documentaire avant l'appel. Pour une fiche de quelques pages, le RAG est inutile : on met tout dans le contexte.

CritèreTout dans le contexteRAG
Volume adaptéquelques pages à quelques dizaines de pagesau-delà, ou documents nombreux
Mise en placeun fichier, une ligne de codedécoupage, embeddings, index, recherche
Mise à jourmodifier le fichier, redémarrerréindexer
Risque principalcoût en tokens à chaque appelne pas retrouver le bon passage

Le code : une ligne

files/chatbot.py (extrait)
CONNAISSANCES = (ICI / "connaissances.md").read_text(encoding="utf-8")

SYSTEM_PROMPT = f"""...
## CONNAISSANCES
<connaissances>
{CONNAISSANCES}
</connaissances>
"""

La fiche connaissances.md est du Markdown ordinaire, que l'accueil peut modifier sans toucher au code.

Écrire une fiche que le modèle exploite

À faireExemple dans la fiche d'Alti
Des faits complets, avec unités« 45 € la séance de 45 minutes »
Des tableaux pour les données comparablesle tableau des 6 formules (prix, engagement, contenu)
Les exceptions écrites noir sur blanc« Fermeture le 25 décembre et le 1er janvier »
Les conditions à côté de la règle« Étudiant : sur justificatif de moins de 26 ans »
Les procédures, avec qui fait quoi« Résiliation Liberté : par e-mail à l'accueil, préavis d'un mois »
Une seule version de la véritépas de « ancien tarif » qui traîne

Combien ça coûte ?

La fiche est envoyée à chaque appel. On mesure sa taille avec count_tokens, qui ne génère rien :

mesure
n = client.models.count_tokens(model=MODEL, contents=SYSTEM_PROMPT)
print(n.total_tokens)

Pour Alti, environ 1 260 tokens (voir plus bas) : c'est faible. Si votre fiche dépasse quelques dizaines de milliers de tokens, regardez la mise en cache du contexte de l'API Gemini (facturation réduite d'un préfixe répété) ou passez au RAG.

Une agence immobilière veut un chatbot qui répond sur ses 3 000 annonces, mises à jour chaque jour. Quelle approche ?

Quelles informations peuvent aller dans connaissances.md ?

Exercice : une question à laquelle la fiche ne répond pas

Trouvez trois questions légitimes auxquelles connaissances.md ne répond pas (par exemple sur le Wi-Fi). Posez-les avec console.py. Alti doit dire qu'il ne sait pas et donner le contact de l'accueil. Puis ajoutez l'information pour l'une d'elles et vérifiez que la réponse change.

Voir la solution

Exemples : « Y a-t-il le Wi-Fi ? », « Peut-on payer en espèces ? », « Comment s'appelle le professeur de yoga ? ».

Ajout dans la fiche, rubrique Services :

- Wi-Fi gratuit : réseau « Altitude-Invites », mot de passe affiché à l'accueil.

Le mot de passe lui-même n'est pas dans la fiche : il est affiché à l'accueil. Après redémarrage, « Y a-t-il le Wi-Fi ? » obtient une réponse positive, sans mot de passe.

Résultat obtenu

Mesures et réponses réelles, gemini-3.5-flash, le 2026-10-15 :

sortie réelle, 2026-10-15
tokens du prompt système (fiche incluse) : 1257
caractères de connaissances.md : 2898
SANS FICHE : Je ne dispose pas du tarif concernant les séances de coaching individuel. Je vous
invite à contacter directement l'accueil par e-mail à accueil@salle-altitude.example ou par
téléphone au 04 00 00 00 00. [...]
AVEC FICHE : La séance de coaching individuel coûte 45 € pour une durée de 45 minutes.
Les rendez-vous se prennent directement auprès de l'accueil de la salle. Pour information,
la formule d'abonnement Premium comprend déjà une séance de coaching offerte par mois.

Sans fiche, la règle « n'invente jamais un prix » a joué : Alti renvoie vers l'accueil au lieu d'inventer un tarif. Avec la fiche, il répond juste et ajoute même une information utile (la séance incluse dans Premium).

Je sais faire

  • Expliquer ce qu'est le contexte d'un appel
  • Choisir entre « tout dans le contexte » et RAG
  • Écrire une fiche factuelle, complète et sans donnée sensible
  • Mesurer le poids d'un prompt avec count_tokens
Next