Lesson 26 — Rag local claude

01. Comprendre le RAG local

3 min read

This content is not translated yet. Showing the original version.

1. Le chemin d'une question

  1. Recherche hybride (store.py) sur l'index local :
    • par mots : index plein texte SQLite FTS5 (BM25, accents ignorés) — retrouve un code exact comme PEL-8826-NG ;
    • par sens : cosinus entre le vecteur de la question et ceux des morceaux — retrouve « travailler depuis chez soi » dans un texte qui dit « télétravail » ;
    • les deux classements sont fusionnés par rang (RRF), 20 candidats gardés.
  2. Second tri (Voyage rerank-2.5, si une clé Voyage est fournie) : 8 extraits gardés.
  3. Claude (llm.py) reçoit les 8 extraits (titre, lien, texte) et la question, avec la consigne de ne répondre qu'avec eux et de citer chaque information [titre](lien). Réponse affichée au fil de l'eau.

Un seul appel à Claude par question (pas d'agent qui boucle) : le plus simple, le plus rapide, le moins cher. La conversation garde les 10 derniers échanges pour les questions de suivi.

2. Ce qui sort de votre ordinateur

DonnéeOù elle va
Fichiers, index, vecteurs, jetons GoogleRestent dans data/ (jetons : fichier lisible par vous seul, droits 600)
La question + les 8 extraits utilisésAPI Claude (Anthropic), pour rédiger la réponse
Le texte des morceaux, à l'indexationVoyage AI seulement si EMBEDDINGS=voyage ; en local, rien ne sort
Contenu Google DriveLu depuis Google avec votre compte (lecture seule)

Le serveur n'écoute que sur 127.0.0.1 : il n'est pas joignable depuis le réseau.

3. Local ou Voyage ?

local (défaut sans clé)voyage
Coût0 €≈ 0,06 /Mdejetonsindexeˊs(voyage−4),reranking≈0,05/ M de jetons indexés (voyage-4), reranking ≈ 0,05 / M
ConfidentialitéRien ne sort à l'indexationLe texte des documents part chez Voyage
QualitéBonne en français (modèle multilingue ; 5 questions reformulées sur 5 au test)Meilleure, surtout sur de gros corpus, + second tri
VitesseCPU de votre machine (≈ quelques centaines de morceaux / s)Réseau

Prix Voyage relevés sur des sources tierces (octobre 2026) : vérifiez sur le site de Voyage.

4. Coût de Claude

Par question : ≈ 3 000 à 5 000 jetons en entrée (consigne + 8 extraits + question) et quelques centaines en sortie. Avec claude-opus-5-5 (4 /Menentreˊe,20/ M en entrée, 20 / M en sortie) : ≈ 2 à 3 centimes par question ; claude-sonnet-5-5 divise par deux, claude-haiku-5-5 par plus de 30.

5. Limites

LimiteValeurAu-delà
Taille de l'index~100 000 morceaux (recherche vectorielle en mémoire)Index ANN (sqlite-vec, Qdrant)
PDF scannés (images)Pas de reconnaissance de caractèresOCR (Document AI, Tesseract) avant dépôt
Droits par utilisateurNon : application personnelle, une seule personneKit 1 / Gemini Enterprise
Next