2 items
Traiter la fenêtre de contexte comme une ressource : l'ordonner, la compresser, la mettre en cache, et construire un assistant à mémoire long terme (SQLite + embeddings) évalué sur 10 scénarios de rappel.
Académie IA › Maîtriser
Mesurer TTFT, débit et p95 d'une application Gemini, puis réduire coût et latence avec le streaming, la mise en cache de contexte, un cache sémantique, le routage flash-lite vers flash, le batch et des budgets par requête, preuves chiffrées à l'appui sur un vrai banc de charge.
Académie IA › Expert