2 contenus
Mesurer TTFT, débit et p95 d'une application Gemini, puis réduire coût et latence avec le streaming, la mise en cache de contexte, un cache sémantique, le routage flash-lite vers flash, le batch et des budgets par requête, preuves chiffrées à l'appui sur un vrai banc de charge.
Académie IA › Expert
Construire avec Google ADK un agent routeur qui transfère chaque ticket à un spécialiste (facturation, technique, compte), qui fixe une priorité et propose une réponse, puis mesurer l'exactitude du routage sur 20 tickets fictifs.
Labs Google ADK › Sans projet Google Cloud