Coûts et latence

Deux façons de payer l'IA

Pour un manager qui équipe son équipe d'un assistant, c'est surtout l'abonnement qui compte. Mais dès qu'on parle d'automatiser une tâche (traiter 10 000 e-mails, générer des fiches produits en masse), on passe au paiement à l'usage, et il faut savoir raisonner en tokens.

Le calcul du coût à l'usage

Le prix d'un appel à un modèle dépend de trois choses :

flowchart LR
  E["Tokens en entrée : consignes, documents, question"] --> C["Coût d'un appel"]
  S["Tokens en sortie : la réponse"] --> C
  M["Modèle choisi : petit ou grand"] --> C
  C --> T["Coût total = coût d'un appel × nombre d'appels"]

• Les tokens d'entrée : tout ce qu'on envoie (y compris les longs documents).
• Les tokens de sortie : tout ce que le modèle écrit. Ils sont généralement plus chers que les tokens d'entrée.
• Le modèle : chaque éditeur propose une gamme. Les plus puissants coûtent nettement plus cher par token que les plus petits.

Les prix changent souvent et sont publiés sur les pages tarifaires des éditeurs : consultez-les au moment de votre projet plutôt que de retenir un chiffre.

Un exemple de raisonnement (chiffres fictifs)

Prenons des prix imaginaires pour l'exercice : 1 € par million de tokens en entrée, 5 € par million en sortie.

# Prix FICTIFS, uniquement pour apprendre à raisonner
prix_entree = 1 / 1_000_000   # euro par token d'entrée
prix_sortie = 5 / 1_000_000   # euro par token de sortie

tokens_entree_par_mail = 1_500   # le mail + les consignes
tokens_sortie_par_mail = 300     # la réponse proposée
nb_mails_par_mois = 10_000

cout = nb_mails_par_mois * (tokens_entree_par_mail * prix_entree
                            + tokens_sortie_par_mail * prix_sortie)
print(f"{cout:.2f} € par mois")   # 30.00 € par mois avec ces prix fictifs

Ce qui compte, c'est la méthode : tokens par appel × prix × volume. Et les leviers : un modèle plus petit, des consignes plus courtes, des réponses plus concises.

La latence : pourquoi il faut attendre

La latence est le temps entre votre question et la réponse. Elle dépend :

• de la taille du modèle : un grand modèle réfléchit plus lentement ;
• de la longueur de l'entrée : lire 300 pages prend plus de temps que lire 3 lignes ;
• de la longueur de la sortie : la réponse est produite token par token, d'où l'effet « texte qui s'écrit » à l'écran (on parle de streaming) ;
• du mode raisonnement, qui ajoute un temps de réflexion ;
• de la charge des serveurs de l'éditeur à ce moment-là.

Exercice : estimer un projet

Votre équipe marketing veut générer automatiquement une description pour chacun des 2 000 produits du catalogue. Chaque appel envoie la fiche technique et les consignes (par exemple, environ 800 tokens) et reçoit une description (environ 250 tokens). On refait l'opération 4 fois par an.

1. Combien de tokens d'entrée et de sortie par an ?
2. Avec les prix fictifs de la leçon (1 € / million en entrée, 5 € / million en sortie), quel coût annuel ?
3. Quel coût oublie-t-on souvent ?

Je sais faire

• Distinguer abonnement par utilisateur et paiement à l'usage
• Estimer un coût à partir des tokens, du prix et du volume
• Citer 3 facteurs qui influencent la latence
• Appliquer la règle « tester avec un bon modèle, puis descendre en gamme »