À retenir
- Pour 20 000 conversations mensuelles, le coût d’un Agent de connaissance (RAG) oscille entre 120 € et 2 987 € par mois selon le modèle retenu : un rapport de 1 à 25 environ.
- En cause : une facturation distincte de l’entrée et de la sortie. Les tokens générés coûtent en général 3 à 6 fois plus que les tokens lus, voire 8 à 9 fois sur certains modèles. Les modèles « thinking » creusent encore l’écart : leur raisonnement, invisible pour l’utilisateur, est facturé au tarif de la sortie.
- Sans prise en compte du cache de prompts, un comparatif surestime la dépense réelle : dans notre simulation, le cache réduit la facture d’environ 35 % selon l’architecture RAG. Encore faut-il maîtriser ses règles : un seuil de taille minimal et une durée de vie limitée.
- Le tarif au token ne suffit pas à choisir un modèle : conformité à l’AI Act, souveraineté des données et intégration au système d’information comptent autant.
- Cinq leviers permettent de contenir la facture : routage selon la complexité, mise en cache, traitement par lots, pilotes mesurés et revue régulière des tarifs.
Depuis le 1er juin 2026, toutes les offres GitHub Copilot sont facturées à l’usage. L’abonnement forfaitaire donnant un accès illimité à l’IA a disparu : chaque token est désormais compté, puis refacturé. Au-delà de l’anecdote, ce changement traduit une rupture.
En 2025, l’IA générative passait encore pour une ressource presque gratuite, que l’on déployait sans véritable arbitrage financier. En 2026, le réveil a été brutal : des budgets « IA pour développeurs » consommés en quelques mois, et des directions financières qui constatent, souvent après coup, que le coût des tokens progresse plus vite que prévu.
Dans ce contexte, toute entreprise qui met en production un agent IA ou un assistant doit se poser une question simple : le choix du modèle pèse-t-il réellement sur la facture ? Pour y répondre avec des chiffres plutôt qu’avec des intuitions, nous avons simulé le coût réel d’un Agent IA de connaissances (RAG) sur dix modèles, à volumes rigoureusement identiques.
Entrée, sortie, raisonnement : comment se calcule le prix d’un token
Pour comparer des modèles, encore faut-il savoir ce que l’on paie. Tous les fournisseurs appliquent deux grilles tarifaires distinctes :
- les tokens d’entrée, c’est-à-dire tout ce qui est transmis au modèle : la question, le contexte, les documents récupérés ;
- les tokens de sortie, autrement dit le texte produit par le modèle.
Produire une réponse token après token mobilise plus de puissance de calcul que la simple lecture d’un prompt. La sortie est donc toujours plus chère que l’entrée : 3 à 6 fois en règle générale, et jusqu’à 8 ou 9 fois pour certains modèles.
Pour les architectures RAG (Retrieval-Augmented Generation), cette asymétrie a un effet direct. Chaque appel envoie un volume important de tokens en entrée (question, historique, extraits de la base de connaissances) pour obtenir une réponse le plus souvent brève. Le premier poste de dépense n’est donc pas forcément celui auquel on pense.
Le cas particulier des modèles « thinking »
Cette logique se renverse avec les modèles dits « thinking » ou « reasoning ». Quand un modèle raisonne avant de formuler sa réponse, l’utilisateur ne voit rien de ce raisonnement, mais celui-ci est bel et bien facturé : chaque token de raisonnement compte comme un token de sortie, au tarif plein.
Une réponse attendue de 100 mots peut ainsi être précédée de plusieurs minutes de « réflexion » silencieuse, soit l’équivalent de 2 000 mots de raisonnement caché. La facture porte alors sur 2 100 mots de sortie, et non sur 100.
Pour un usage conversationnel, la vigilance s’impose. Dans notre simulation (détaillée plus bas), environ 2 000 tokens de raisonnement caché par appel RAG suffisent pour que le coût de la sortie dépasse celui de l’entrée : l’équation bascule, et l’entrée, jusque-là poste principal, passe au second plan. En relation client, où l’on attend une réponse immédiate, ce mode de raisonnement approfondi est rarement justifié. Certains fournisseurs ne garantissent d’ailleurs pas un raisonnement totalement nul, même sur demande explicite.
Simulation : de 1 à 25 pour un même volume de conversations
Afin de comparer objectivement, nous avons défini un profil d’usage type d’agent IA de connaissances (RAG) et appliqué les mêmes volumes à dix modèles du marché :
- par appel RAG : 10 000 tokens en entrée et 250 en sortie ;
- 2,5 appels RAG par conversation en moyenne ;
- 3 requêtes complémentaires par conversation, de 1 000 tokens en entrée et 40 en sortie chacune ;
- 20 000 conversations par mois.
D’une ligne à l’autre, seul le tarif du modèle varie. Voici les résultats, sur la base des tarifs officiels d’août 2026 convertis au taux de 1 $ = 0,92 € :
Simulation — 20 000 conversations / mois
Coût mensuel d'un chatbot RAG selon le modèle choisi
À volumes de conversation strictement identiques, tarifs officiels d'août 2026. Le modèle le plus onéreux coûte près de 25 fois plus que le moins cher.
GPT-5.4 nano
Gemini 3.5 Flash-Lite
Mistral Large 3
Claude Haiku 4.5
GPT-5Azure OpenAI, EU
Claude Sonnet 5Prix intro
Gemini 3.1 Pro
GPT-5.4
Claude Opus 4.8/ Opus 5
GPT-5.5
Hypothèses : 10 000 tokens en entrée + 250 en sortie par appel RAG · 2,5 appels RAG par conversation · 3 requêtes complémentaires (1 000 tokens en entrée, 40 en sortie) · 20 000 conversations / mois. Tarifs officiels, août 2026. Le cache de prompt n'est pas pris en compte dans ces chiffres et peut réduire la facture réelle d'environ 35 %.