Le cache renverse tout : souverain ET pas cher

01Rappel : la décision souveraine

Un mot sur le pourquoi, parce que c’est le point de départ de tout. Un agent qui traite un mail client, une réclamation SAV ou une fiche prospect manipule des données personnelles. Envoyées à une API américaine ou chinoise, elles quittent l’Union européenne — c’est un transfert hors-UE au sens du RGPD, à encadrer, et fragilisé depuis l’arrêt Schrems II de la Cour de justice européenne. Le même modèle servi en Europe garde la donnée sous contrôle : pas de transfert, conformité par construction. C’est ça, « souverain » — et on creuse ce cadrage dans l’épisode 2.

D’où notre choix de départ : une pile 100 % souveraine, hébergée à Paris chez Scaleway — gpt-oss-120b pour le temps réel, GLM-5.2 pour le raisonnement, les Mistral pour l’économique. Sur des appels courts, le coût mesuré tenait dans une formule qu’on a assumée : moins d’un café. C’était vrai — pour un appel isolé.

Le détail qu’on n’avait pas encore éprouvé : un agent ne fait pas des appels isolés. Il tient une session qui grossit, tour après tour.

02Le mur du cache

Un agent, c’est une conversation. À chaque tour, il renvoie tout le contexte accumulé — instructions, historique, documents — pour que le modèle « se souvienne ». Plus la session avance, plus ce contexte est lourd, et il est réémis en entier à chaque fois. C’est le fonctionnement normal ; ce n’est un problème que si on repaie ce contexte à plein tarif à chaque tour.

Or c’est exactement ce qui se passe chez nos hébergeurs souverains. Une nuit de sessions intensives nous l’a appris sans ménagement : la facture grimpe sans aucun rapport avec le coût de nos appels de test. La raison est technique et nette — Scaleway, comme OVH, Nebius et IONOS, n’a pas de prompt caching. Chaque tour repaie l’intégralité du contexte, comme si c’était la première fois.

Autrement dit : notre « quasi gratuit » de départ était juste en appel unique, et faux en usage réel d’agent sans cache. Le problème n’était pas la souveraineté. C’était l’absence de cache chez nos fournisseurs souverains.

03La découverte : des routeurs EU qui cachent

La bonne nouvelle, c’est qu’il n’a pas fallu choisir entre « souverain sans cache » et « caché hors d’Europe ». Il existe des passerelles — des routeurs — établies en Europe qui agrègent de vrais fournisseurs et ajoutent le cache automatiquement : Cortecs (GmbH à Vienne 🇦🇹) et Requesty (gateway à Francfort 🇩🇪).

La mécanique est celle du prefix caching : le contexte réémis est reconnu comme déjà vu et facturé au prix cache — de l’ordre de 10 à 25 % du prix normal — au lieu du plein tarif. Le token caché coûte à peu près le quart au dixième du token d’entrée (par exemple, sur GLM-5.2 : ~0,23 € le million caché contre ~1,08 € en entrée pleine).

Détail important qu’on a vérifié fournisseur par fournisseur : le cache ne dépend pas que du modèle, il dépend de la route. Les hébergeurs souverains sur lesquels on avait démarré — Scaleway, OVH, Nebius, IONOS — ne cachent pas quand on les appelle en direct : c’est ça, le mur de l’acte précédent. Mais passé par un routeur européen, un nombre croissant de fournisseurs hébergés en UE le prennent en charge — Tensorix en Irlande, Inceptron en Suède, Mistral en France, et d’autres encore côté Requesty. La solution n’était donc pas de quitter l’Europe, mais de changer de route.

04La mesure — et le renversement

On ne s’est pas contentés de la promesse commerciale : on a mesuré en direct. Deuxième appel avec un préfixe identique, on regarde combien de tokens sont reconnus comme cachés. Verdict : 96 à 97 % de cache pris (Sference/GLM-5.2 : 97 %, soit ×3,8 ; Tensorix/deepseek-v4-flash : 96 %, soit ×3,45). Mesuré, pas déclaratif.

Et c’est là que le classement bascule. Voici le coût effectif au million de tokens sur un profil d’agent multi-tours (input-lourd), cache pris des deux côtés quand il est disponible :

Le même GLM-5.2, routé via un fournisseur EU qui cache, passe de 1,99 € à 0,53 € le million : presque ×4, sans changer de modèle ni sortir d’Europe. Mais le vrai choc est ailleurs. Une fois le cache pris des deux côtés, un modèle frontière hébergé en région EU — claude-sonnet-5, gpt-5 — revient moins cher que notre GLM souverain sans cache. Le cache ne rend pas juste le souverain moins cher : il rebat les cartes.

05Ce que ça donne au mois

Le €/million reste abstrait. Ce qui parle à un dirigeant, c’est la facture. Alors traduisons — avec une hypothèse posée noir sur blanc : 20 M tokens par mois et par agent actif, profil input-lourd, cache à ~85 %. C’est linéaire : divisez par deux ou multipliez par deux selon votre volume réel.

Le repère qui fait mal : le même agent sur notre GLM Scaleway sans cache tourne autour de 40 €/mois. Donc claude-sonnet-5 caché en région EU (~19 €) coûte moins que notre GLM souverain non caché (~40 €). Et gpt-5-mini (~2,9 €) passe sous gpt-oss sans cache (~3,2 €). Le cache renverse le classement, en euros réels.

L’autre lecture, plus réjouissante : le workhorse deepseek-v4-flash tient à ~1,3 €/mois/agent. Un parc de dix agents, c’est une quinzaine d’euros par mois — négligeable devant la valeur produite. Une PME peut faire tourner un agent souverain complet pour le prix d’un café par mois ; et si elle veut le tout dernier sommet mondial (Claude, GPT-5) en restant en Europe, c’est quelques dizaines d’euros, pas des centaines. Ce qui a changé : le cache.

06Le cadrage RGPD

Un routeur qui cache ne vaut rien s’il fait fuiter la donnée. C’est le premier filtre qu’on applique. Les deux retenus sont établis dans l’UE — Cortecs, GmbH à Vienne ; Requesty, gateway à Francfort — avec DPA, Zero Data Retention (les prompts ne sont pas stockés, traités en mémoire volatile), non-entraînement garanti, et une sélection EU-only (toggles verrouillables côté Cortecs, allowlist par clé côté Requesty).

Quand on route uniquement vers des fournisseurs établis en Europe, le transfert hors-UE disparaît structurellement — la conformité devient native, pas un pansement contractuel. C’est la même logique que notre banc souverain : ce qui compte, c’est où la donnée est traitée.

07Notre décision, en transparence

De ces mesures, on tire deux tiroirs — et on dit lequel on utilise où, plutôt que de vendre une boîte noire :

L’idée directrice : garder le verrou EU + DPA, et choisir le bon modèle par tâche sans jamais perdre le cache. C’est la flexibilité qui rend l’équation économique tenable à l’échelle d’un parc d’agents.

08Les garde-fous — ce qu’on ne sur-vend pas

Ces chiffres sont réels, mais ils ont un cadre. Le dire fait partie du métier — sinon on tombe dans le comparatif marketing qu’on reproche aux autres.

09La suite

Cet épisode a réglé la question du coût réel. Il en ouvre une autre : maintenant que le cache remet des modèles frontière et des workhorses très bon marché dans la course, lesquels tiennent vraiment la qualité sur le travail d’un agent PME, en français, en conditions réelles ? C’est tout l’objet de notre banc souverain — l’épisode 2, qu’on a justement mis à jour avec ces modèles rebattus par le cache (deepseek-v4-flash y remonte carrément #2).

Et l’épisode 3, à venir, ira plus loin : le banc « action » — quand l’agent ne se contente pas d’écrire mais doit agir (appeler des outils, tenir une conversation à plusieurs tours, produire du JSON exploitable). On le publiera comme le reste — méthode, chiffres bruts, rien sous le tapis.