Rétrospective
Tester plusieurs modèles IA sans perdre de vue le coût réel du workflow
Comparez vos modèles IA sur le coût par demande réellement traitée : crédits, exécutions, reprises, contrôle humain et maintenance.
Publié le 2026-10-20 · Période étudiée 2026-09-14 – 2026-09-20
Smart Wise Monkey
Rétrospective · semaine du 14 septembre 2026
Un prototype qui répond correctement à trois messages ne dit pas encore combien coûtera un mois de fonctionnement. Pour une PME, la bonne question n'est pas seulement « quel modèle coûte le moins cher ? », mais « combien dépensons-nous pour une demande traitée au niveau de qualité attendu ? ». Cette différence change la manière de préparer un essai.
Ce que facilite la nouveauté
Le 17 septembre, n8n présente Gateway credits : à partir de la version 2.36, certains forfaits Cloud permettent d'utiliser des modèles et services compatibles sans compte fournisseur distinct. La disponibilité dépend du forfait et du service. Voir l'annonce officielle.
La facilité de démarrage ne doit donc pas remplacer le cadrage économique. Avant un test, définissez ce que signifie « traité » : une réponse envoyée, une fiche complète ou une demande transmise et acceptée par le commercial ? Le dernier résultat est souvent plus proche de la valeur recherchée que le simple nombre d'exécutions.
Construire un calcul que l'équipe peut comprendre
Nous proposons de séparer cinq postes dans un tableau de suivi :
- La part d'abonnement affectée au processus, selon une méthode stable.
- La consommation des modèles et des autres services utilisés.
- Les frais d'exécution éventuels, sans compter deux fois ce qui est déjà inclus.
- Le temps humain de vérification, de correction et de traitement des exceptions.
- La maintenance récurrente, distinguée du coût initial de construction.
Le coût complet de la période divisé par le nombre de demandes correctement traitées donne un indicateur exploitable. Gardez également le coût initial à part et indiquez explicitement si vous choisissez de l'amortir. Sans cette convention, deux estimations peuvent sembler contradictoires alors qu'elles ne mesurent simplement pas la même chose.
Exemple illustratif : deux prototypes, un même résultat attendu
Imaginons deux versions d'un assistant de qualification, évaluées sur les mêmes demandes fictives. La première consomme moins de crédits, mais laisse davantage de champs à corriger. La seconde consomme davantage, mais produit plus souvent une fiche exploitable. Aucun de ces constats ne suffit seul à choisir.
Pour chaque demande, notez la consommation, les reprises, le temps de contrôle et le résultat final. Une fiche incomplète ne devient pas une réussite parce que le modèle a répondu rapidement. À l'inverse, une demande correctement orientée vers une personne peut être une réussite si ce transfert faisait partie du scénario prévu. Cet exemple décrit une méthode de comparaison, pas un résultat client SWM.
Organiser un essai équitable
Utilisez un petit corpus représentatif : demandes courtes, messages confus, informations manquantes et cas hors périmètre. Fixez les critères avant de comparer les modèles. Gardez les mêmes documents et les mêmes règles métier ; sinon vous risquez de mesurer plusieurs changements en même temps.
Prévoyez un plafond de dépense et une limite de tentatives par demande. Une erreur persistante doit arriver dans une file de contrôle, pas déclencher une boucle sans fin. Documentez aussi le comportement attendu lorsque le budget du test est atteint : suspendre les nouveaux traitements, avertir le responsable et préserver les demandes en attente.
Décider avant d'augmenter le volume
Le bilan doit associer coût, qualité et charge de supervision. Si l'équipe ne peut pas absorber les exceptions, un faible coût technique ne rend pas le dispositif viable. Si le volume varie beaucoup, simulez plusieurs hypothèses plutôt que de multiplier aveuglément une moyenne.
Cette démarche relève d'un cadrage en conseil IA, avant de stabiliser le prototype avec une solution no-code. Elle permet de discuter d'un budget avec ses hypothèses, plutôt que d'une promesse d'économie.
Chiffrons le fonctionnement de votre automatisation avant d'augmenter son volume.