Offres et utilisation
endue mesure ce qui coûte réellement de l’argent : l’utilisation des modèles. Tout le reste (agents, conversations, livrables, connecteurs) n’est pas facturé à l’action.
Ce qui est comptabilisé
Section intitulée « Ce qui est comptabilisé »Chaque exécution envoie à un modèle votre conversation, le prompt de l’agent et les résultats de ses outils, et le modèle répond. Les deux sens comptent.
L’utilisation dépend donc de ces facteurs :
| Facteur | Effet |
|---|---|
| Le modèle choisi | De loin le facteur le plus important : d’un bout à l’autre du catalogue, les prix varient d’un facteur supérieur à 10 |
| Effort de raisonnement | Un effort plus élevé dépense plus de jetons avant de répondre |
| Le nombre d’étapes d’une exécution | Chaque résultat d’outil repart dans le modèle |
| La longueur de la conversation | Un long fil est relu à chaque étape |
| Routines | Elles s’exécutent selon leur propre planning, que vous regardiez ou non |
La limite hebdomadaire
Section intitulée « La limite hebdomadaire »Votre offre comprend un quota mesuré sur une semaine glissante, et non un solde mensuel que vous pourriez dépenser d’un coup. Quand le quota de la semaine est épuisé, les exécutions sont refusées jusqu’à ce que la fenêtre avance.
Deux conséquences à anticiper :
- Une seule journée intensive ne peut pas épuiser un mois.
- Une routine à intervalle court avec un modèle coûteux est la façon la plus courante d’atteindre la limite, car elle consomme en continu pendant que vous ne regardez pas.
Réduire l’utilisation
Section intitulée « Réduire l’utilisation »Par ordre d’efficacité, approximativement :
- Adaptez le modèle à la tâche. Un modèle rapide et bon marché pour le travail courant, un modèle puissant pour les quelques messages difficiles. Voir Choisir un modèle.
- Fixez un modèle pour chaque routine, pour que le travail planifié ait un coût prévisible.
- Baissez l’effort de raisonnement pour le travail qui ne demande pas plusieurs étapes.
- Commencez une nouvelle conversation quand le sujet change : les longs fils sont renvoyés à chaque étape.
- Désactivez les groupes d’outils intégrés dont un agent n’a pas besoin : chaque outil proposé occupe du contexte à chaque étape.
- Espacez les routines. Une exécution toutes les heures vaut rarement quatre fois le coût d’une exécution toutes les quatre heures.
Utiliser votre propre clé
Section intitulée « Utiliser votre propre clé »Si vous préférez payer directement un fournisseur de modèles, connectez votre propre clé : endue l’utilisera pour les appels aux modèles concernés. Voir Utiliser votre propre clé.
- L’utilisation est mesurée par compte, pas par agent. La vue par agent du tableau de bord ventile ce total ; ce n’est pas un quota distinct.
- Les exécutions sont refusées quand le quota hebdomadaire est épuisé. Le travail en cours n’est pas annulé, mais aucune nouvelle exécution ne démarre.
- Les chiffres de la vue d’utilisation peuvent avoir un léger retard sur une exécution, le temps qu’elle soit comptabilisée.
- Les exécutions faites avec votre propre clé ne sont pas du tout enregistrées dans le registre d’utilisation.