Qu’est-ce que le Suivi des Coûts LLM ?

Cet outil vous aide à calculer le coût total de l’utilisation des modèles de langage de grande taille (LLM) en fonction du nombre de jetons envoyés comme prompts et reçus comme complétions. En saisissant l’utilisation des jetons pour plusieurs sessions et le coût par tranche de 1 000 jetons, il fournit le total des jetons, le coût total et le coût moyen par session. Il est idéal pour gérer le budget des API IA et suivre l’efficacité sur plusieurs requêtes.

Comment l’utiliser :

1. Entrez les jetons de prompt : Saisissez le nombre de jetons utilisés pour les prompts de chaque session, séparés par des virgules.
2. Entrez les jetons de complétion : Saisissez les jetons reçus des complétions LLM dans le même ordre, séparés par des virgules.
3. Entrez le coût pour 1 000 jetons : Indiquez le tarif actuel de l’API en dollars.
4. Cliquez sur « Suivre le coût total » : L’outil calcule le total des jetons de prompt, le total des jetons de complétion, le total des jetons utilisés, le coût total et le coût moyen par session.
5. Analysez les résultats : Utilisez ces informations pour suivre les tendances d’utilisation, optimiser la consommation de jetons et gérer efficacement vos dépenses liées à l’IA.