Qu’est-ce que l’Outil de Suivi des Tokens LLM ?

L’Outil de Suivi des Tokens LLM vous aide à surveiller l’utilisation des tokens dans les interactions avec les grands modèles de langage (LLM) en calculant le nombre total de tokens utilisés ainsi que la proportion dépensée pour le prompt et pour la complétion. Cela est utile pour optimiser l’utilisation des tokens, contrôler les coûts et analyser l’efficacité du modèle.

Comment l’utiliser :

1. Tokens du prompt : Saisissez le nombre de tokens utilisés dans votre prompt (entrée).
2. Tokens de complétion : Saisissez le nombre de tokens utilisés dans la réponse du modèle (sortie).
3. Cliquez sur “Calculer” : L’outil affichera :
   • Tokens totaux : Nombre combiné de tokens du prompt et de la complétion.
   • % du prompt : Pourcentage de tokens utilisés pour le prompt.
   • % de complétion : Pourcentage de tokens utilisés pour la réponse.
4. Utilisation des résultats : Cela aide à équilibrer la longueur du prompt et la taille attendue de la réponse, ainsi qu’à surveiller la consommation globale de tokens.