¿Qué es el Rastreador de Costos de LLM?

Esta herramienta te ayuda a calcular el costo total de usar Modelos de Lenguaje Grande (LLMs) según la cantidad de tokens enviados como prompts y recibidos como respuestas. Al ingresar el uso de tokens para múltiples sesiones y el costo por 1,000 tokens, proporciona el total de tokens, el costo total y el costo promedio por sesión. Es ideal para gestionar presupuestos de API de IA y monitorear la eficiencia a lo largo de múltiples solicitudes.

Cómo usar:

1. Ingresa los Tokens de Prompt: Introduce la cantidad de tokens usados en los prompts de cada sesión, separados por comas.
2. Ingresa los Tokens de Respuesta: Introduce los tokens recibidos de las respuestas del LLM en el mismo orden, separados por comas.
3. Ingresa el Costo por 1,000 Tokens: Especifica el precio actual de la API en dólares.
4. Haz Clic en “Calcular Costo Total”: La herramienta calcula los tokens totales de prompt, tokens totales de respuesta, tokens totales usados, el costo total y el costo promedio por sesión.
5. Analiza los Resultados: Utiliza esta información para monitorear tendencias de uso, optimizar el consumo de tokens y gestionar eficazmente tus gastos de IA.