¿Qué es la Herramienta de Seguimiento de Tokens para LLM?

La Herramienta de Seguimiento de Tokens para LLM te ayuda a monitorear el uso de tokens en interacciones con modelos de lenguaje grande (LLM) calculando el total de tokens utilizados y la proporción de tokens gastados en el prompt frente a la completación. Esto es útil para optimizar el uso de tokens, controlar costos y analizar la eficiencia del modelo.

Cómo usar:

1. Tokens del Prompt: Ingresa el número de tokens usados en tu prompt (entrada).
2. Tokens de Completación: Ingresa el número de tokens usados en la respuesta del modelo (salida).
3. Haga clic en “Calcular”: La herramienta mostrará:
4. Tokens Totales: Tokens combinados del prompt y la completación.
5. % de Prompt: Porcentaje de tokens usados para el prompt.
6. % de Completación: Porcentaje de tokens usados en la respuesta.
7. Uso de Resultados: Ayuda a equilibrar la longitud del prompt y el tamaño esperado de la respuesta, además de monitorear el consumo total de tokens.