FinOps de agentes: el coste por transacción
Respuesta rápida:
Un agente no tiene coste mensual: tiene coste por tarea. Y la pregunta que decide si el proyecto sigue vivo es si esa cifra está por debajo de lo que vale resolver la tarea.
La factura llega a fin de mes, agregada, y esconde exactamente lo que hay que saber. Una organización puede estar pagando ocho céntimos por consulta resuelta y cuatro euros por otra sin saberlo, porque las dos caen en la misma línea del extracto.
Por qué la factura agregada engaña
Con una plataforma de datos, el gasto es relativamente estable: cómputo por hora, almacenamiento por volumen. Con agentes no. El mismo agente, ante dos peticiones parecidas, puede resolver una en tres pasos y otra en veinte, porque la segunda no encontró la evidencia a la primera y reintentó.
El resultado es una distribución con cola larga: la mayoría de las tareas son baratas y un puñado se come el presupuesto. Si solo se mira la media, esa cola no aparece nunca.
Es el mismo error que ya analizamos con el sobrecoste de cómputo en Databricks y Snowflake: mirar el total en lugar de la unidad.
De dónde sale realmente el gasto
Cuatro fuentes, por orden de sorpresa:
- Los reintentos. Un agente que no valida la evidencia repite el ciclo. Cada vuelta paga contexto completo otra vez.
- El contexto acumulado. Cada paso arrastra lo anterior. En tareas largas, el mismo texto se paga una y otra vez.
- El modelo elegido. Usar el modelo grande para clasificar una intención es pagar precio de cirujano por una cura.
- Los bucles. El caso extremo del primero: el agente no converge y sigue hasta que algo lo para. Si no hay tope, no para.
Cuatro palancas que funcionan
Enrutado de modelos
No todas las decisiones de un agente necesitan el mismo modelo. Clasificar, extraer campos o decidir si hace falta buscar son tareas donde un modelo pequeño acierta igual y cuesta una fracción. Reservar el modelo grande para el paso que realmente razona suele recortar la mitad del gasto sin tocar la calidad.
Caché de contexto
Si varias tareas comparten el mismo material de referencia, ese contexto se cachea en lugar de reenviarse. Es la palanca con mejor relación entre esfuerzo y ahorro en sistemas con mucha documentación estable.
Tope de pasos y de gasto por tarea
Un límite duro por tarea: si se supera, la tarea escala a una persona. No es una degradación del servicio, es la diferencia entre un incidente de cuatro euros y uno de cuatrocientos.
Poda del contexto
Arrastrar toda la conversación en cada paso es cómodo y caro. Pasar solo lo que el paso necesita exige diseño, pero es lo que hace que el coste crezca de forma lineal y no cuadrática.
El umbral que decide si el caso sigue
Aquí está la parte incómoda. Para cada caso de uso hay que escribir dos cifras: cuánto cuesta resolverlo con el agente y cuánto costaba resolverlo antes. Si la primera no baja de la segunda con margen, el caso no es viable, por interesante que sea técnicamente.
Escribir esas dos cifras al principio del proyecto ahorra conversaciones difíciles al final. Y descarta en una tarde casos que habrían consumido un trimestre.
Quién vigila esto
El coste por transacción pertenece al mismo panel que el resto de indicadores del agente, no a un informe mensual de finanzas. Si vive separado, se mira tarde. Puesto junto a la tasa de intervención humana y los pasos por tarea, cuenta una historia completa: cuándo un agente empieza a dar vueltas se ve antes en el gasto que en los errores, como ya vimos al hablar de observabilidad de agentes.
Cómo puede ayudar Galde
Instrumentamos el coste por transacción desde el primer prototipo, no al final, y definimos con el cliente el umbral de viabilidad de cada caso antes de construirlo. Es parte del mismo criterio con el que llevamos la IA con Palantir AIP a producción.
Conclusión
La discusión sobre el coste de la IA generativa suele quedarse en el precio por millón de tokens, que es el dato menos útil de todos. Lo que decide la viabilidad de un agente es cuánto cuesta cada tarea completa, con sus reintentos y su contexto, comparado con lo que vale esa tarea.
Medirlo es fácil. Lo difícil es aceptar lo que dice cuando sale mal.
Preguntas frecuentes
¿Qué es el coste por transacción en un agente de IA?
Es lo que cuesta resolver una tarea completa, incluyendo todos los pasos de razonamiento, las llamadas a herramientas, el contexto reenviado y los reintentos. Es la unidad que determina si un caso de uso es viable, a diferencia del precio por token.
¿Cuál es la principal fuente de sobrecoste?
Los reintentos y el contexto acumulado. Un agente que no valida la evidencia repite el ciclo pagando el contexto completo cada vez, y en tareas largas ese arrastre multiplica el gasto sin aportar calidad.
¿Qué es el enrutado de modelos?
Usar modelos distintos según el paso: uno pequeño para clasificar o extraer, uno grande solo para el razonamiento que lo requiere. Suele reducir el gasto a la mitad sin afectar a la calidad del resultado.
¿Qué tope conviene poner?
Un límite de pasos y de gasto por tarea que, al superarse, termine la tarea y la escale a una persona. Sin ese tope, un agente en bucle consume hasta que alguien lo detecta, que suele ser tarde.
