Yeda AI Tips · #119

English

Elige el nivel del modelo según el alcance de la tarea

Estás pagando precios de razonamiento de primer nivel por un arreglo de una línea. Todos los proveedores principales ofrecen una escalera de modelos — un nivel rápido y barato y un modelo insignia de razonamiento profundo — y aun así la mayoría de los desarrolladores fija un solo modelo y le manda todo. La solución cuesta un segundo extra de reflexión: clasifica primero el alcance de la tarea y después elige el nivel.

La escalera de alcance

Antes de escribir el prompt, ubica la tarea en una escalera de cinco peldaños:

AlcanceEjemploNivel a usar
TrivialCorregir un typo, renombrar una variable, formatear un archivoNivel rápido/barato
BajoArreglar un bug en una función, agregar un log, escribir un test unitarioNivel rápido/barato
MedioUn endpoint nuevo, refactorizar un módulo, un bug no obvioNivel medio (o rápido + revisión)
AltoCambio transversal, concurrencia difícil, diseño de APINivel insignia de razonamiento
ÉpicoArquitectura, plan de migración, trabajo agéntico de varios díasInsignia, razonamiento máximo

La recompensa es asimétrica. La propia guía de selección de modelos de Anthropic fija el precio de su modelo más capaz disponible al público en $10 por millón de tokens de entrada y $50 por millón de tokens de salida, mientras posiciona su nivel rápido (clase Haiku) en "el punto de precio más económico" para tareas simples de alto volumen. En una edición trivial, el insignia no solo es más caro: suele ser más lento, porque los modos de razonamiento profundo gastan tokens pensando en un problema que no tiene nada que pensar.

Por qué el nivel rápido gana en alcance pequeño

Un cambio de una línea tiene poco contexto, un criterio de éxito obvio y un modo de falla barato: si el modelo rápido se equivoca, lo ves al instante y reintentas. Ese es exactamente el perfil donde la documentación de los proveedores te apunta al modelo pequeño — Anthropic recomienda empezar con Claude Haiku 4.5 para "tareas simples de alto volumen" y subir de nivel solo ante carencias concretas de capacidad. La línea Gemini de Google hace la misma división explícita: Flash-Lite se presenta como "el más rápido y económico" y Pro como el nivel de razonamiento profundo para tareas complejas.

Lo inverso también aplica. Las decisiones de arquitectura, los planes de migración y el trabajo agéntico de alcance épico tienen contexto enorme, criterios de éxito difusos y modos de falla caros — un diseño equivocado cuesta días, no un reintento. Ahí cada token extra de razonamiento del insignia vale la pena.

Las dos estrategias de arranque

  1. Empieza barato, escala si falla — para alcance trivial/bajo. Corre el nivel rápido; si el resultado no alcanza, sube un peldaño. La mayoría de las tareas pequeñas nunca escala.
  2. Empieza inteligente, optimiza hacia abajo — para alcance alto/épico. La guía de selección de modelos de OpenAI es directa con el orden: optimiza primero la precisión con un modelo capaz, y recién después "busca mantener la precisión con el modelo más barato y rápido posible". Su ejemplo práctico destiló una tarea a un modelo pequeño a aproximadamente el 2% del costo original — después de que el modelo frontera validó el enfoque.

Ambas estrategias coinciden en el movimiento central: el nivel se decide por tarea, no como default del proyecto.

Trucos de usuario avanzado

Recursos

Read this article in English

¿Construyendo una función con IA? Yeda AI diseña, audita y entrega sistemas LLM de producción.

Habla con nosotros · Lee el blog