Código Abierto vs Código Cerrado
Modelos de peso abierto vs propietarios: qué significa realmente abierto, el costo real de un token y cuándo conviene cada uno.
Costo por tarea, no por token
Un modelo a mitad de precio por token puede costar lo mismo por tarea terminada, porque el barato quema el doble de tokens. Este es el número que sí debes comparar.
Tip #204Pesos abiertos no es local, y no es gratis
Las miniaturas dicen gratis, local, código abierto. Solo una de esas tres cosas es realmente cierta para un modelo frontera de pesos abiertos. Esto es lo que los pesos abiertos de verdad te dan — y lo que no.
Tip #205Planifica caro, construye barato, revisa afilado
No entregues una tarea de código a un solo modelo. Divídela en tres: planifica con tu modelo más fuerte, ejecuta con uno barato y rápido, revisa con un segundo modelo de frontera. Mismo resultado, alrededor de un tercio del costo.
Tip #206Apunta tu agente de programación a un modelo abierto
A tu agente de programación no le importa qué modelo va debajo. Apunta sus variables de entorno a un proveedor que sirva un modelo abierto y el harness ni se entera. Aquí está cómo — y cuándo mantener un modelo frontera a un flag de distancia.
Tip #207El caché es donde los modelos abiertos se vuelven baratos
Los modelos abiertos parecen baratos por token — hasta que llega la factura. El caché de entrada es el ajuste que los vuelve realmente baratos.
Tip #208Los benchmarks favorecen a los modelos nuevos
Un modelo abierto nuevo “empata con la frontera” en las gráficas, y luego tarda unos 90 minutos y 21M de tokens en hacer lo que el líder hizo en 17. Los benchmarks favorecen a los modelos nuevos — corre tu propia tarea más difícil antes de cambiar.