- 🤖 El FOMO en IA dispara capex pero no garantiza retorno
- 💸 Los costos de inferencia hunden márgenes si no se calculan bien
- 🧭 Playbook anti-FOMO para construir IA útil y rentable
¿La industria de la IA funciona a punta de FOMO? Entre capex récord y GPUs escasas, te cuento lo que nadie te dice: los unit economics de inferencia que matan márgenes y cómo evitarlos.
¿FOMO en la industria de la IA? Datos y calle
¿Sabías que las Big Tech están proyectando más de 400.000 millones de dólares en capex ligado a IA para el próximo año? El hype no afloja y, aun así, los resultados siguen borrosos. Como ingeniero en Medellín que ha trabajado con startups en LatAm y Europa, lo veo a diario: equipos reetiquetando features como “IA” para no quedarse fuera del juego. Y cuando miras los números finos, la historia cambia.
Resumen rápido: OpenAI, Microsoft, Google, Amazon y Meta están en modo expansión, mientras Nvidia marca el ritmo con centros de datos y GPUs. Los agentes ya están en manos de usuarios, pero la adopción real va más lenta que los titulares. Lo que importa hoy no es tener IA, es que tu IA cierre bien sus unit economics. Y lo que descubrí en varios proyectos me cambió la forma de evaluar cualquier pitch con “IA”.
Los números duros del hype de IA
En las últimas llamadas de resultados, Amazon, Google, Microsoft y Meta hablaron de más de 350.000 millones de dólares en capex este año y avisaron que viene más. Analistas calculan que podrían superar los 400.000 millones. El retorno todavía no es claro. Incluso OpenAI, con ingresos anualizados reportados de miles de millones, sigue enfrentando costos operativos altísimos. Ejecutar modelos grandes para millones de usuarios se come los márgenes.
Ese es el punto que muchos evitan: no basta con tener un producto wow. Si la inferencia cuesta más que lo que cobras por usuario, estás quemando caja sin freno. En varios talleres que doy con jóvenes en Medellín, me preguntan cómo “hacer un ChatGPT para X industria”. Mi respuesta suele ser incómoda: ¿cuánto cuesta cada consulta? ¿Cuánto tráfico proyectas? ¿Qué latencia soporta tu cliente? Sin esas respuestas, es puro FOMO.
La trampa de los unit economics de inferencia
Hablemos claro. La inferencia tiene tres asesinos silenciosos: costo por token, latencia y egress de datos. Si un flujo requiere prompts largos, contextos gigantes y respuestas detalladas, el costo escala no linealmente. Y si además te vas a la nube con salidas grandes, el egress te remata. Incluso con suscripción premium, hay servicios que aún pierden dinero por consulta. Por eso ves a tantos equipos limitar features o poner “créditos” diarios.
En campo, lo he resuelto así: recortar contexto con embeddings agresivos, distillar a modelos más pequeños, cachear prompts recurrentes, y mover inferencia batch a horarios valle. A veces, el mayor boost no es técnico sino de UX: guiar al usuario a pedir menos tokens con mejores plantillas. Menos tokens, más valor percibido. Suena simple, pero cambia la curva de costo.
Playbook anti-FOMO para tu startup de IA
- Empieza con un caso de uso claro y medible: reduce un KPI operativo, no “inventa magia”
- Calcula unit economics por flujo: tokens in, tokens out, llamadas por usuario, margen objetivo
- Prefiere modelos pequeños + distill + quantization: la mitad de costo por 80 % del valor
- Usa retrieval y reglas antes de generación libre: precisión y menos tokens
- Cachea prompts y respuestas frecuentes: sube velocidad, baja factura
- Híbrido inteligente: on-device o edge para lo trivial, nube para lo pesado
- Precios alineados a uso y valor: tiers por outcome, no solo por tokens
- Observabilidad total: traza cada consulta y mide qué realmente paga el cliente
Este playbook no es glamuroso, pero funciona. Cuando lo aplicamos con un cliente en e-commerce, el coste por ticket resuelto bajó 63 % y la satisfacción subió. Lo que importa es ROI, no demos virales.
Qué sí va a quedarse cuando baje la espuma
No todo es humo. Veo tres frentes con tracción real: agentes para código que ahorran horas de ciclo, atención al cliente con workflows cerrados y métricas claras, y generación creativa con control de marca y derechos. Ahí hay dinero porque hay gasto previo que puedes desplazar. Herramientas en Azure, AWS y Google Cloud ya ofrecen pipelines decentes para estos casos, y el open source se mueve rápido para cargas on-prem donde compliance manda.
En Medellín, varias pymes están usando IA para backoffice: conciliaciones contables, clasificación de documentos, priorización de leads. No son sexys, pero pagan la nómina. Ese es el termómetro: si tu IA se convierte en rutina silenciosa, ganaste.
¿Burbuja o ciclo de consolidación? Lo que vigilar ahora
Incluso ejecutivos de primer nivel han admitido que hay partes “burbujeantes” en la IA. Si hay corrección, no será un estallido total, sino consolidación y menos jugadores. Señales a observar: desaceleración en el ritmo de lanzamientos de los líderes, o enfriamiento en el negocio de centros de datos y GPUs. Todo esto encaja con lo que se discutió recientemente sobre capex, presión de márgenes y adopción real, según este reportaje en The Verge.
A la IA no la mata la falta de hype, la mata la falta de margen.
Desde mi trinchera, lo repito: elige un problema aburrido y resuélvelo hermoso. Si tu agente ahorra minutos todos los días, sobrevivirá a cualquier ciclo. Si compites a punta de FOMO, te come el costo.
Cuéntanos: ¿estás construyendo un agente enfocado en costo y valor, o sigues persiguiendo features virales? Únete al debate en Threads y no te pierdas las reacciones en X.
Preguntas frecuentes
¿Cómo calcular el costo por usuario en un producto de IA?
Parte de un flujo real: tokens de entrada, de salida y número de consultas por sesión. Suma costos de almacenamiento, egress y latencia si afecta conversión. Divide por usuarios activos y compáralo con tu ARPU objetivo. Ajusta prompts y modelo hasta lograr margen positivo.
¿Qué modelos usar si quiero reducir costos sin perder calidad?
Empieza con modelos pequeños bien afinados y distillation desde uno grande. Prueba cuantización a 4 u 8 bits y limita el contexto con retrieval. En muchos casos, un modelo mediano con buen sistema de prompts iguala resultados a una fracción del costo.
¿Cuándo conviene on-prem u on-device frente a la nube?
Si tu carga es predecible, sensible en datos o necesitas latencia ultra baja, evalúa on-prem o edge. La nube brilla con picos variables y time-to-market. Un enfoque híbrido suele ganar: inferencia ligera local, tareas pesadas en la nube.
¿Cómo evitar el FOMO y priorizar bien el roadmap de IA?
Define un KPI de negocio que tu IA debe mover y bloquea features que no lo impactan. Testea con pilotos pagados y corta rápido lo que no mejora margen o retención. Comunica a inversores con datos, no con demos espectaculares.
