Modelos abiertos
Modelos abiertos o APIs de pago: cuándo igualan y cuándo no
¿Es tan bueno como GPT? Es la primera pregunta que se hace cualquier pyme cuando se plantea llevar la IA a sus propias oficinas. Y es una pregunta mal hecha, porque compara dos cosas que no están en el mismo eje. La comparación útil no es mejor o peor: es un modelo general que alquilas frente a un modelo específico que es tuyo. En este artículo vemos dónde un modelo abierto bien ajustado iguala o supera a las APIs de pago, dónde no las iguala, y cómo comprobarlo con números en vez de con opiniones.
La pregunta mal hecha
Los rankings que comparan modelos miden razonamiento general de frontera: problemas de matemáticas de olimpiada, programación competitiva, preguntas sobre casi cualquier tema. Ahí los modelos de las grandes APIs de pago mandan, y no hay debate serio al respecto.
Pero fíjate en lo que acabas de leer: ninguna de esas pruebas se parece al trabajo que tu empresa quiere automatizar. Cuando preguntas si un modelo abierto es tan bueno como GPT, estás comparando el modelo alquilado en su mejor terreno, el general, con el modelo abierto en un terreno que todavía no es el suyo, porque aún no lo has ajustado con tus datos. El eje correcto es otro: general alquilado frente a específico tuyo.
Qué hace tu empresa con la IA en realidad
Haz la lista honesta de lo que quieres automatizar. En casi todas las pymes sale lo mismo: clasificar correos y tickets, extraer campos de facturas, albaranes y contratos, redactar respuestas con tu tono y tu formato, y responder preguntas sobre tu propia documentación.
En banca es triaje de solicitudes y revisión de expedientes. En sanidad, resumir y anonimizar historiales. En legal, localizar cláusulas y comparar versiones. En industria, partes de mantenimiento e incidencias. Son tareas cerradas: entrada conocida, salida con formato fijo y un criterio de acierto que se puede medir.
Nada de eso exige razonamiento de frontera. Exige entender tu vocabulario, tus plantillas y tus casos raros. Y eso no viene de serie en ningún modelo, ni abierto ni de pago: viene de ajustarlo con tus ejemplos.
Dónde un abierto ajustado iguala o gana
En una tarea concreta y acotada, un modelo abierto con fine-tuning sobre tus ejemplos y RAG sobre tu documentación juega en casa. No necesita saberlo todo: necesita saber lo tuyo. Un modelo de tamaño medio ajustado a una sola tarea puede alcanzar en esa tarea a un modelo general mucho mayor, porque el ajuste le da lo que al general le falta: tu contexto, tu vocabulario y tus formatos.
Y hay terrenos donde el abierto no iguala, sino que gana. Tus datos no salen de tu oficina, algo que en sanidad, legal o banca no es una preferencia, sino RGPD y secreto profesional. El modelo no cambia de un día para otro por decisión de un tercero, así que lo que validaste sigue funcionando igual. Y su comportamiento queda documentado y auditable, que es justo lo que el AI Act europeo va a exigir en los usos que clasifica como de alto riesgo.
El tamaño tampoco es el problema que era. Los pesos de un modelo de 70.000 millones de parámetros ocupan unos 140 GB en FP16, unos 70 GB en FP8 y unos 39 GB en NVFP4 (0,5625 bytes por parámetro: 4 bits por valor y una escala FP8 por cada bloque de 16). Un equipo de sobremesa como un DGX Spark, con 128 GB de memoria unificada, ya mueve modelos de ese rango cuantizados. Si quieres afinar qué tamaño de modelo pide tu caso, tienes la cuenta completa en nuestra guía sobre qué GPU necesita tu empresa.
Dónde no igualan: la frontera
Seamos igual de claros en sentido contrario. En razonamiento general de frontera, los modelos abiertos no igualan a los mejores modelos de pago. Problemas abiertos de varios pasos sin ejemplos previos, investigación, código complejo en dominios nuevos, tareas distintas cada día que no puedes convertir en un conjunto de entrenamiento: ahí el modelo alquilado es mejor herramienta, y va a seguir siéndolo un tiempo.
Si el grueso de tu uso real es ese, no te compensa montar nada en local, y decírtelo también forma parte de una comparación honesta. La buena noticia es que casi ninguna pyme vive ahí: vive en las tareas del apartado anterior, las que se repiten cada día y se pueden medir.
Cómo decidir: una prueba acotada
No decidas con demos ni con rankings. Decide con una prueba sobre tu propio trabajo, en cuatro pasos.
Uno: elige una sola tarea, la más repetitiva y medible que tengas. Dos: reúne entre 100 y 200 ejemplos reales con su resultado correcto, validados por la persona que hoy hace ese trabajo. Tres: define la métrica de acierto antes de probar nada, para que decida la tabla y no la impresión que deja una demo. Cuatro: pasa el mismo conjunto por la API de pago que uses hoy y por un modelo abierto ajustado, y compara.
Si el despliegue on-premise expone una API compatible con OpenAI, la prueba no te obliga a reescribir integraciones: apuntas tu aplicación a otra URL y mides. Si el abierto iguala en tu tarea, tienes la respuesta con números. Si no llega, también, y te habrá costado unas semanas, no un proyecto.