IA local: qué es, cómo funciona y cuándo resulta rentable

La IA local describe dónde se ejecuta un modelo, no quién lo ha desarrollado. Un modelo abierto de una gran empresa de IA que se ejecuta en su propia máquina es IA local, mientras que ese mismo modelo abierto ejecutado en los servidores de un proveedor de nube es IA en la nube. Por lo general, la IA local también significa ejecutar un modelo ya entrenado, lo que se conoce como inferencia, en lugar de entrenar un modelo desde cero. Ejecutar un modelo en su propia máquina tiene tres consecuencias prácticas.

• Los archivos del modelo se guardan en su propio disco. Puede fijar una versión exacta y mantenerla funcionando del mismo modo el año que viene, algo que el modelo alojado de un proveedor no garantiza.
• En una máquina de su propiedad, ningún dato sale del edificio para ser procesado. Este es el principal motivo por el que las empresas se plantean la IA local.
• Una vez instalados el software y el modelo, la máquina responde sin conexión a internet.

Ejecutar un modelo en local requiere tres pasos.

1. Usted instala un software que pone en servicio el modelo, como Ollama, LM Studio o LocalAI. La mayoría de estos programas aceptan el mismo formato de solicitud que OpenAI, por lo que a una herramienta existente normalmente solo hay que indicarle una nueva dirección.
2. Usted descarga un modelo abierto de un tamaño adecuado a la memoria de su máquina. El modelo Qwen3.5-35B-A3B, con 35.000 millones de parámetros, necesita 64,6 gigabytes en precisión completa y 12,2 gigabytes en una versión comprimida, por lo que cualquiera de las dos versiones cabe en un NVIDIA DGX Spark con 128 gigabytes de memoria.
3. El modelo procesa cada prompt en su propio procesador o tarjeta gráfica y devuelve la respuesta sin recurrir a un servicio en la nube. En un DGX Spark, el modelo Qwen comprimido produce 74,4 tokens por segundo, lo que equivale aproximadamente a 55 palabras por segundo.

La guía Cómo ejecutar IA localmente explica cada paso, los requisitos de hardware y cómo valorar los resultados.

La IA local se utiliza para el mismo trabajo que la IA en la nube, pero las empresas la eligen cuando el material es sensible o cuando la misma tarea se repite en grandes volúmenes. Los siguientes ejemplos muestran usos habituales, con los resultados publicados de modelos abiertos cuando existen.

• Un fabricante utiliza un modelo para responder preguntas sobre su documentación técnica y sus manuales de mantenimiento, de modo que el personal de servicio técnico encuentra el procedimiento correcto sin tener que buscar entre miles de páginas.
• Un despacho de abogados o una asesoría fiscal utiliza un modelo para extraer las partes, los plazos y los importes de los contratos y de la correspondencia con los clientes, y para redactar resúmenes preliminares que después se revisan.
• Una agencia de automatización conecta un modelo local a un software de flujos de trabajo como n8n, de modo que los correos electrónicos entrantes se clasifican y se responden automáticamente. En AutomationBench-AA, que simula este tipo de flujos de trabajo en Gmail, Slack y Salesforce, el modelo abierto DeepSeek V4.1 Flash completó el 68,9 por ciento de los objetivos, frente al 68,5 por ciento de GPT-6 Astra; la comparativa con ChatGPT analiza siete tareas de este tipo.
• Un equipo de finanzas utiliza un modelo para analizar hojas de cálculo, exportaciones en formato de valores separados por comas (CSV) y registros allí donde están almacenados. En el estudio DSGym, el modelo abierto gpt-oss-120b respondió correctamente al 71 por ciento de las preguntas sencillas de análisis de datos, frente al 75 por ciento de GPT-5. En nuestra propia prueba de IA en contabilidad, el modelo abierto GLM-5.3 Flash elaboró un libro de Excel conciliado a partir de 66 facturas y obtuvo 90 de 95 puntos.
• Una clínica transcribe informes dictados y redacta informes de alta en su propio hardware, de modo que los datos de los pacientes no llegan a un servicio externo. La comparativa con la empresa de anonimización Limina recoge siete situaciones de este tipo por sector.

Para una empresa, la IA local ofrece cuatro ventajas frente a la IA en la nube.

• La empresa mantiene el control sobre sus datos y su propiedad intelectual: los contratos, los historiales de pacientes o el código fuente se procesan dentro de su propia red. La comparativa con Limina muestra siete situaciones en las que esto resulta decisivo.
• No hay tarifas por solicitud ni por persona. Un equipo de 20 personas con ChatGPT Business paga 6000 US$ al año, todos los años, mientras que una máquina se paga una sola vez; la comparativa con ChatGPT recoge los precios actuales.
• La máquina funciona en las instalaciones de la propia empresa y sin conexión a internet, por ejemplo en una red de producción que se ha aislado de internet de forma deliberada.
• La empresa fija el modelo y su versión, por ejemplo una versión concreta de Qwen, DeepSeek o GLM, de modo que un resultado puede repetirse exactamente igual el año que viene. Un modelo alojado puede cambiar sin previo aviso.

Un modelo abierto que cabe en un equipo de sobremesa es menos capaz que los mejores modelos en la nube, y ningún ajuste elimina esa diferencia por completo. La comparativa con ChatGPT mide la diferencia tarea por tarea, y la página de rendimiento de modelos de IA recopila las valoraciones públicas.

• Los modelos en la nube siguen claramente por delante en la búsqueda de información en la web y en la generación de imágenes. En BrowseComp, una prueba que consiste en encontrar en la web datos difíciles de localizar, GPT-6 Astra obtiene un 91,5 por ciento, mientras que los mejores modelos abiertos que caben en una sola máquina obtienen entre un 64 y un 68 por ciento.
• La memoria limita el tamaño del modelo, y ese límite queda fijado el día de la compra. Un DGX Spark con 128 gigabytes admite modelos comprimidos de varias decenas de miles de millones de parámetros, pero no los modelos abiertos más grandes, que necesitan varios cientos de gigabytes.
• Alguien tiene que instalar, actualizar y reparar la máquina, y el tiempo de esa persona suele suponer un coste mayor que el hardware.
• Cuando varias personas envían solicitudes al mismo tiempo, comparten la máquina y cada una de ellas espera más, por lo que una máquina para un equipo debe probarse con varios usuarios a la vez.
• Una máquina que permanece inactiva la mayor parte del día es difícil de justificar frente a una suscripción a ChatGPT Plus de 20 US$ por persona y mes.

El precio de compra es la cifra que se cita con más frecuencia, pero es la parte más pequeña de la respuesta. Cuatro costes determinan si una instalación local llega a amortizarse.

• La propia máquina, por ejemplo un NVIDIA DGX Spark, es una inversión de capital de varios miles de euros, que se paga una sola vez y se amortiza como cualquier otro equipo.
• La energía y el espacio son el segundo coste. La máquina consume electricidad mientras se utiliza y mucho menos mientras está inactiva, y necesita un lugar con una ventilación adecuada, no un armario cerrado.
• El mantenimiento es el tercer coste: actualizaciones, cambios de modelo y alguna avería ocasional. Es el coste que con más frecuencia se omite en los análisis de rentabilidad y el que con más probabilidad se subestima.
• La alternativa actual marca la referencia. ChatGPT Business cuesta 25 US$ por persona y mes, de modo que 20 usuarios cuestan 6000 US$ al año; esa es la cifra que la máquina tiene que superar, y conviene calcularla antes que cualquier otra.

La mayor parte de esta cuestión puede resolverse sobre el papel antes de utilizar ningún hardware. Tome una tarea real, no una categoría de tareas, y compruébela con las cuatro preguntas siguientes.

• ¿Con qué frecuencia se realiza la tarea? Una tarea que se realiza cientos de veces al día, como clasificar los correos electrónicos entrantes, justifica disponer de un equipo propio; un informe que se redacta una vez por trimestre, no.
• ¿Qué calidad debe tener el resultado y quién lo revisa? Defina el criterio antes de ver ninguna respuesta, por ejemplo con entre diez y veinte casos cuyo resultado correcto ya conozca; la guía para ejecutar IA localmente explica cómo hacerlo.
• ¿Existe algún motivo por el que el material no pueda salir del edificio, como el secreto profesional, los datos de pacientes o los secretos comerciales? Si existe, ese motivo suele decidir la cuestión por sí solo.
• ¿Quién va a gestionar la máquina? Si no se puede designar a nadie, la empresa todavía no está preparada para tener una, independientemente de lo que muestren los resultados de las pruebas de rendimiento.

Probar a fondo la IA local suele exigir que la máquina ya sea propia. Nuestra prueba existe para salvar ese obstáculo.

• Operamos un NVIDIA DGX Spark con un modelo abierto identificado por su nombre y le facilitamos un endpoint estándar para sus propias herramientas, que consta de una dirección web y una clave de acceso.
• Usted conecta la herramienta que ya utiliza, por ejemplo un flujo de trabajo de n8n o una aplicación creada para la interfaz de OpenAI, y ejecuta sus propias tareas durante una o dos horas a 10 € por hora, tal como se indica en la página de precios.
• Usted conserva sus mediciones: cuánto tardó cada tarea, qué devolvió el modelo y en qué se equivocó.