LLM local en la empresa: cuándo conviene ejecutar IA en hardware propio

Un LLM local es un modelo de lenguaje de gran tamaño que se ejecuta en el ordenador o servidor de la empresa, no en la nube de un proveedor. Resulta rentable cuando la empresa trabaja con datos que no quiere enviar al exterior, utiliza la IA a diario y cuenta con alguien en el equipo que pueda mantener ese entorno. Si no se cumple ninguna de estas condiciones, bastan la nube y las herramientas listas para usar mediante suscripción.

Cada vez más empresas que implantan inteligencia artificial combinan ambos enfoques: gestionan localmente los datos sensibles y las tareas repetitivas, y dejan el resto en la nube. En este artículo explico cómo calcular los costes, qué cambia —y qué no— un modelo local en la seguridad de los datos, y por dónde empezar.

Qué es un LLM local

Un LLM local (del inglés local large language model) es un modelo de lenguaje cuyos archivos y cálculos se alojan en el hardware de la empresa: un portátil, un ordenador de sobremesa, una estación de trabajo o un servidor (la denominada IA on-premise). Cuando una empresa ejecuta un LLM localmente, las consultas, los documentos y las respuestas no se envían a una API externa.

Por lo general, se trata de modelos de pesos abiertos (del inglés open-weight), por ejemplo, de las familias Llama, Mistral, Qwen o Gemma. Se pueden descargar y ejecutar sin pagar por cada consulta. Las condiciones de licencia varían entre modelos, por lo que conviene revisarlas antes de utilizarlos comercialmente.

Un modelo local puede funcionar completamente sin conexión. La IA sin nube ni acceso a Internet es relevante allí donde la seguridad es crítica, por ejemplo, en plantas de producción o entornos de TI aislados. El concepto más amplio de «IA local» también abarca modelos de reconocimiento de imágenes y voz, así como de generación de gráficos.

Nube, suscripción o hardware propio: comparación

Ninguna opción es superior en todos los aspectos. La decisión depende de qué datos procesa la empresa y de la intensidad con la que utiliza la IA.

Criterio	Nube (API)	Suscripción	Hardware propio
Dónde van los datos	A los servidores del proveedor	Al proveedor, según el contrato	Permanecen en la empresa
Modelo de costes	Pago por uso (tokens)	Cuota fija por usuario	Compra de hardware; después, electricidad y mantenimiento
Calidad de los modelos	Los modelos más potentes	Modelos seleccionados por el proveedor	Modelos de pesos abiertos, también de gran tamaño
Integración con herramientas	Mediante API; requiere programación	Lista para usar, en las aplicaciones de la empresa	Propia o con un partner
Escalabilidad	Inmediata	Mediante la compra de licencias adicionales	Limitada por la potencia del hardware
Funcionamiento sin Internet	No	No	Sí
Quién mantiene el entorno	El proveedor	El proveedor	El departamento de TI de la empresa o un partner

Los modelos de pesos abiertos varían en tamaño. Dentro de una misma familia, las variantes más grandes suelen ofrecer mejores resultados, pero el número de parámetros por sí solo no determina la calidad. Los modelos más pequeños bastan para el trabajo diario. Los modelos grandes, ejecutados en equipos NVIDIA DGX Spark, estaciones de trabajo o servidores con GPU, se aproximan a los modelos líderes en la nube en determinadas tareas empresariales.

El hardware propio reduce la dependencia de un proveedor externo, pero la seguridad de las aplicaciones y de la infraestructura pasa a ser responsabilidad de la empresa.

Cuánto cuesta un LLM local y cuándo se amortiza

Un LLM local tiene más posibilidades de amortizarse con un uso elevado y regular. Con unas pocas consultas a la semana, la compra de hardware suele ser más difícil de justificar económicamente que el uso de la nube.

Los costes de la nube y las suscripciones aumentan con el uso: con cada nueva persona en el equipo, cada prueba de un agente y cada procesamiento de una base documental. El coste del hardware propio se asume principalmente al principio, y las consultas posteriores generan sobre todo gasto eléctrico y, en el caso de los servidores, también de refrigeración. La depreciación del hardware, el mantenimiento y el tiempo del administrador son costes fijos que se incluyen en el cálculo siguiente.

Cómo calcularlo

1. Suma el gasto anual en IA en la nube: licencias por usuario, tarifas de API, costes de pruebas y de entornos de desarrollo. Incluye lo que la empresa prevé para el próximo año.
2. Evalúa qué tareas pueden trasladarse a un modelo local y calcula cuánto cuestan hoy en la nube. Las tareas que requieran los modelos más potentes seguirán en la nube.
3. Añade el coste de tu propio entorno: hardware, energía, refrigeración, tiempo del administrador y soporte de mantenimiento.
4. Distribuye el precio del hardware durante su período de uso, por ejemplo, 36 meses, y compara el coste mensual del entorno propio con el coste mensual de las tareas que trasladarás desde la nube (punto 2). Si es inferior y la calidad de las respuestas es suficiente, un LLM local resulta rentable.

Qué influye más en el resultado

• Uso. Un hardware que permanece inactivo genera costes sin aportar beneficios. Un agente que trabaja varias horas al día o un equipo que prueba modelos a diario reducen en mayor medida el plazo de amortización de la inversión.
• Número de usuarios. Un único equipo con el rendimiento adecuado puede atender a todo el equipo, siempre que lo permitan el modelo, el número de consultas simultáneas y la forma de implantación.
• Experimentación. En la nube, cada prueba, como una nueva versión del prompt o la reconstrucción del índice documental, tiene un coste. Localmente se puede probar sin contador.
• Competencias. Si nadie en la empresa puede mantener el entorno, hay que añadir el coste de un partner.

Seguridad de los datos: qué resuelve un LLM local y qué no

Un modelo local elimina un riesgo: el envío de datos a un proveedor externo. Sin embargo, no exime del cumplimiento del RGPD ni de la Ley de IA.

Qué obtiene la empresa

• Los documentos, el código fuente, los datos financieros y los datos de clientes no salen de la infraestructura de la empresa. Esto es especialmente importante donde rige el secreto profesional o bancario, por ejemplo, en despachos profesionales, centros sanitarios y bancos.
• La empresa decide dónde se almacenan los registros de consultas y durante cuánto tiempo.
• Los empleados tienen menos motivos para recurrir a herramientas de IA privadas no autorizadas, cuyas políticas de almacenamiento y uso de datos pueden no ajustarse a la política de seguridad de la empresa.
• El modelo puede funcionar en una red completamente aislada de Internet.

Qué no resuelve una implementación local

• RGPD. Si la solución procesa datos personales, siguen siendo necesarias una base jurídica para el tratamiento, el control de acceso a los datos personales y la posibilidad de eliminarlos. En una implementación local, también hay que encargarse del registro de accesos.
• Ley de IA. Las obligaciones dependen del papel de la empresa y del modo en que se utiliza la IA, no de dónde se ejecute el modelo. Desde el 2 de agosto de 2026 se aplican, entre otras, obligaciones de transparencia, como informar de que el interlocutor es un sistema de IA e identificar los contenidos deepfake. Los requisitos para los sistemas de alto riesgo se han aplazado a diciembre de 2027 y agosto de 2028.
• Permisos y agentes de IA. El modelo debe respetar los mismos permisos que los demás sistemas de la empresa; de lo contrario, mostrará a cada usuario todos los documentos a los que tenga acceso. También conviene limitar adicionalmente los permisos de los agentes de IA que abren archivos y ejecutan herramientas por sí mismos, ya que pueden ejecutar una instrucción oculta en el contenido de un documento (la denominada inyección de prompts).
• Actualizaciones. Los modelos, las bibliotecas y el sistema requieren actualizaciones como cualquier otro software.

Para qué utilizan las empresas los modelos locales

Los modelos LLM locales funcionan mejor en tareas con datos confidenciales y un alto volumen de consultas.

Asistente para documentos de la empresa (RAG)

El modelo responde a preguntas formuladas en lenguaje natural basándose en procedimientos, contratos, manuales y la base de conocimientos. Los documentos no se envían a un servicio externo. La respuesta puede indicar el documento de origen, para que el empleado pueda comprobar inmediatamente de dónde procede la información.

Agentes de IA

Los programas que analizan archivos, preparan informes o gestionan incidencias pueden trabajar durante horas sin costes por cada consulta. Además, en local no se aplican los límites de API de un proveedor externo. Sin embargo, el rendimiento está limitado por los recursos de hardware, por lo que conviene ejecutar las tareas más largas fuera del horario laboral del equipo, cuando toda la capacidad del hardware está disponible.

Trabajo con código

El asistente de programación trabaja con código fuente que no puede salir de la empresa. Se encarga de la parte repetitiva del trabajo: sugiere fragmentos de código y prepara pruebas y documentación. El programador sigue diseñando las soluciones, revisa cada propuesta de la IA y decide qué se incorpora al proyecto; el tiempo ahorrado puede dedicarlo a tareas más complejas. También se puede adaptar el modelo al código de la empresa, por ejemplo, a sus propias bibliotecas y normas de codificación, para que las sugerencias se ajusten a las prácticas del equipo.

Procesamiento de documentos

Clasificación, resumen y extracción de datos de facturas, pedidos o reclamaciones. Con miles de documentos al mes, estas son las tareas en las que los costes de tokens en la nube crecen más rápido.

Ajuste fino de modelos (fine-tuning)

Adaptación del modelo al lenguaje del sector, los nombres de productos y los procesos internos mediante datos propios. Los datos de entrenamiento, que a menudo son los activos de conocimiento más valiosos de la empresa, permanecen en su propio hardware.

Imagen y vídeo

Reconocimiento de imágenes en el control de calidad y generación de gráficos y materiales de vídeo sin enviar los proyectos al exterior. En una línea de producción, el procesamiento local también reduce el tiempo de respuesta, ya que la imagen no tiene que enviarse a la nube y volver.

Estas soluciones son utilizadas principalmente por empresas de desarrollo de software, departamentos de I+D, empresas financieras, el sector industrial, el comercio electrónico y organizaciones con altos requisitos de seguridad.

Cuándo sigue teniendo sentido la nube y cómo combinar ambos enfoques

La nube resulta adecuada cuando se necesita acceder a modelos concretos, escalar rápidamente o disponer de integración lista para usar con las aplicaciones cotidianas:

• tareas para las que son más adecuados modelos específicos disponibles en la nube, por ejemplo, análisis complejos y razonamiento en varias etapas,
• uso ocasional que no justifica la compra de hardware,
• picos repentinos de demanda, por ejemplo, el procesamiento puntual de un gran archivo,
• asistentes integrados en suites ofimáticas, como Microsoft 365 Copilot, que trabajan con el correo electrónico, el calendario y los archivos dentro de los permisos existentes.

Modelo híbrido

El modelo híbrido distribuye las tareas según el tipo de datos y el nivel de calidad requerido:

1. Datos sensibles (código, documentos financieros, datos de clientes): LLM local.
2. Tareas repetitivas a gran escala (clasificación, resúmenes, agentes que operan las 24 horas): LLM local.
3. Trabajo diario de oficina en las aplicaciones de la empresa: asistente por suscripción.
4. Las tareas más complejas con datos no sensibles: los modelos más potentes en la nube.

El modelo híbrido es una de las opciones, no una receta universal. La distribución adecuada de las tareas depende del tipo de datos, la escala de uso y las competencias del equipo, por lo que conviene revisarla periódicamente.

Dónde ejecutar un LLM local

En la comparativa siguiente predomina el hardware basado en las soluciones de NVIDIA. CUDA es uno de los ecosistemas de aceleración de IA con mejor soporte. Herramientas populares como PyTorch, Ollama o llama.cpp ofrecen compatibilidad con GPU de NVIDIA, aunque muchas también admiten otras plataformas. NVIDIA también ofrece hardware para cualquier escala, desde portátiles hasta servidores, con un ecosistema de herramientas coherente.

Los portátiles NVIDIA RTX Spark™ son una novedad en la oferta de Senetic. Combinan gráficos NVIDIA Blackwell RTX y un procesador NVIDIA Grace en un único chip con un rendimiento de hasta 1 PFLOP en cálculos de IA (FP4) y ejecutan Windows 11. El parámetro más importante es la memoria unificada de 24 a 128 GB, utilizada simultáneamente por el procesador y los gráficos. De ella depende el tamaño del modelo que puede ejecutarse localmente. En la configuración más potente, el portátil puede ejecutar modelos de hasta 120 mil millones de parámetros con un contexto de hasta 1 millones de tokens.

Los diseños más finos tienen un grosor de 14 mm y, según NVIDIA, los portátiles ofrecen autonomía durante todo el día. Sin embargo, la autonomía declarada no implica una carga intensiva durante todo el día con un modelo grande, ya que depende del uso del dispositivo. Las aplicaciones se ejecutan localmente y se puede recurrir a la nube cuando sea necesario, lo que encaja bien con el modelo híbrido. La oferta de Senetic incluye los modelos Microsoft Surface Laptop Ultra, ASUS ProArt P16, HP OmniBook Ultra 16, Lenovo Yoga Pro 9n y MSI Prestige N16 Flip AI+.

La elección del hardware depende principalmente de la memoria, ya que el modelo debe caber en ella. Analizamos los requisitos y parámetros en la guía sobre qué ordenador elegir para IA, y los niveles de inversión en infraestructura de servidores en el artículo sobre tipos de servidores para IA.

El tipo de hardware se selecciona según la escala y la naturaleza de las tareas:

Uso	Tipo de hardware	Dónde buscar en la oferta
Una sola persona, también durante los desplazamientos	Portátil NVIDIA RTX Spark (hasta 128 GB)	Portátiles para IA
Entorno de IA compartido para el equipo	Ordenador con NVIDIA DGX Spark	Ordenadores para IA
Ajuste fino y los modelos más grandes	Estación de trabajo con NVIDIA DGX Station	Estaciones de trabajo para IA
Varios usuarios simultáneamente	Servidor con tarjetas GPU	Servidores para IA
Ampliación del hardware existente	Tarjeta GPU para servidor o estación de trabajo	Tarjetas GPU para IA

Por dónde empezar

1. Elija un caso de uso, por ejemplo, un asistente para los documentos de un departamento.
2. Compruebe qué datos procesará el modelo y quién debe tener acceso a ellos.
3. Pruebe varios modelos de pesos abiertos en tareas reales, por ejemplo, con herramientas como Ollama o LM Studio, y compare los resultados con un modelo en la nube.
4. Estime cuántas consultas diarias generará este caso de uso y calcule los costes según los cuatro pasos descritos anteriormente.
5. Compruebe la compatibilidad del software con el hardware. Los ordenadores con NVIDIA DGX Spark y los portátiles NVIDIA RTX Spark utilizan procesadores con arquitectura Arm, por lo que no todas las aplicaciones se ejecutarán en ellos sin modificaciones.
6. Basándose en las pruebas y los cálculos, elija el tipo y el número de dispositivos adecuados para el tamaño de los modelos y el número de usuarios.

El retorno de la inversión en hardware para IA local depende principalmente de su grado de utilización. Por ello, conviene preparar una lista de casos de uso concretos antes de la compra.

Preguntas frecuentes

¿Funciona un LLM local sin Internet?

Sí. Tras descargar el modelo y las herramientas, se puede utilizar completamente sin conexión. La conexión solo es necesaria para las actualizaciones, la descarga de nuevos modelos y posibles integraciones con servicios externos.

¿Es un modelo local tan bueno como los modelos en la nube?

En tareas cotidianas, como resumir, clasificar o responder a partir de documentos, los modelos de pesos abiertos suelen ser suficientes. En tareas más complejas, el resultado depende del tamaño del modelo: los modelos grandes de pesos abiertos, ejecutados en estaciones de trabajo o servidores, se aproximan a los principales modelos en la nube. Por ello, conviene realizar la comparación con sus propias tareas.

¿La IA local cumple automáticamente con el RGPD?

No. Un modelo local limita la transferencia de datos al exterior, pero la empresa sigue siendo responsable de la base jurídica del tratamiento, del acceso a los datos y de su eliminación.

¿Cuánta memoria necesita un LLM local?

Depende del tamaño del modelo y de su nivel de compresión (cuantización). Con compresión a 4 bits, cada mil millones de parámetros ocupan aproximadamente 0,5–0,6 GB de memoria, a lo que hay que añadir margen para el contexto de la conversación y el sistema. En la práctica, un modelo con 8 mil millones de parámetros necesita aproximadamente 5–6 GB, uno con 70 mil millones aproximadamente 40 GB, y uno con 200 mil millones más de 100 GB. Sin compresión, los requisitos son aproximadamente cuatro veces mayores.

¿Sustituirá un LLM local a Microsoft 365 Copilot?

No, son herramientas para tareas diferentes. Copilot trabaja con el correo, los archivos y el calendario en Microsoft 365. Un modelo local es adecuado para datos que no deben enviarse a la nube y para las aplicaciones de IA propias de la empresa. Muchas organizaciones utilizan ambos.

¿Se puede trasladar un proyecto desde hardware local al centro de datos o a la nube?

Sí, si utiliza las mismas herramientas, como CUDA y contenedores. Sin embargo, hay que tener en cuenta la arquitectura del procesador: NVIDIA DGX Spark y los portátiles NVIDIA RTX Spark funcionan con Arm, mientras que muchos servidores utilizan x86, por lo que algunas bibliotecas e imágenes de contenedor pueden requerir una versión preparada para la otra arquitectura.