¿Qué servidor para IA elegir? Tres niveles de inversión y costes reales

Hace solo dos años, «IA propia» significaba para la mayoría de las empresas una cosa: una suscripción a ChatGPT o Copilot. Hoy, cada vez más organizaciones llegan al punto en que la nube deja de ser suficiente. Las razones suelen ser tres: costes que crecen con el número de consultas, datos que no se pueden enviar fuera de la empresa y la necesidad de que la IA trabaje con documentos, bases de datos y procesos propios, en lugar de basarse en conocimiento general de internet.

En este punto surge la pregunta: ¿qué servidor para IA conviene comprar y cuánto cuesta?

La respuesta es más interesante de lo que podría parecer, porque el rango de precios es enorme: desde un equipo del tamaño de un libro por poco más de veinte mil eslotis hasta una máquina de más de dos millones. Y, lo importante, cada una de estas soluciones tiene sentido, pero para un perfil distinto. A continuación describo tres niveles de inversión, el cálculo que conviene hacer antes de decidir y cinco preguntas para elegir el equipo sin comprar de más ni quedarse corto.

En qué se diferencia un servidor para IA de un servidor convencional

Un servidor convencional se construye en torno al procesador. Un servidor para IA se construye en torno a las GPU: son ellas las que realizan todo el trabajo con los modelos, mientras que el resto del hardware está destinado a darles soporte. De ahí surgen tres diferencias prácticas.

• Las GPU y su memoria. En una máquina de este tipo trabajan entre cuatro y ocho aceleradores, normalmente en forma de tarjetas PCIe en servidores rack y como módulos soldados a una placa común en las plataformas más potentes. Su memoria total es el parámetro más importante de toda la compra; volveremos a ello enseguida.
• Energía. Ocho tarjetas bajo carga consumen 5–6 kW, lo mismo que varias decenas de ordenadores de oficina. Esto requiere un rack con alimentación adecuada y una evacuación eficiente del calor en el centro de datos.
• Red. Para una sola máquina basta con una red rápida estándar. Al unir varios servidores en un único sistema, se necesitan enlaces mucho más rápidos, ya que las GPU de distintos chasis deben intercambiar datos con una latencia comparable a la de trabajar dentro del mismo chasis.

Por tanto, no se trata simplemente de un «servidor más potente». Es otra categoría de hardware, que se elige con criterios diferentes.

La memoria GPU: la cifra que ordena toda la elección

Hay un parámetro más importante que el precio: cuánta memoria suman las GPU del servidor.

¿Por qué? El modelo debe caber íntegramente en esa memoria, igual que un archivo debe cargarse en un programa para poder utilizarlo. Si no cabe, sencillamente no se iniciará.

Sin embargo, el modelo en sí es solo el comienzo del cálculo. Cada usuario conectado y cada documento analizado consumen memoria adicional para la conversación en curso. Por ello, el mismo modelo para cien personas necesita considerablemente más espacio que para una sola; precisamente el número de usuarios, y no solo el tamaño del modelo, suele determinar qué nivel de hardware se necesita.

La guía analiza los requisitos básicos de memoria de los modelos Qué ordenador para IA elegir. La siguiente tabla muestra el segundo eje de este cálculo: cómo cambian los requisitos según la escala del despliegue. Los valores son orientativos y corresponden a una configuración de producción típica.

Tamaño del modelo	5 usuarios	50 usuarios	200 usuarios	Nivel de hardware
pequeño (clase 8B)	aprox. 8 GB	aprox. 20 GB	aprox. 50 GB	DGX Spark
medio (clase 70B)	aprox. 45 GB	aprox. 70 GB	aprox. 130 GB	servidor rack, 1–2 tarjetas
grande (clase 200B+)	aprox. 130 GB	aprox. 200 GB	aprox. 350 GB	servidor con ocho tarjetas
entrenamiento de un modelo propio	varias veces más que la mera ejecución	–	–	plataforma HGX B200

Designaciones como 8B o 70B indican cuántos miles de millones de parámetros componen el modelo: 8B equivale a ocho mil millones. Cuantos más parámetros, mayor será la calidad de las respuestas y más memoria GPU ocupará el modelo.

Además, hay algo que es fácil pasar por alto.

Margen. Las cifras anteriores corresponden a un funcionamiento normal. Para los picos de carga, conviene añadir un margen del 20–30 %; de lo contrario, el sistema empezará a rechazar consultas cuando aumente el tráfico.

Nivel 1: NVIDIA DGX Spark, el punto de partida

NVIDIA DGX Spark es un equipo de escritorio del tamaño de un libro, con 128 GB de memoria unificada y una potencia de cálculo de aproximadamente 1 petaFLOP para tareas de IA. Permite ejecutar localmente modelos de la clase que impulsa los asistentes más populares, sin enviar un solo documento a la nube. Hay varias versiones, que se diferencian principalmente por la capacidad de almacenamiento (1, 2 o 4 TB) y el paquete de soporte. Encontrará la oferta completa de esta clase de equipos, incluidos modelos de ocho fabricantes, en la categoría de ordenadores para IA.

¿Para quién? Para una empresa que primero quiere comprobar si la IA mejorará la atención al cliente, el análisis de contratos o la preparación de ofertas, antes de que nadie apruebe un gran presupuesto. La inversión ronda los 5.499,19 € netos, es decir, menos que una suscripción anual a herramientas de IA para un equipo de más de una decena de personas. Se pueden conectar dos equipos en un único sistema.

Limitación. Es un equipo para un solo equipo de trabajo, no para toda la organización. No se puede montar en un rack, no dispone de alimentación redundante ni puede incluirse en la política de servicio aplicable al centro de datos. Cuando cien personas deban utilizar la IA simultáneamente, habrá que pasar al nivel siguiente.

Nivel 2: servidor GPU para rack, es decir, IA de producción para la empresa

En mi opinión, este es el nivel que hoy se pasa por alto con más frecuencia y la opción más razonable para una empresa con un caso de uso real de IA.

Se trata de una plataforma GPU dedicada para rack (5U), diseñada para ocho tarjetas de doble ancho. No está vinculada a un único modelo de acelerador: la elección de las tarjetas depende del uso previsto. La base incluye dos procesadores AMD EPYC, hasta 6 TB de memoria DDR5 en 24 ranuras y seis fuentes de alimentación 2700 W configuradas de forma redundante.

El número de tarjetas es clave, ya que determina la memoria GPU. Dos tarjetas RTX PRO 6000 de 96 GB cada una suman 192 GB y darán servicio a un asistente interno para varias decenas de personas. La configuración completa de ocho tarjetas alcanza los 768 GB, suficiente para varios cientos de usuarios o modelos muy grandes. Se pueden añadir más tarjetas en el mismo chasis sin sustituir el servidor; esa es la principal ventaja de este nivel: no es necesario empezar con la configuración completa.

Modelo concreto: Supermicro AS-5126GS-TNRT Gold Series

Se vende como sistema completo y configurado. La inversión aproximada para la configuración inicial con dos tarjetas es de unos 114.571,62 € netos. Consulte la configuración exacta y el precio actual en la ficha del producto.

¿Qué ofrece en la práctica? Este servidor puede ejecutar modelos de lenguaje de gran tamaño de forma local, gestionar el análisis del archivo documental de la empresa, automatizar la atención al cliente, generar contenidos en varios idiomas o analizar imágenes de una línea de producción. Además, las tarjetas RTX PRO son versátiles: el mismo servidor puede utilizarse para renderizado, simulaciones de ingeniería o virtualización de estaciones de trabajo. Este argumento suele ser decisivo: el hardware no queda infrautilizado entre proyectos de IA.

¿Para quién? En su configuración inicial, para empresas de varias decenas de empleados que ya han superado la fase de pruebas y quieren proporcionar a sus equipos acceso a un asistente interno que conozca los procedimientos de la empresa. En su configuración completa, para grandes organizaciones, cientos de usuarios simultáneos y sectores regulados, como las finanzas, la sanidad o el sector público, donde los datos deben permanecer en las instalaciones.

Aspectos que conviene tener en cuenta. El consumo eléctrico aumenta con el número de tarjetas: de aprox. 2 kW con dos a 5–6 kW con ocho. El rack debe poder suministrar esa potencia y la refrigeración debe disipar el calor. Si prevé ampliar la instalación, calcule desde el principio la capacidad de alimentación y climatización para la configuración final, no para la inicial.

Nivel 3: NVIDIA HGX B200, la infraestructura con la que se entrenan modelos

En lo más alto se encuentra el hardware del que se habla en las noticias sobre la carrera tecnológica entre las mayores empresas del mundo. Un servidor con la plataforma NVIDIA HGX B200 incorpora ocho unidades Blackwell, actualmente los aceleradores de IA más potentes del mercado, con un total de 1,44 TB de memoria HBM3e, la más rápida que se puede adquirir hoy en día.

La máquina ocupa 10U en el rack y cuenta con ocho interfaces de red de 400 Gb/s, ya que está diseñada para agruparse en un clúster con más servidores idénticos. La alimentación se basa en seis fuentes de alimentación de aprox. 5 kW, que funcionan de forma redundante en una configuración 3+3; el consumo real de la máquina bajo carga ronda los 10 kW, y el resto es margen de reserva y protección ante fallos. Incluye un procesador BlueField-3, que descarga al sistema principal de tareas de red y seguridad, además de tres años de soporte con servicio in situ al siguiente día laborable.

Modelo concreto: Supermicro AS-A126GS-TNBR

Diseñado para computación científica, IA, automatización industrial y análisis de datos. La inversión aproximada es de unos 458.286,47 € netos por servidor; consulte el precio actual en la ficha del producto.

La diferencia frente al servidor GPU del segundo nivel no consiste en que B200 «haga lo mismo, pero más rápido». Consiste en que realiza tareas que el otro no puede ejecutar en un plazo razonable: entrenar modelos propios desde cero, ajustar modelos con cientos de miles de millones de parámetros, atender a cientos de usuarios simultáneamente, realizar investigación científica y simulaciones a escala industrial.

¿Para quién? Para empresas que desarrollan productos basados en IA y no utilizan modelos ya preparados, sino que crean los suyos propios. Para instituciones de investigación y universidades. Para operadores de telecomunicaciones, bancos, grandes grupos industriales y empresas farmacéuticas.

En la práctica, rara vez se adquiere una sola máquina de este tipo. También se necesita infraestructura de red, alimentación y refrigeración para la sala de servidores; con 10 kW por chasis, normalmente entra en juego la refrigeración líquida. No es una compra de hardware, sino una decisión estratégica.

¿Cómo elegir un servidor para IA? Cinco preguntas que conviene plantearse

¿Ya sabe qué debe hacer la IA en su empresa?

Si no es así, elija el primer nivel. Por el precio de un portátil prémium, obtiene un entorno en el que podrá probar varias ideas en dos semanas y tomar decisiones basadas en datos, no en presentaciones.

¿Cuántas personas lo utilizarán y con qué frecuencia?

Si la respuesta es «toda la empresa, todos los días», un equipo de escritorio no será suficiente y será adecuado un servidor GPU para rack. Conviene calcular cuánto gasta actualmente en API y suscripciones en la nube. A gran escala, disponer de hardware propio resulta más económico en un horizonte de dos a tres años. El artículo sobre LLM local en la empresa.

¿Desarrolla modelos propios o utiliza modelos ya preparados?

El uso de modelos ya preparados, incluso de gran tamaño, corresponde al segundo nivel. Desarrollar modelos propios ya requiere B200. En este punto, la frontera es clara y rara vez hay dudas sobre en qué lado se encuentra una empresa.

¿Qué tamaño de modelo necesita ejecutar y para cuántas personas?

Vuelva a la tabla de memoria. Si el modelo elegido ocupa 60 GB y deben utilizarlo cincuenta personas simultáneamente, una tarjeta con 96 GB de memoria es el mínimo absoluto; dos ofrecen margen y capacidad de crecimiento.

¿Qué puede soportar su sala de servidores?

La sorpresa más habitual en los proyectos de IA no está relacionada con el hardware, sino con el edificio: cuánta potencia eléctrica se puede suministrar, si la climatización podrá evacuar el calor adicional y si hay espacio en el rack. Es mejor comprobarlo antes de hacer el pedido que después de la entrega.

Qué más incluye el presupuesto de implantación

El precio del servidor suele representar entre 70 y 85% del presupuesto del proyecto. Conviene tener en cuenta las demás partidas desde la fase de planificación.

• Alimentación y rack – PDU con la potencia adecuada, distribución de fases, alimentación ininterrumpida y, en parte de la instalación, también una nueva acometida.
• Refrigeración – hasta aprox. 5–6 kW por rack, la refrigeración de precisión suele ser suficiente. Por encima de 10 kW se utiliza refrigeración líquida, lo que implica adaptar la sala y establecer un procedimiento de mantenimiento independiente. Si la sala de servidores no se diseñó para ello, conviene incluir este coste ya en el presupuesto.
• Memoria RAM – las configuraciones para IA parten de varios cientos de gigabytes, y los precios de los módulos para servidores aumentaron considerablemente en 2026. La diferencia entre 512 GB y 1 TB puede ser una partida importante del presupuesto.
• Red – conmutador con el ancho de banda adecuado, transceptores y cableado. En las configuraciones de clúster se añade una red independiente para las GPU.
• Almacenamiento – los modelos y los conjuntos de documentos ocupan terabytes, y el rendimiento de lectura debe estar a la altura del rendimiento de las tarjetas.
• Implementación – instalación del software, puesta en marcha del modelo e integración con el inicio de sesión corporativo y los sistemas que utilizáis.
• Soporte y garantía – para entornos de producción, el estándar es el servicio in situ al siguiente día laborable.

Por dónde empezar

El error más habitual en este tipo de compras es empezar por el catálogo. El orden que funciona es el contrario: primero, un caso de uso; después, el número de usuarios; a continuación, una comparación con los costes actuales de la nube; y solo al final, la configuración.

Si todavía no sabéis exactamente para qué se utilizará la IA, el primer nivel basta para varios meses de pruebas y cuesta lo mismo que un portátil. Si las pruebas ya han terminado y el asistente debe dar servicio a toda la empresa, el segundo nivel es actualmente la opción más razonable para la mayoría de las organizaciones. El tercer nivel se elige cuando desarrolláis vuestros propios modelos; en ese caso, la decisión normalmente no deja lugar a dudas.

Si la configuración debe adaptarse a vuestra sala de servidores —número de tarjetas, memoria, red o refrigeración—, nuestro equipo preparará una propuesta para el caso de uso concreto.

Preguntas frecuentes