¿Qué es ejecutar un LLM en local?
Cuando hablamos de ejecutar un LLM en local, nos referimos a hacer funcionar un modelo de lenguaje grande (un Large Language Model, como los que están detrás de ChatGPT o Gemini) directamente en tu propio ordenador, sin enviar ni un solo dato a los servidores de una empresa externa. En lugar de que tu pregunta viaje por internet hasta un centro de datos de OpenAI, Google o Anthropic, todo el proceso (la lectura de tu texto, el razonamiento y la generación de la respuesta) ocurre dentro de tu propio ordenador.
Durante años, esto fue territorio exclusivo de investigadores con acceso a equipos carísimos. Hoy la situación ha cambiado por completo. La ejecución de LLMs en local ha dejado de ser un experimento de entusiastas para convertirse en una opción seria y madura. En 2026, modelos abiertos como Llama 4, Qwen 3, DeepSeek R1 o Gemma 3 pueden ejecutarse en hardware asequible con resultados que, en muchas tareas cotidianas, rivalizan directamente con los servicios de pago en la nube.
Ese salto de calidad, combinado con herramientas que han hecho el proceso trivial, es lo que ha convertido la IA local en una de las tendencias más importantes del año.

Pero ¿por qué molestarse en montar todo esto en casa cuando ChatGPT está a un clic de distancia? La respuesta se resume en tres grandes ventajas.
- Privacidad
- coste
- control.
Vamos a verlas una por una, porque entender el porqué es lo que te ayudará a decidir si esta tecnología encaja contigo o con tu empresa.
Privacidad: tus datos nunca salen de tu equipo
Este es, para la mayoría de profesionales, el argumento definitivo. Cada vez que utilizas una API en la nube (ya sea la de OpenAI, la de Google o cualquier otra) el contenido de tus consultas sale de tu ordenador y viaja hasta un servidor externo. Para una pregunta trivial, eso no importa. Pero la situación cambia radicalmente cuando trabajas con información sensible.

Piensa en un despacho de abogados que quiere resumir contratos confidenciales, en una clínica que maneja historiales médicos, en un desarrollador que trabaja con código propietario, o en una consultora que gestiona datos financieros de sus clientes. En todos estos casos, enviar ese contexto a una API externa introduce un riesgo real, y en muchos sectores regulados directamente no es una opción legal. La normativa de protección de datos, los acuerdos de confidencialidad y las políticas internas de compliance chocan de frente con la idea de mandar información delicada a un tercero.
Aquí es donde la IA local brilla con luz propia. Con un LLM ejecutándose en tu ordenador, el dato nunca sale del perímetro. No hay servidor externo, no hay transferencia por internet, no hay una empresa ajena procesando tu información. La conversación empieza y termina dentro de tu ordenador.
Coste cero por token: sin suscripciones ni APIs de pago
El segundo gran motivo es económico. Los servicios de IA en la nube funcionan con un modelo de pago por uso, cobras cada token.
- Coste por consulta: prácticamente cero. Solo pagas la electricidad que consume tu equipo mientras genera la respuesta.
- Consultas ilimitadas: puedes lanzar mil peticiones o un millón sin que la factura cambie.
Esto es especialmente relevante para tres perfiles: desarrolladores que hacen pruebas constantes durante el desarrollo, empresas que procesan grandes volúmenes de texto de forma sistemática, y entusiastas que quieren experimentar.
Una vez amortizado el hardware, tu asistente de IA trabaja gratis, veinticuatro horas al día, sin límites de uso ni sorpresas en la factura.
¿Cuándo tiene sentido frente a la nube?
No todo es blanco o negro. La IA local no sustituye por completo a los grandes modelos en la nube en todos los escenarios.
La siguiente tabla resume cuándo tiene sentido cada opción, para que puedas ubicarte rápidamente:
| Situación | IA local | IA en la nube |
| Trabajas con datos confidenciales o regulados | ✅ Ideal | ❌ Riesgo / no permitido |
| Uso intensivo y continuo (miles de consultas) | ✅ Coste fijo | ❌ Factura creciente |
| Necesitas el modelo más potente del mercado | ⚠️ Limitado por tu hardware | ✅ Acceso a lo último |
| Sin inversión inicial en equipo | ❌ Requiere hardware | ✅ Empiezas gratis |
| Quieres funcionamiento sin conexión a internet | ✅ Funciona offline | ❌ Requiere conexión |
| Uso ocasional (pocas preguntas al día) | ⚠️ Sobredimensionado | ✅ Más práctico |
| Control total sobre el modelo y los datos | ✅ Absoluto | ❌ Dependes del proveedor |
En resumen, la IA local gana con contundencia cuando la privacidad, el coste recurrente o el control son prioritarios, mientras que la nube sigue siendo cómoda para el uso esporádico o cuando necesitas acceso al último modelo gigante del mercado.
Qué hardware necesitas según el modelo que quieras ejecutar
Esta es, probablemente, la sección más importante de toda la guía. ¿Qué PC necesito para ejecutar IA en local?
La VRAM es el cuello de botella
Si te quedas con una sola idea de este artículo, que sea esta. El principal cuello de botella para la IA local rara vez es la CPU; casi siempre se trata de la VRAM de la GPU y del ancho de banda de la memoria.

la VRAM de la GPU debe alojar el modelo completo para alcanzar el rendimiento pico (más de 50 tokens por segundo, una velocidad a la que el texto aparece más rápido de lo que puedes leer). Cuando la VRAM es insuficiente, la herramienta que uses descarga parte de las capas del modelo a la RAM del sistema a través del bus PCIe, y ahí es donde todo se derrumba
Esta tabla es tu mapa de referencia. Cruza el modelo que quieres usar con la VRAM que necesita (usando la cuantización estándar Q4_K_M, que explicaremos más adelante):
| Modelo | Parámetros | VRAM mínima (Q4_K_M) | GPU recomendada | Velocidad aproximada |
| Llama 4 Scout 8B | 8B | 6 GB | RTX 5060 8GB | 40+ tok/s |
| Qwen 3 14B | 14B | 10 GB | RTX 5060 Ti 16GB | 30+ tok/s |
| DeepSeek R1 32B | 32B | 20 GB | RTX 5090 24GB | 20+ tok/s |
| Llama 3.3 70B | 70B | 42 GB | RTX 5090 32GB (offload parcial) | 8-15 tok/s |
Fíjate en un detalle crucial de la última fila: el modelo de 70B parámetros necesita 42 GB de VRAM, más de lo que ofrece incluso la potentísima RTX 5090 (32 GB). Por eso aparece «offload parcial», una parte del modelo se descarga a la RAM y la velocidad cae.

Para ejecutar cómodamente modelos de 70B o más, entramos en el terreno de las configuraciones profesionales o Mini PCs IA, algo que veremos al final.
Nivel 1 — Modelos 7B-8B: desde 8 GB de VRAM
Este es el punto de entrada, y para la inmensa mayoría de usuarios es todo lo que realmente necesitan. Los modelos de 7 a 8 mil millones de parámetros (7B-8B) son sorprendentemente capaces: redactan textos, responden preguntas, resumen documentos, traducen, ayudan con programación básica y mantienen conversaciones coherentes.
Para la mayoría de usuarios, entre 8 y 12 GB de VRAM es el punto óptimo para ejecutar modelos en local. Con esa cantidad de memoria puedes ejecutar modelos 7-8B como Llama 3.1 8B o Qwen 3 8B con cuantización Q4_K_M a más de 40 tokens por segundo, una velocidad excelente para uso interactivo real.
Las tarjetas gráficas ideales para este nivel son las RTX 5060, consideradas de forma unánime las mejores opciones calidad-precio para empezar en IA local.
Nivel 2 — Modelos 13B-34B: 34 GB de VRAM
Cuando das el salto a modelos de entre 13B y 34B parámetros, las respuestas son más matizadas, el razonamiento más profundo y la capacidad de seguir instrucciones complejas mejora notablemente.
Para este nivel necesitas 34 GB de VRAM. Aquí entran en juego tarjetas como la RTX 5090 (24 GB/32 GB), que permiten ejecutar modelos como DeepSeek R1 32B con soltura.
Un consejo de oro. Es mejor ejecutar un modelo de 34B en cuantización Q6_K que un modelo de 70B en Q2_K, porque la pérdida de calidad al comprimir un modelo hasta Q2_K es severa.
Nivel 3 — Modelos 70B+: 48 GB+ de VRAM o configuraciones multi-GPU
Aquí llegamos al territorio profesional. Los modelos de 70 mil millones de parámetros o más ofrecen una calidad que se acerca de verdad a los grandes servicios comerciales, pero exigen una cantidad de memoria que ningún hardware de consumo estándar puede ofrecer por sí solo. Como vimos en la tabla, un modelo de 70B necesita alrededor de 42 GB de VRAM, y para trabajar con holgura la recomendación es disponer de 48 GB o más.
Existen dos caminos para llegar ahí:
- GPUs profesionales de gran capacidad, como las tarjetas de la serie RTX PRO o las Radeon AI PRO, diseñadas específicamente para cargas de trabajo de IA y con cantidades de VRAM muy superiores a las tarjetas gaming.
- Configuraciones multi-GPU, donde combinas varias tarjetas para sumar su memoria. Por ejemplo, dos RTX 5090 de 32 GB llegan a 64 GB combinados, aunque conviene saber que la memoria no se comporta exactamente como un único bloque limpio y añade complejidad de configuración, consumo y refrigeración.
Pero llegados a este punto, también podrías considerar los Mini PCs para IA. (La que consideramos mejor opción). De estos os hablaremos más adelante.
RAM, SSD y otros componentes que importan
Aunque la GPU es la estrella, el resto del equipo no debe quedarse corto o se convertirá en un lastre. Estos son los mínimos que debes respetar:
- Memoria RAM: 32 GB de RAM es el mínimo práctico para trabajo serio con IA local en 2026. La RAM es especialmente importante cuando el modelo no cabe entero en la VRAM y hay que descargar parte a la memoria del sistema
- Almacenamiento SSD: los modelos ocupan mucho espacio (un modelo de 70B puede rondar las decenas de gigabytes), así que necesitas un SSD NVMe rápido tanto por capacidad como por velocidad de carga.
- Fuente de alimentación y refrigeración: las GPUs potentes consumen mucho y generan mucho calor durante la inferencia sostenida. Una fuente de calidad con margen de potencia y una buena refrigeración no son opcionales si vas a exigirle al equipo durante horas.
La siguiente tabla resume los requisitos mínimos y recomendados según los niveles vistos anteriormente:
| Componente | Mínimo (Nivel 1) | Recomendado (Nivel 2) | Profesional (Nivel 3) |
| VRAM (GPU) | 8-12 GB | 16-24 GB | 48 GB+ |
| RAM | 16 GB | 32 GB | 64-128 GB |
| Almacenamiento | SSD NVMe 500 GB | SSD NVMe 1 TB | SSD NVMe 2 TB+ |
| GPU ejemplo | RTX 3060 12GB | RTX 4090 / 5090 | RTX PRO / Mini PC IA |
Qué PC necesitas para IA local (3 configuraciones recomendadas)
Aquí tienes tres configuraciones tipo, pensadas para tres perfiles de usuario distintos. Piénsalas como puntos de partida que puedes ajustar según tu presupuesto y tus necesidades.
Configuración de entrada (~800-1.200€): para modelos 7B
Esta es la puerta de acceso a la IA local, ideal para estudiantes, entusiastas que empiezan y profesionales que quieren probar la tecnología sin una gran inversión. Con este equipo ejecutarás modelos de 7B-8B con fluidez, más que suficiente para asistencia de escritura, resúmenes, traducción y programación básica.
Configuración intermedia (+3.500€): para modelos hasta 34B
El punto dulce para el profesional serio, el desarrollador y la pequeña empresa que va a usar la IA local como herramienta de trabajo diaria. Con este equipo accedes a modelos de 13B-34B, con un salto notable en calidad de respuesta y capacidad de razonamiento.
Configuración avanzada / profesional: para modelos 70B+
Aquí entramos en el terreno de las workstations especializadas en IA, para quienes necesitan ejecutar los modelos más grandes, entrenar modelos propios o procesar grandes volúmenes de datos con la máxima calidad y estabilidad.
En estas configuraciones también valoramos introducir los Mini PCs para IA, capaces de mover modelos de IA de hasta 200.000 millones de parámetros… Además, puedes hacer un rack con ellos y conectar hasta 3 simultáneamente.
Toda la información aquí. Te dejamos un artículo completo para que veas lo que merecen la pena.