IA local en tu ordenador: guía completa 2026

Hace dos años, correr un modelo de lenguaje potente en tu propio ordenador era posible pero doloroso: instalar dependencias CUDA, pelearte con versiones de PyTorch, gestionar cuantizaciones manualmente, y acabar con un chatbot lento que solo valía para demos. Hoy es infraestructura madura.

En abril de 2026 un MacBook con chip M3 y 16 GB de RAM unificada ejecuta Llama 4 Scout 17B a velocidad razonable. Un PC con RTX 4070 hace lo mismo con los modelos principales. Hay tres o cuatro aplicaciones de escritorio que gestionan el ciclo entero — descarga, cuantización, servidor local, API compatible con OpenAI — con un click. Y el catálogo de modelos abiertos es cuatro veces más denso que hace un año: Llama 4, Gemma 4, Qwen 3.6, DeepSeek-R2, Phi-4, Mistral Small, y docenas de derivados especializados.

Esta guía explica qué es la IA local, cuándo tiene sentido usarla, qué hardware necesitas, qué herramientas existen (con sus tradeoffs reales) y cómo integrarlas con una app de escritorio para uso diario.

Si te interesa solo la comparativa directa Ollama vs LM Studio, tenemos un despiece dedicado: Ollama vs LM Studio.

Qué es "IA local" y cuándo usarla

IA local significa que el modelo de lenguaje — los pesos, la inferencia y el procesamiento de tus prompts — corre en tu propio ordenador. Nada sale a la nube. Los tokens se generan con tu GPU o tu CPU. Tu código, tus documentos, tus conversaciones nunca viajan a servidores de OpenAI, Anthropic ni Google.

Los casos donde esto es claramente mejor que la IA en la nube:

1. Datos que no pueden salir: código propietario de empresa, historias clínicas, datos bajo NDA, información legal confidencial, expedientes internos.

2. Cumplimiento RGPD estricto: cuando un DPO te bloquea cualquier transferencia a EEUU aunque haya DPA. Un modelo local corta la discusión.

3. Cero coste por uso: una vez tienes el hardware, el modelo corre gratis. Sin facturas por millón de tokens.

4. Trabajo offline: en un avión, en una oficina sin internet, en una zona con mala conectividad.

5. Investigación y fine-tuning: si quieres personalizar un modelo con tus datos, necesitas control total del stack.

Los casos donde la IA en la nube sigue ganando:

• Cuando necesitas la frontera de capacidad (Opus 4.7, GPT-5.4, Gemini 3.1): los modelos cerrados siguen por delante de los abiertos en reasoning complejo.

• Cuando tu hardware no da para modelos grandes y ejecutas uno pequeño que genera respuestas pobres.

• Cuando el tiempo vale más que la privacidad: un modelo grande en la nube responde más rápido que un modelo medio en tu MacBook.

La recomendación práctica para 2026: usa ambos. Un cliente de escritorio moderno — Levante, Cherry Studio, Msty — te permite alternar entre modelos locales y cloud en el mismo chat según la tarea.

Hardware: qué necesitas en 2026

La regla básica no ha cambiado: los LLMs son máquinas hambrientas de memoria. Lo que ha cambiado es qué memoria. Con el empuje de Apple Silicon (memoria unificada) y de llama.cpp (inferencia eficiente en CPU + GPU), el rango de hardware usable se ha ampliado mucho.

Mac (Apple Silicon)

La arquitectura de memoria unificada de los chips M convierte los Mac en la opción más eficiente para IA local en laptops.

• M1/M2 con 16 GB: modelos hasta 8B con cuantización Q4/Q5. Llama 4 Scout 17B queda justo pero va.

• M3/M4 con 24 GB: Qwen3 8B fluido, Llama 4 Scout 17B cómodo, cuantizaciones 6-bit de modelos 13B.

• M3 Max / M4 Max con 36-64 GB: lo que quieras hasta 30B. Incluso modelos 70B con cuantización agresiva.

• Mac Studio con 96-192 GB: Llama 4 / Qwen 3 hasta 70B sin cuantizar. Claude Opus-class en casa.

El truco está en la memoria unificada: la GPU accede directamente a toda la RAM del sistema, sin copiar datos de ida y vuelta. Por eso un Mac con 32 GB ejecuta modelos que una PC con 8 GB de VRAM y 32 GB de RAM normal no puede mover.

PC con GPU dedicada

Depende casi exclusivamente de la VRAM de la tarjeta, no de la RAM del sistema.

• RTX 3060 12 GB / 4060 Ti 16 GB: modelos 7-13B con cuantización. Suficiente para uso diario.

• RTX 4070 16 GB / 4080 16 GB: modelos 13-20B cómodos, 30B cuantizados.

• RTX 4090 24 GB: modelos 30B sin cuantizar, 70B con cuantización 4-bit.

• Workstation con 2× 4090 / A6000: 70B sin cuantizar, experimentos 120B+.

Si estás montando un equipo desde cero para IA local y presupuesto, la compra con mejor ratio calidad-precio en abril 2026 sigue siendo un Mac mini M4 Pro con 48 GB (cubre 90% de casos reales) o un PC con RTX 4070 Super 16 GB.

Portátiles sin GPU ni Apple Silicon

Funciona pero limitado a modelos pequeños (3-4B) y velocidades bajas (5-10 tokens/segundo). Útil para chat básico, no para agentes que hacen muchas llamadas. Si tu trabajo es intensivo, o compras hardware o usas nube.

Las aplicaciones: Ollama, LM Studio, Jan y más

Ollama — el backend que lo mueve todo

Ollama es un runtime de inferencia basado en llama.cpp con una CLI y una API REST OpenAI-compatible. No tiene interfaz gráfica principal. Su valor es ser el motor: descargas modelos con ollama pull llama4, los ejecutas con ollama run llama4, y cualquier app que hable con su API local (puerto 11434) te da acceso.

La librería oficial de Ollama en abril 2026 incluye más de 100 familias: Llama 4, Mistral, Gemma 4, DeepSeek-R2, Qwen 3.6, Mixtral, Phi-4, CodeLlama, y docenas más. La versión estable v0.6.2 (marzo 2026) añadió soporte de Llama 4, batch embedding API, Flash Attention v2.7 y optimizaciones para M4 Metal 3.

Pros:

• Rápido, ligero, sin GUI pesada.

• API OpenAI-compatible: casi cualquier app que hable con OpenAI puede apuntar a Ollama cambiando la base URL.

• Gestión de cuantizaciones automática.

• Funciona igual en Mac, Linux y Windows.

Contras:

• Necesita terminal — no es para usuarios no técnicos sin front-end encima.

• La gestión de modelos es file-based, sin GUI nativa para explorar.

LM Studio — la experiencia gráfica

LM Studio es la aplicación de escritorio más pulida para correr LLMs locales. Tiene catálogo visual, gestión de cuantizaciones con click, chat integrado, servidor OpenAI-compatible, y soporte de MCP (Model Context Protocol) desde finales de 2025.

En Mac con Apple Silicon, LM Studio usa el motor MLX propio de Apple, que aprovecha la memoria unificada directamente y da mejores velocidades que la implementación llama.cpp equivalente. Para modelos vision-language (Qwen-VL, Llava), el motor MLX de LM Studio supera claramente lo que ofrece Ollama.

También tiene llmster, la versión headless sin GUI, para servidores y CI.

Pros:

• UX excelente, cero fricción para empezar.

• Motor MLX = más velocidad en Mac.

• Catálogo visual con ratings y recomendaciones.

• SDK para Python y JavaScript para integrar.

Contras:

• Closed-source (aunque gratuito y sin telemetría por defecto).

• Más pesado que Ollama si solo quieres el runtime.

• En Windows/Linux no tiene la ventaja del MLX y compite directamente con Ollama.

Tenemos una comparativa detallada Ollama vs LM Studio con benchmarks concretos y criterios de decisión.

Jan — la alternativa open-source

Jan es un cliente de IA open-source (AGPL-3) que ejecuta modelos locales y también se conecta a APIs cloud (BYOK). En cierto sentido compite a la vez con LM Studio (por la experiencia gráfica local) y con Cherry Studio o el propio Levante (por el enfoque multi-proveedor).

Pros:

• Open-source puro, auditable.

• Multi-proveedor (local + cloud).

• Multiplataforma.

Contras:

• Menos pulido que LM Studio.

• El motor de inferencia (llama.cpp embebido) va algo por detrás de Ollama en velocidad.

• Ecosistema MCP menos maduro.

Otros runtimes (mención breve)

• llama.cpp: el engine C++ que Ollama y Jan usan por dentro. Si te gusta pelearte con flags y sacarle el último 5% de rendimiento, ve directo.

• LocalAI: servidor OpenAI-compatible para despliegue tipo API, más orientado a servidores que a laptops.

• MLC LLM: inferencia optimizada para móvil y web, sigue experimental para uso diario.

• vLLM: para despliegues serios con GPUs enterprise, fuera del caso "laptop de desarrollador".

Qué modelo elegir en 2026

El catálogo de modelos abiertos en abril 2026 es denso. Estas son las elecciones que recomendamos tras probarlos:

La cuantización (Q4, Q5, Q6, Q8) comprime los pesos del modelo. Q4 pierde algo de calidad pero ocupa la mitad que Q8. La recomendación práctica: arranca con Q5 o Q6 si tu hardware lo aguanta; baja a Q4 solo cuando la memoria apriete.

Integración en el workflow diario: por qué un cliente de escritorio

Tener Ollama o LM Studio corriendo te da acceso al modelo. Pero el siguiente salto — usarlo de verdad para trabajo real — requiere una aplicación de escritorio que le saque partido:

• Historial de conversaciones.

• Prompts reutilizables.

• Integración con tus archivos locales.

• Servidores MCP (Gmail, Notion, Slack, GitHub).

• Multi-proveedor (alternar local ↔ cloud cuando el local no llega).

Claude Desktop no soporta modelos locales. ChatGPT Desktop tampoco. Cherry Studio sí. Msty también. Y Levante también — con el valor añadido de ser open-source (Apache 2.0 + Commons Clause), local-first por defecto, y conectado nativamente a Ollama y LM Studio.

Configurar Levante con Ollama son dos pasos:

1. Arranca Ollama (ollama serve en background).

2. Añade el proveedor "Ollama" en Levante. Auto-detecta los modelos que tengas descargados.

A partir de ahí, cada modelo local aparece en el selector junto a tus proveedores cloud. Puedes tener una conversación en Claude Sonnet 4.6 y a mitad cambiar a Llama 4 local si el prompt toca datos sensibles. El historial se mantiene.

IA local para empresa: lo que cambia

Para uso individual, IA local es sencillo. Para una empresa con 30-100 personas, la cosa cambia:

• No puedes pedirle a cada empleado que instale y gestione Ollama.

• Necesitas un servidor de inferencia interno donde el modelo corre centralizado.

• Hace falta gestión de usuarios, logs, rate limits y políticas.

• El hardware real tiene que justificar la inversión — una workstation con 2× A6000 puede salir por 10-15k €, pero compensa si reemplaza 10k € al mes en APIs cloud.

Para este caso, Levante Platform conecta a infraestructura de inferencia europea (Tensorix) o a servidores locales de la empresa, manteniendo la UX del cliente de escritorio. La capa empresarial añade Zero Data Retention end-to-end, gestión de MCP centralizada y billing por usuario — incluso cuando los modelos corren en tu propia infraestructura.

Limitaciones reales de la IA local en 2026

No todo es color rosa. Las limitaciones reales:

1. Calidad: los mejores modelos abiertos (Llama 4 Maverick, Qwen 3.6 70B) están 3-6 meses por detrás del estado del arte cerrado. Para tareas de razonamiento difícil, la diferencia se nota.

2. Velocidad en hardware modesto: un MacBook Air M2 con 16 GB da 5-15 tokens/segundo en modelos 13B. Suficiente para chat, limitante para agentes que hacen muchas llamadas.

3. Context windows: aunque han crecido, los modelos locales siguen rondando 32k-128k tokens. La frontera (1M+ tokens en Gemini, 200k en Claude) sigue siendo cloud.

4. Tool use y function calling: los modelos abiertos lo soportan pero con menos fiabilidad que los cerrados. Los agentes complejos siguen funcionando mejor con modelos cloud.

5. Fine-tuning requiere experiencia: personalizar un modelo con tus datos es posible pero no trivial.

Para el 80% de casos de uso diario (chat, resúmenes, traducción, código simple), un Llama 4 o Qwen 3 local es más que suficiente. Para el 20% restante, sigue teniendo sentido tener cloud disponible.

Conclusión

La IA local en 2026 está en su mejor momento. El hardware es asequible, los modelos abiertos están a pocas semanas de los cerrados, las aplicaciones (Ollama, LM Studio, Jan) son maduras, y el ecosistema de integración (clientes multi-proveedor, MCP, AI Gateways) lo convierte en parte del stack normal, no en experimento.

Si manejas datos sensibles, tienes requisitos RGPD estrictos, o simplemente te cansa pagar por tokens, deberías tener al menos un modelo local disponible. Instalar Ollama y descargar Llama 4 Scout lleva diez minutos. A partir de ahí, la integración con un cliente de escritorio como Levante te da IA local y cloud combinadas en una sola interfaz.

Para saber más:

• Ollama vs LM Studio — comparativa directa con benchmarks.

• BYOK y multi-proveedor — cómo combinar local con APIs cloud.

• IA RGPD para empresas — el pilar de cumplimiento donde la IA local juega fuerte.

Fuentes verificadas

• Versión estable Ollama v0.6.2 confirmada en github.com/ollama/ollama (marzo 2026).

• Soporte MLX en LM Studio documentado en lmstudio.ai/blog/unified-mlx-engine.

• Catálogo de modelos populares verificado en librerías oficiales de Ollama y HuggingFace (abril 2026).

• Datos verificados el 22 de abril de 2026.