Guías y análisis

Cómo ejecutar LLM en local con un Ryzen AI Max+: LM Studio, Ollama y llama.cpp

Guía paso a paso: cómo dar memoria a la gráfica en Windows y en Linux, y cómo usar LM Studio, Ollama y llama.cpp para chatear con modelos grandes y servirlos a toda la oficina.

5 min de lectura

LM Studio, Ollama y llama.cpp en un mini PC Ryzen AI Max+

En resumen

  • Primero, deja que la gráfica use la memoria: en Windows, hasta 96 GB con Variable Graphics Memory; en Linux, con la herramienta amd-ttm.
  • Para empezar sin complicaciones, LM Studio: descargas un modelo y chateas en minutos.
  • Para servir modelos a otros ordenadores, Ollama o el servidor de llama.cpp, con una interfaz web como Open WebUI.

Antes de empezar

  • Un equipo con Ryzen AI Max+ y 128 o 192 GB de memoria.
  • Espacio libre en el disco: un modelo grande ocupa entre 60 y 150 GB.
  • Conexión a Internet solo para descargar los programas y los modelos. Después, todo funciona sin conexión.

Si aún no sabes qué modelos caben en tu equipo, mira antes ¿Cuánta memoria necesita un LLM local?

Paso 1: memoria para la gráfica

En Windows

  1. Instala o actualiza el controlador AMD Software: Adrenalin Edition (25.8.1 o posterior).
  2. Ábrelo y entra en Rendimiento › Ajuste.
  3. Activa Variable Graphics Memory y elige la cantidad máxima disponible: hasta 96 GB en un equipo de 128 GB.
  4. Reinicia el equipo.

Algunos fabricantes también permiten reservar memoria para la gráfica desde la BIOS. Usa una sola de las dos opciones y comprueba después, en el Administrador de tareas, cuánta memoria dedicada ve la gráfica.

En Linux

Por defecto, la gráfica puede usar aproximadamente la mitad de la memoria del sistema. AMD documenta cómo ampliarlo con su herramienta amd-ttm:

pipx install amd-debug-tools
amd-ttm              # muestra el límite actual
amd-ttm --set 100    # fija el límite en 100 GB
sudo reboot

AMD recomienda núcleos recientes: 6.18.4 o posterior en la mayoría de distribuciones. Ubuntu 26.04, Fedora 43 y Arch Linux actualizado ya incluyen las correcciones necesarias. Deja siempre margen para el sistema: no asignes toda la memoria a la gráfica.

Paso 2: LM Studio, la forma más fácil

  1. Descarga LM Studio desde su web oficial e instálalo.
  2. En la pestaña de búsqueda, escribe el modelo (por ejemplo, gpt-oss-120b) y descarga la versión que te proponga para tu equipo.
  3. Al cargarlo, activa la configuración manual y lleva GPU Offload al máximo, para que todo el modelo vaya en la gráfica.
  4. Sube la longitud de contexto si vas a trabajar con documentos largos: LM Studio usa 4.096 tokens por defecto.

LM Studio usa llama.cpp por dentro y permite elegir el motor (Vulkan o ROCm). En las pruebas publicadas con este procesador, Vulkan procesa los prompts más rápido. LM Studio también puede actuar como servidor con una API compatible con la de OpenAI.

Paso 3: Ollama

Ollama es una herramienta de línea de comandos muy popular para descargar y servir modelos. Una vez instalado:

ollama run gpt-oss:120b

Para que otros ordenadores de la red puedan usarlo, arranca el servicio escuchando en todas las interfaces (variable de entorno OLLAMA_HOST=0.0.0.0). Si Ollama no aprovecha la gráfica de tu equipo o va más lento de lo esperado, actualízalo a la última versión o usa LM Studio o llama.cpp con Vulkan, que hoy son la vía más directa en estos procesadores.

Paso 4: el servidor de llama.cpp

llama.cpp es el motor sobre el que se apoyan LM Studio y otras herramientas. Usarlo directamente da el máximo control:

  1. Descarga la última versión compilada con Vulkan desde la página de publicaciones de llama.cpp en GitHub (en Linux también puedes compilarlo con la opción GGML_VULKAN=ON).
  2. Descarga el modelo en formato GGUF desde Hugging Face.
  3. Arranca el servidor:
llama-server -m gpt-oss-120b.gguf -ngl 99 -c 32768 --host 0.0.0.0 --port 8080

-ngl 99 lleva todas las capas a la gráfica y -c fija el contexto. El servidor ofrece una API compatible con la de OpenAI en http://IP-del-equipo:8080/v1, así que muchas aplicaciones y extensiones de programación pueden usarlo cambiando solo la dirección.

Paso 5: un chat para toda la oficina

Open WebUI es una interfaz web, parecida a la de los chats comerciales, que se conecta a Ollama o a cualquier API compatible con OpenAI, como la de llama.cpp. Instálala en el propio mini PC y tus compañeros podrán usar el modelo desde el navegador, con cuentas de usuario y sin que los datos salgan de la oficina. Con 10 GbE, además, copiar modelos entre equipos es mucho más rápido.

Qué modelo usar para empezar

Para qué Modelo Tamaño Equipo
Probar y respuestas muy rápidas gpt-oss-20b 12,1 GB 128 GB
Uso general, chat y documentos gpt-oss-120b 63,4 GB 128 GB
Alternativa grande de otra familia Qwen3.5-122B-A10B 76,5 GB 128 GB
Lo máximo en local Qwen3-235B-A22B 142,2 GB 192 GB

Tamaños de los ficheros GGUF publicados en Hugging Face, medidos el 19/10/2026.

Problemas habituales

  • El modelo no carga o el programa se cierra: la gráfica no tiene memoria suficiente. Revisa el paso 1 o elige un modelo más pequeño.
  • Va muy lento: comprueba que todas las capas están en la gráfica (GPU Offload al máximo o -ngl 99) y prueba el motor Vulkan.
  • Se queda sin memoria al alargar la conversación: el contexto también ocupa memoria. Redúcelo o cuantiza la caché a 8 bits.
  • Los modelos densos grandes van despacio: es lo esperado en este tipo de equipos; los modelos MoE dan una experiencia mucho más fluida.

¿Aún no tienes equipo? Mira la guía de compra de mini PC para IA local o directamente el 395 Compact y el PRO 495 Gold.

Fuentes

Sigue leyendo

Mini PC para ejecutar inteligencia artificial en local, en tu propio equipo. Con envío a toda la Unión Europea.

Envío gratis a España y la UE · 14 días de desistimiento · Garantía legal de 3 años

Medios de pago
  • American Express
  • Maestro
  • Mastercard
  • PayPal
  • Visa

© 2026 RobitoPC · AMD, Ryzen y Radeon son marcas de Advanced Micro Devices, Inc. Tienda independiente, sin relación con AMD.

Web hecha por milenaweb.es