Guías y análisis
Cómo ejecutar LLM en local con un Ryzen AI Max+: LM Studio, Ollama y llama.cpp
Guía paso a paso: cómo dar memoria a la gráfica en Windows y en Linux, y cómo usar LM Studio, Ollama y llama.cpp para chatear con modelos grandes y servirlos a toda la oficina.
En resumen
- Primero, deja que la gráfica use la memoria: en Windows, hasta 96 GB con Variable Graphics Memory; en Linux, con la herramienta amd-ttm.
- Para empezar sin complicaciones, LM Studio: descargas un modelo y chateas en minutos.
- Para servir modelos a otros ordenadores, Ollama o el servidor de llama.cpp, con una interfaz web como Open WebUI.
Antes de empezar
- Un equipo con Ryzen AI Max+ y 128 o 192 GB de memoria.
- Espacio libre en el disco: un modelo grande ocupa entre 60 y 150 GB.
- Conexión a Internet solo para descargar los programas y los modelos. Después, todo funciona sin conexión.
Si aún no sabes qué modelos caben en tu equipo, mira antes ¿Cuánta memoria necesita un LLM local?
Paso 1: memoria para la gráfica
En Windows
- Instala o actualiza el controlador AMD Software: Adrenalin Edition (25.8.1 o posterior).
- Ábrelo y entra en Rendimiento › Ajuste.
- Activa Variable Graphics Memory y elige la cantidad máxima disponible: hasta 96 GB en un equipo de 128 GB.
- Reinicia el equipo.
Algunos fabricantes también permiten reservar memoria para la gráfica desde la BIOS. Usa una sola de las dos opciones y comprueba después, en el Administrador de tareas, cuánta memoria dedicada ve la gráfica.
En Linux
Por defecto, la gráfica puede usar aproximadamente la mitad de la memoria del sistema. AMD documenta cómo ampliarlo con su herramienta amd-ttm:
pipx install amd-debug-tools
amd-ttm # muestra el límite actual
amd-ttm --set 100 # fija el límite en 100 GB
sudo rebootAMD recomienda núcleos recientes: 6.18.4 o posterior en la mayoría de distribuciones. Ubuntu 26.04, Fedora 43 y Arch Linux actualizado ya incluyen las correcciones necesarias. Deja siempre margen para el sistema: no asignes toda la memoria a la gráfica.
Paso 2: LM Studio, la forma más fácil
- Descarga LM Studio desde su web oficial e instálalo.
- En la pestaña de búsqueda, escribe el modelo (por ejemplo,
gpt-oss-120b) y descarga la versión que te proponga para tu equipo. - Al cargarlo, activa la configuración manual y lleva GPU Offload al máximo, para que todo el modelo vaya en la gráfica.
- Sube la longitud de contexto si vas a trabajar con documentos largos: LM Studio usa 4.096 tokens por defecto.
LM Studio usa llama.cpp por dentro y permite elegir el motor (Vulkan o ROCm). En las pruebas publicadas con este procesador, Vulkan procesa los prompts más rápido. LM Studio también puede actuar como servidor con una API compatible con la de OpenAI.
Paso 3: Ollama
Ollama es una herramienta de línea de comandos muy popular para descargar y servir modelos. Una vez instalado:
ollama run gpt-oss:120bPara que otros ordenadores de la red puedan usarlo, arranca el servicio escuchando en todas las interfaces (variable de entorno OLLAMA_HOST=0.0.0.0). Si Ollama no aprovecha la gráfica de tu equipo o va más lento de lo esperado, actualízalo a la última versión o usa LM Studio o llama.cpp con Vulkan, que hoy son la vía más directa en estos procesadores.
Paso 4: el servidor de llama.cpp
llama.cpp es el motor sobre el que se apoyan LM Studio y otras herramientas. Usarlo directamente da el máximo control:
- Descarga la última versión compilada con Vulkan desde la página de publicaciones de llama.cpp en GitHub (en Linux también puedes compilarlo con la opción
GGML_VULKAN=ON). - Descarga el modelo en formato GGUF desde Hugging Face.
- Arranca el servidor:
llama-server -m gpt-oss-120b.gguf -ngl 99 -c 32768 --host 0.0.0.0 --port 8080-ngl 99 lleva todas las capas a la gráfica y -c fija el contexto. El servidor ofrece una API compatible con la de OpenAI en http://IP-del-equipo:8080/v1, así que muchas aplicaciones y extensiones de programación pueden usarlo cambiando solo la dirección.
Paso 5: un chat para toda la oficina
Open WebUI es una interfaz web, parecida a la de los chats comerciales, que se conecta a Ollama o a cualquier API compatible con OpenAI, como la de llama.cpp. Instálala en el propio mini PC y tus compañeros podrán usar el modelo desde el navegador, con cuentas de usuario y sin que los datos salgan de la oficina. Con 10 GbE, además, copiar modelos entre equipos es mucho más rápido.
Qué modelo usar para empezar
| Para qué | Modelo | Tamaño | Equipo |
|---|---|---|---|
| Probar y respuestas muy rápidas | gpt-oss-20b | 12,1 GB | 128 GB |
| Uso general, chat y documentos | gpt-oss-120b | 63,4 GB | 128 GB |
| Alternativa grande de otra familia | Qwen3.5-122B-A10B | 76,5 GB | 128 GB |
| Lo máximo en local | Qwen3-235B-A22B | 142,2 GB | 192 GB |
Tamaños de los ficheros GGUF publicados en Hugging Face, medidos el 19/10/2026.
Problemas habituales
- El modelo no carga o el programa se cierra: la gráfica no tiene memoria suficiente. Revisa el paso 1 o elige un modelo más pequeño.
-
Va muy lento: comprueba que todas las capas están en la gráfica (GPU Offload al máximo o
-ngl 99) y prueba el motor Vulkan. - Se queda sin memoria al alargar la conversación: el contexto también ocupa memoria. Redúcelo o cuantiza la caché a 8 bits.
- Los modelos densos grandes van despacio: es lo esperado en este tipo de equipos; los modelos MoE dan una experiencia mucho más fluida.
¿Aún no tienes equipo? Mira la guía de compra de mini PC para IA local o directamente el 395 Compact y el PRO 495 Gold.