Guides et analyses
Faire tourner des LLM en local sur un Ryzen AI Max+ : LM Studio, Ollama et llama.cpp
Guide pas à pas : comment donner de la mémoire au GPU sous Windows et sous Linux, et comment utiliser LM Studio, Ollama et llama.cpp pour discuter avec de grands modèles et les servir à tout le bureau.
En bref
- D'abord, laissez le GPU utiliser la mémoire : sous Windows, jusqu'à 96 Go avec Variable Graphics Memory ; sous Linux, avec l'outil amd-ttm.
- Pour débuter sans complication : LM Studio, vous téléchargez un modèle et discutez en quelques minutes.
- Pour servir des modèles à d'autres ordinateurs : Ollama ou le serveur de llama.cpp, avec une interface web comme Open WebUI.
Avant de commencer
- Une machine Ryzen AI Max+ avec 128 ou 192 Go de mémoire.
- De l'espace libre sur le disque : un grand modèle occupe de 60 à 150 Go.
- Une connexion Internet uniquement pour télécharger les logiciels et les modèles. Ensuite, tout fonctionne hors ligne.
Si vous ne savez pas encore quels modèles tiennent dans votre machine, lisez d'abord Combien de mémoire faut-il pour un LLM local ?
Étape 1 : de la mémoire pour le GPU
Sous Windows
- Installez ou mettez à jour le pilote AMD Software: Adrenalin Edition (25.8.1 ou plus récent).
- Ouvrez-le et allez dans Performances › Réglage.
- Activez Variable Graphics Memory et choisissez la quantité maximale disponible : jusqu'à 96 Go sur une machine de 128 Go.
- Redémarrez.
Certains fabricants permettent aussi de réserver de la mémoire pour le GPU dans le BIOS. N'utilisez qu'une des deux options, puis vérifiez dans le Gestionnaire des tâches la mémoire dédiée vue par le GPU.
Sous Linux
Par défaut, le GPU peut utiliser environ la moitié de la mémoire système. AMD explique comment l'augmenter avec son outil amd-ttm :
pipx install amd-debug-tools
amd-ttm # affiche la limite actuelle
amd-ttm --set 100 # fixe la limite à 100 Go
sudo rebootAMD recommande des noyaux récents : 6.18.4 ou plus pour la plupart des distributions. Ubuntu 26.04, Fedora 43 et un Arch Linux à jour incluent déjà les corrections nécessaires. Gardez toujours une marge pour le système : n'attribuez pas toute la mémoire au GPU.
Étape 2 : LM Studio, le plus simple
- Téléchargez LM Studio depuis son site officiel et installez-le.
- Dans l'onglet de recherche, tapez le modèle (par exemple
gpt-oss-120b) et téléchargez la version proposée pour votre machine. - Au chargement, activez la configuration manuelle et poussez GPU Offload au maximum pour que tout le modèle tourne sur le GPU.
- Augmentez la longueur de contexte si vous travaillez avec de longs documents : LM Studio utilise 4 096 tokens par défaut.
LM Studio s'appuie sur llama.cpp et permet de choisir le moteur (Vulkan ou ROCm). Dans les tests publiés avec ce processeur, Vulkan traite les prompts plus vite. LM Studio peut aussi servir de serveur avec une API compatible OpenAI.
Étape 3 : Ollama
Ollama est un outil en ligne de commande très populaire pour télécharger et servir des modèles. Une fois installé :
ollama run gpt-oss:120bPour que d'autres ordinateurs du réseau puissent l'utiliser, lancez le service en écoute sur toutes les interfaces (variable d'environnement OLLAMA_HOST=0.0.0.0). Si Ollama n'exploite pas le GPU de votre machine ou va plus lentement que prévu, mettez-le à jour ou utilisez LM Studio ou llama.cpp avec Vulkan, aujourd'hui la voie la plus directe sur ces processeurs.
Étape 4 : le serveur llama.cpp
llama.cpp est le moteur sur lequel reposent LM Studio et d'autres outils. L'utiliser directement donne le plus de contrôle :
- Téléchargez la dernière version compilée avec Vulkan depuis la page des versions de llama.cpp sur GitHub (sous Linux, vous pouvez aussi le compiler avec l'option
GGML_VULKAN=ON). - Téléchargez le modèle au format GGUF sur Hugging Face.
- Lancez le serveur :
llama-server -m gpt-oss-120b.gguf -ngl 99 -c 32768 --host 0.0.0.0 --port 8080-ngl 99 place toutes les couches sur le GPU et -c fixe le contexte. Le serveur propose une API compatible OpenAI sur http://IP-de-la-machine:8080/v1 : de nombreuses applications et extensions de programmation peuvent l'utiliser en changeant simplement l'adresse.
Étape 5 : un chat pour tout le bureau
Open WebUI est une interface web, proche de celle des chats commerciaux, qui se connecte à Ollama ou à toute API compatible OpenAI, comme celle de llama.cpp. Installez-la sur le mini PC lui-même : vos collègues utiliseront le modèle depuis leur navigateur, avec des comptes utilisateurs et sans que les données quittent le bureau. Avec le 10 GbE, copier des modèles entre machines est en plus beaucoup plus rapide.
Quel modèle pour commencer
| Pour quoi | Modèle | Taille | Machine |
|---|---|---|---|
| Essayer et réponses très rapides | gpt-oss-20b | 12,1 Go | 128 Go |
| Usage général, chat et documents | gpt-oss-120b | 63,4 Go | 128 Go |
| Grande alternative d'une autre famille | Qwen3.5-122B-A10B | 76,5 Go | 128 Go |
| Le maximum en local | Qwen3-235B-A22B | 142,2 Go | 192 Go |
Taille des fichiers GGUF publiés sur Hugging Face, mesurée le 19/10/2026.
Problèmes fréquents
- Le modèle ne se charge pas ou le logiciel se ferme : le GPU n'a pas assez de mémoire. Reprenez l'étape 1 ou choisissez un modèle plus petit.
- C'est très lent : vérifiez que toutes les couches sont sur le GPU (GPU Offload au maximum ou
-ngl 99) et essayez le moteur Vulkan. - La mémoire manque quand la conversation s'allonge : le contexte occupe aussi de la mémoire. Réduisez-le ou quantifiez le cache en 8 bits.
- Les grands modèles denses sont lents : c'est normal sur ce type de machine ; les modèles MoE offrent une expérience bien plus fluide.
Pas encore de machine ? Consultez le guide d'achat des mini PC pour l'IA locale ou directement le 395 Compact et le PRO 495 Gold.