Guides et analyses

Interroger vos documents avec une IA locale : le RAG avec Open WebUI

Comment mettre en place une recherche par IA sur vos propres documents : quels modèles charger, comment créer une base de connaissances dans Open WebUI, quels réglages modifier et comment vérifier que rien ne quitte votre réseau.

6 min de lecture

Preguntar a tus documentos con RAG en un mini PC con IA local

En bref

  • Avec Ollama et Open WebUI, vous pouvez interroger vos PDF et documents depuis le navigateur et voir de quel passage provient chaque réponse.
  • Il faut deux modèles : un pour le chat et un d'embeddings, qui recherche les passages. bge-m3 occupe 1,2 Go et prend en charge plusieurs langues.
  • Un modèle de chat local ne suffit pas : vérifiez aussi où le texte est extrait, où les embeddings sont calculés et où les résultats sont réordonnés.

Qu'est-ce que le RAG ?

RAG signifie « génération augmentée par récupération ». Au lieu d'espérer que le modèle connaisse le contenu de votre contrat, le logiciel cherche dans vos documents les passages proches de votre question et les transmet au modèle avec celle-ci. Le modèle répond à partir de ces passages.

Pour permettre la recherche, chaque document est découpé en fragments et un modèle d'embeddings convertit chaque fragment en une liste de nombres qui représente son sens. Votre question passe par le même modèle, et le système récupère les fragments les plus proches.

Le RAG ne garantit pas une réponse exacte : si la recherche ramène le mauvais passage, le modèle répondra à partir de celui-ci. Vérifiez donc toujours la citation dans le document d'origine, surtout pour les sujets juridiques ou financiers.

Quels modèles pour quelle machine

Le modèle de chat et celui d'embeddings occupent la mémoire en même temps. Il faut aussi laisser de la place au contexte, qui grandit ici puisqu'il contient les passages récupérés.

MachineMémoire pour le GPUModèle de chatEmbeddingsTotal des modèles
HX 370 Slim (32 Go)Jusqu'à 24 Gogpt-oss-20b (12,1 Go)bge-m3 (1,2 Go)13,3 Go
395 Compact (128 Go)Jusqu'à 96 Go sous Windowsgpt-oss-120b (63,4 Go)bge-m3 (1,2 Go)64,6 Go
PRO 495 Gold (192 Go)Jusqu'à 160 GoQwen3-235B-A22B (142,2 Go)bge-m3 (1,2 Go)143,4 Go

Taille des modèles de chat : fichiers GGUF publiés sur Hugging Face, mesurés le 19/10/2026. Taille de bge-m3 : bibliothèque d'Ollama, consultée le 08/11/2026.

Ce sont des points de départ, pas les seuls choix possibles. Qwen3-235B remplit presque toute la mémoire du PRO 495 : si vous voulez plus de marge pour le contexte, gpt-oss-120b fonctionne aussi sur cette machine. Vous trouverez d'autres modèles et les calculs dans Combien de mémoire faut-il pour un LLM local ?

Étape 1 : télécharger les deux modèles

Si vous n'avez pas encore attribué de mémoire au GPU ni installé Ollama, suivez d'abord Faire tourner des LLM en local sur un Ryzen AI Max+. Ensuite :

ollama pull gpt-oss:120b
ollama pull bge-m3

Sur une machine de 32 Go, téléchargez gpt-oss:20b à la place du premier. Nous avons choisi bge-m3 car ses auteurs indiquent qu'il prend en charge plus de 100 langues et des textes de 8 192 tokens maximum, ce qui est utile si vos documents ne sont pas uniquement en anglais. Open WebUI inclut par défaut all-MiniLM-L6-v2, qui suffit pour essayer sans rien configurer.

Étape 2 : installer Open WebUI

Si Docker est installé sur la même machine qu'Ollama, voici la commande fournie par le projet :

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Ouvrez http://localhost:3000 et créez le compte administrateur. Si Ollama n'apparaît pas comme connecté, ajoutez son adresse dans les réglages de connexion : depuis le conteneur, c'est http://host.docker.internal:11434. Avant de continuer, vérifiez que le chat répond avec votre modèle.

Étape 3 : configurer les embeddings

  1. Ouvrez Admin Settings › Documents.
  2. Choisissez Ollama comme moteur d'embeddings et bge-m3 comme modèle.
  3. Enregistrez. Si vous aviez déjà envoyé des documents avec un autre modèle, réindexez-les depuis cette même page : les vecteurs d'un modèle ne servent pas à un autre.

Étape 4 : créer la base de connaissances

  1. Allez dans Workspace › Knowledge et cliquez sur Create.
  2. Envoyez d'abord un petit document au texte sélectionnable et attendez la fin du traitement.
  3. Dans le chat, tapez # et choisissez la base de connaissances, ou associez-la à un modèle dans Workspace › Models.
  4. Posez une question dont vous connaissez la réponse et demandez la citation du passage. Comparez la réponse à l'original.

Modèles avec outils : d'après sa documentation, Open WebUI laisse le modèle décider quand chercher dans la base de connaissances, et il doit pour cela savoir utiliser des outils. La bibliothèque d'Ollama indique gpt-oss comme compatible. Si le vôtre ne trouve pas une information que vous savez présente, essayez-en un autre.

Étape 5 : affiner les résultats

Commencez par les valeurs qu'Open WebUI propose pour les modèles locaux et modifiez-les une par une, en répétant toujours les mêmes questions de test :

RéglagePoint de départÀ quoi il sert
Text SplittertokenMesure les fragments en tokens
Markdown Header Text SplitterActivéRespecte les sections du document
Chunk Size1 000Taille maximale d'un fragment
Chunk Overlap100Texte commun aux fragments voisins
Top KDe 3 à 5Nombre de fragments transmis au modèle

Le calcul du contexte est simple : 5 fragments de 1 000 tokens représentent environ 5 000 tokens, sans compter la conversation. Vérifiez le contexte de votre modèle avec ollama ps. Ollama le fixe selon la mémoire vidéo détectée (32 000 tokens de 24 à 48 Gio et 256 000 à partir de 48 Gio), et vous pouvez le changer avec la variable OLLAMA_CONTEXT_LENGTH.

Si les résultats restent mauvais, essayez deux options :

  • Recherche hybride : elle combine la recherche par le sens et la recherche par mots exacts (BM25), puis réordonne les résultats. Elle aide pour les références, les noms et les numéros de clause.
  • Using Entire Document : le document est envoyé en entier plutôt qu'en fragments. Pour un document court, les réponses peuvent être meilleures, car le modèle voit tout.

Vérifier que tout reste sur votre réseau

La documentation d'Open WebUI le rappelle : un modèle de chat local ne suffit pas à rendre local le traitement des documents. Contrôlez ces points dans Admin Settings › Documents :

  • Extraction du texte : certains moteurs, comme Mistral OCR, sont des services externes. Pour les PDF numérisés, vous pouvez activer l'OCR local ou installer vous-même Tika ou Docling.
  • Embeddings : ils doivent pointer vers votre Ollama, pas vers une API externe.
  • Réordonnancement : si vous l'activez, son modèle doit aussi être local.
  • Recherche web : si vous n'en avez pas besoin, laissez-la désactivée.

Pour fonctionner sans Internet, le projet documente un mode hors ligne (OFFLINE_MODE=true et HF_HUB_OFFLINE=1), qui exige d'avoir téléchargé tous les modèles au préalable. Si vous traitez des données personnelles, lisez aussi L'IA locale en entreprise : confidentialité, RGPD et maîtrise des coûts : garder les données chez vous ne supprime pas vos autres obligations.

Problèmes fréquents

  • Le modèle ne trouve pas l'information : vérifiez que le document a fini d'être traité et que la base de connaissances est sélectionnée dans cette conversation.
  • Un PDF semble vide : il s'agit sans doute d'une image numérisée. Activez PDF Extract Images (OCR) ou utilisez un autre moteur d'extraction.
  • Seule une partie du document est utilisée : le contexte est trop court. Augmentez-le ou réduisez Top K.
  • Les réponses de suivi sont lentes : quand les passages changent de place, le modèle doit retraiter le contexte. Le guide d'Open WebUI explique comment les garder à une position fixe.

Vous ne savez pas quelle machine convient à votre volume de documents ? Parlez-nous de votre cas.

Sources

À lire aussi

Des mini PC pour faire tourner l'intelligence artificielle en local, sur votre propre machine. Livraison dans toute l'Union européenne.

Livraison gratuite dans l'UE · 14 jours de rétractation · Garantie légale de 3 ans

Moyens de paiement
  • American Express
  • Maestro
  • Mastercard
  • PayPal
  • Visa

© 2026 RobitoPC · AMD, Ryzen et Radeon sont des marques d'Advanced Micro Devices, Inc. Boutique indépendante, sans lien avec AMD.

Site réalisé par milenaweb.es