Un modèle de langage ne connaît que ce qu'il a lu pendant son entraînement. Dès qu'on lui pose une question sur un document interne, un contrat ou une procédure maison, il improvise. Le RAG — génération augmentée par la recherche — consiste à lui fournir les bons extraits avant qu'il ne réponde.
Trois étapes, pas une
On découpe les documents en passages, on les transforme en vecteurs, on les stocke. À la question de l'utilisateur, on cherche les passages les plus proches, et on les glisse dans le contexte du modèle avec la consigne de s'y tenir.
La qualité de la réponse dépend beaucoup plus de la qualité du découpage et de la recherche que du modèle lui-même. C'est le point que la plupart des démonstrations passent sous silence.
Ce qui coûte cher
- Le nettoyage des sources : un PDF scanné mal océrisé produit des réponses fausses avec beaucoup d'aplomb.
- La mise à jour : un index qui n'est pas rafraîchi devient une source d'erreurs plus dangereuse que l'absence d'outil.
- L'évaluation : sans jeu de questions de référence, personne ne sait si une modification améliore ou dégrade le système.
Quand ne pas en faire
Si la base documentaire tient en quelques pages, elle peut être placée directement dans le contexte. Le RAG devient utile quand le volume dépasse ce qu'on peut donner au modèle à chaque appel.
Un projet, une question ?
Partenariats, intégrations, presse — écrivez directement.