La question revient dans presque tous nos ateliers : faut-il connecter le modèle à une base documentaire (RAG) ou l'entraîner davantage sur des données propres (fine-tuning) ? Les deux approches répondent à des problèmes différents. Voici comment nous les distinguons en formation comme en mission.
Ce que chaque approche résout réellement
La recherche augmentée ajoute du contenu au moment de la question : le modèle reçoit des extraits pertinents et rédige sa réponse à partir de ces extraits. Elle traite un problème de connaissance : le modèle ignore vos documents.
Le fine-tuning modifie le comportement du modèle à partir d'exemples : format de sortie, ton, vocabulaire métier, structure attendue. Il traite un problème de forme et de régularité, pas un problème de connaissance factuelle.
Critères qui font pencher vers le RAG
- L'information change régulièrement : procédures, catalogues, réglementation interne.
- Il faut citer la source de chaque réponse, pour contrôle ou pour conformité.
- Le périmètre documentaire est vaste et hétérogène.
- L'équipe doit pouvoir corriger une réponse en corrigeant un document.
Critères qui font pencher vers le fine-tuning
- La sortie doit respecter un format strict et répétitif, difficile à obtenir par consigne.
- Le vocabulaire métier est très spécifique et stable dans le temps.
- Vous disposez d'exemples validés, nombreux et homogènes, de la tâche attendue.
- La latence et le coût par requête doivent être réduits sur un volume élevé.
Le coût réel se situe rarement là où on l'attend
Sur un projet RAG, l'effort principal porte sur la préparation documentaire : nettoyage, découpage, métadonnées, gestion des versions et des droits d'accès. La partie modèle est la plus simple à mettre en place.
Sur un projet de fine-tuning, l'effort principal porte sur la constitution et la validation du jeu d'exemples, puis sur son entretien à chaque évolution des attentes. Un modèle spécialisé se re-entraîne, un index documentaire se met à jour.
En pratique : commencer simple, puis combiner
Dans la majorité des situations d'entreprise, l'ordre efficace est : consignes précises, puis recherche augmentée, puis fine-tuning si un problème de forme persiste. Les deux approches se combinent : un modèle spécialisé pour le format, alimenté par une recherche documentaire pour les faits.
Quelle que soit l'option retenue, prévoyez un jeu d'évaluation : une trentaine de questions représentatives avec réponses attendues, rejouées à chaque modification. C'est le seul moyen de constater une amélioration au lieu de la supposer.
À retenir
- Le RAG répond à un manque de connaissance, le fine-tuning à un besoin de forme.
- Documents mouvants et sources citables : RAG. Format strict et volume élevé : fine-tuning.
- Le coût dominant est la préparation des données, pas l'appel au modèle.
- Sans jeu d'évaluation rejoué, aucune comparaison sérieuse n'est possible.