Fine-tuning vs RAG ce que votre agent IA doit savoir, et ce qu’il doit devenir

I

Trois couches distinctes : savoir, savoir-faire, infrastructure

La littérature de recherche distingue deux mémoires dans un modèle de langage. Lewis et ses coauteurs, en 2020, parlent de mémoire « paramétrique » (ce que le modèle a appris pendant son entraînement, stocké dans ses poids) et de mémoire « non paramétrique » (un index de documents consulté au moment de répondre)¹.

Cette distinction suffit à clarifier le débat fine-tuning vs RAG. Le RAG agit sur ce que l’agent IA peut consulter : vos fiches produits, vos conditions générales, vos procédures. Le fine-tuning agit sur la manière dont le modèle se comporte : son ton, ses formats de réponse, son vocabulaire, sa façon de suivre vos règles. Reste une troisième question : où ce modèle tourne, et ce que vous en conservez si vous changez de prestataire.

II

Les instructions système : le premier levier, souvent suffisant

Le guide d’optimisation des modèles d’OpenAI place le travail sur les instructions avant l’affinage, présenté comme optionnel, et précise que cette étape peut suffire pour obtenir de bons résultats⁵.

Les instructions système sont un texte placé en amont de chaque conversation. Elles fixent le rôle de l’agent IA, son périmètre, les sujets qu’il ne traite pas, le moment où il propose un relais humain. Une équipe métier peut les relire et les corriger le jour même. Leur limite tient à leur nature : elles orientent un modèle sans lui apprendre de nouveaux réflexes, et chaque instruction ajoutée allonge la requête, ce qui a un coût à chaque échange⁵. Tant qu’un problème se corrige par une phrase claire dans les instructions, il n’appelle ni réentraînement ni infrastructure.

III

Le RAG : donner à l’agent IA accès à vos documents

Le principe

Le RAG (Retrieval-Augmented Generation, génération augmentée par la récupération) a été formalisé par Lewis et al. dans l’article « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », présenté à NeurIPS 2020¹. Le système associe un modèle génératif à un index de documents interrogé par un moteur de recherche neuronal. À chaque question, il récupère les passages pertinents, puis rédige sa réponse en s’appuyant sur eux.

Les auteurs partaient d’un constat : les modèles qui ne s’appuient que sur leurs paramètres ne peuvent pas facilement réviser leur mémoire, expliquent mal leurs réponses et peuvent produire des « hallucinations »¹. Ils observent, de façon qualitative, que leurs modèles RAG hallucinent moins et produisent plus souvent un texte factuellement correct que le modèle de référence sans récupération¹.

Ses forces : fraîcheur et traçabilité

La fraîcheur est la première force du RAG, et l’article original la démontre. Les auteurs ont interrogé leur modèle sur 82 dirigeants mondiaux ayant changé entre 2016 et 2018. Avec l’index de 2016, le modèle répond correctement à 70 % des questions portant sur 2016 ; avec l’index de 2018, à 68 % des questions portant sur 2018 ; avec un index décalé, la précision tombe à 12 % et 4 %¹. Leur conclusion : on peut mettre à jour les connaissances du système en remplaçant simplement son index, sans réentraînement¹. Pour l’expérience client, un changement de tarif ou de politique de retour devient disponible dès que le document source est mis à jour.

La traçabilité est la seconde force. Puisque la réponse s’appuie sur des passages identifiés, il devient possible d’afficher la source, de vérifier qu’elle est à jour et de savoir quel document corriger en cas d’erreur. Les auteurs soulignent que, dans un modèle hybride, les connaissances consultées peuvent être inspectées et interprétées¹.

Ses limites : corpus, découpage, récupération

Le RAG ne vaut que ce que vaut le corpus. Une procédure obsolète ou deux documents contradictoires seront restitués avec la même assurance qu’une information juste. La qualité documentaire devient une responsabilité opérationnelle.

Le découpage pèse ensuite. Avant indexation, les documents sont fractionnés en passages : un passage trop court perd son contexte (une exception tarifaire séparée de la règle qu’elle modifie), un passage trop long dilue l’information utile.

La récupération, enfin, peut échouer silencieusement. Si le bon passage n’est pas retrouvé, le modèle répond avec ce qu’il a. Et même quand il est retrouvé, sa position compte : Liu et al. (2023) montrent que les modèles exploitent mieux une information placée au début ou à la fin d’un long contexte qu’au milieu, y compris pour des modèles conçus pour les contextes longs².

IV

Le fine-tuning : modifier la façon dont le modèle se comporte

Complet ou efficace

Le fine-tuning poursuit l’entraînement d’un modèle existant sur des exemples choisis. Dans sa version complète, tous les paramètres du modèle sont mis à jour, ce qui exige une puissance de calcul et un stockage proportionnels à sa taille.

Les méthodes dites efficaces ont changé l’économie de cette opération. LoRA (Low-Rank Adaptation), présentée par Hu et al. en 2021, gèle les poids du modèle d’origine et n’entraîne que de petites matrices ajoutées à ses couches³. Sur GPT-3 175B, les auteurs réduisent le nombre de paramètres entraînables d’un facteur 10 000 et le besoin en mémoire GPU d’un facteur 3, sans latence d’inférence supplémentaire³. Dans leur configuration, le point de sauvegarde passe d’environ 350 Go à 35 Mo³. QLoRA (Dettmers et al., 2023) a poussé l’approche plus loin en permettant d’affiner un modèle de 65 milliards de paramètres sur un seul GPU de 48 Go⁴.

Un même modèle de base peut ainsi porter plusieurs adaptations interchangeables : Hu et al. calculent que stocker 100 modèles adaptés demande environ 354 Go au lieu de 35 To³.

Ce qu’il apporte réellement

La documentation d’OpenAI liste les usages pour lesquels l’affinage est pertinent : produire un contenu dans un format précis, adopter le bon ton et le bon style, corriger des défaillances dans le suivi des instructions⁵. Elle mentionne aussi la possibilité de couvrir plus d’exemples que n’en contient une seule requête, et d’entraîner un modèle plus petit, moins coûteux et plus rapide pour exceller sur une tâche où un grand modèle n’est pas rentable⁵.

En termes métier, le fine-tuning apprend à l’agent IA la façon dont votre maison s’exprime : registre, structure des réponses, vocabulaire technique, réflexes face à une réclamation.

Ce qu’il n’apporte pas

Le fine-tuning n’est pas le bon outil pour injecter des faits, encore moins des faits qui changent. Ovadia et al. (2023) comparent le RAG au fine-tuning non supervisé sur des tâches à forte intensité de connaissances : le RAG l’emporte de façon constante, aussi bien pour des connaissances déjà vues pendant l’entraînement que pour des connaissances entièrement nouvelles⁶. Gekhman et al. (EMNLP 2024) vont plus loin : les exemples porteurs de connaissances nouvelles sont appris plus lentement que ceux qui confirment ce que le modèle sait déjà, et une fois appris, ils augmentent la tendance du modèle à halluciner⁷. Leur lecture est que les modèles acquièrent l’essentiel de leurs connaissances factuelles au pré-entraînement, et que l’affinage leur apprend surtout à mieux les utiliser⁷.

Pour un catalogue, des tarifs ou des délais de livraison, la conclusion est directe : ces informations relèvent du RAG et des connexions aux outils, pas des poids du modèle.

V

Combiner les deux plutôt que choisir

La question « fine-tuning vs RAG » n’oblige pas à choisir. Balaguer et al. (2024), sur un cas d’usage agricole, mesurent un gain de précision de plus de 6 points grâce au fine-tuning, puis 5 points supplémentaires en y ajoutant le RAG⁸. Les effets s’additionnent.

Des méthodes affinent même un modèle précisément pour mieux exploiter le RAG. RAFT (Zhang et al., 2024) entraîne le modèle à ignorer les documents récupérés qui n’aident pas à répondre et à citer le passage pertinent⁹.

L’architecture cible peut donc s’écrire ainsi : des instructions claires pour le cadre, un RAG pour les faits, des connexions aux outils pour les données en temps réel (commande, stock, rendez-vous), et un modèle affiné pour le comportement.

VI

Modèles ouverts ou API : une question de licence et de contrôle

Les modèles à poids ouverts s’hébergent où vous le décidez, mais leurs licences varient. La documentation de Mistral AI, consultée en octobre 2026, liste plusieurs modèles sous licence Apache 2.0, comme Mistral Small 4, d’autres sous une licence MIT modifiée, et un modèle sous licence non commerciale CC BY-NC 4.0¹⁰. La licence de Llama 4 de Meta impose d’afficher la mention « Built with Llama » lorsqu’un produit l’intègre, et exige une autorisation de Meta pour les entreprises dont les services dépassaient 700 millions d’utilisateurs actifs mensuels à la date de sortie du modèle¹¹. « Ouvert » ne signifie donc pas « sans conditions » : chaque licence se lit avant le choix du modèle.

Les modèles accessibles par API évitent toute infrastructure à gérer, au prix d’une dépendance aux décisions du fournisseur. Le 7 mai 2026, OpenAI a annoncé la fermeture progressive de sa plateforme d’affinage accessible directement aux développeurs : fermée depuis cette date aux organisations qui ne l’avaient jamais utilisée, elle ne permettra plus aux clients actifs de lancer de nouveaux entraînements à partir du 6 janvier 2027¹². Les modèles déjà affinés restent utilisables jusqu’à l’obsolescence de leur modèle de base¹². Une adaptation construite sur un modèle fermé reste liée au cycle de vie de ce modèle.

VII

Le modèle dédié : où il tourne change ce qu’il vaut

Le règlement européen sur les données (Data Act), applicable depuis le 12 septembre 2025, fixe un cadre pour permettre aux clients de changer effectivement de fournisseur de services de traitement de données¹³.

On distingue en pratique quatre niveaux d’hébergement pour un modèle affiné. L’infrastructure mutualisée partage les ressources de calcul entre plusieurs clients, avec un cloisonnement logique des données et des adaptations. Le modèle privé managé est réservé à un seul client, opéré par le prestataire. Le GPU dédié réserve en plus le matériel. L’installation sur site place le modèle dans les murs de l’entreprise.

Chaque niveau arbitre trois enjeux. La confidentialité : plus l’isolement est fort, plus le périmètre d’accès aux conversations et aux données d’entraînement est réduit et documentable. Le coût : la mutualisation répartit le coût du calcul, alors que le matériel dédié se paie qu’il soit utilisé ou non. La réversibilité : un modèle ouvert affiné avec LoRA produit un fichier d’adaptation compact (35 Mo dans la configuration testée par les auteurs sur GPT-3³) que l’entreprise peut conserver, à condition que le contrat le prévoie.

VIII

Évaluer avant de déployer, puis en continu

La documentation d’OpenAI recommande de mesurer systématiquement les performances, d’établir une base de référence et de tester sur des entrées comparables à celles de la production⁵. Elle suggère même de rédiger les évaluations avant les instructions, selon une approche proche du développement piloté par le comportement⁵.

Pour un agent IA de relation client, cela se traduit par un jeu de tests métier : des questions réelles, anonymisées, avec la réponse attendue validée par vos équipes. On y inclut les cas courants, les cas limites (une demande de remboursement hors délai), les questions auxquelles l’agent IA ne doit pas répondre et celles qui appellent un relais humain. Chaque modification d’instructions, de corpus ou de modèle repasse ce jeu de tests.

La mesure des hallucinations demande de séparer deux causes. Le cadre d’évaluation Ragas (Es et al., 2023) propose d’évaluer séparément la capacité du système à retrouver des passages pertinents, la fidélité avec laquelle le modèle les exploite et la qualité de la réponse elle-même, sans nécessiter d’annotations humaines de référence¹⁴. Cette séparation indique où agir : corpus et récupération, ou modèle.

IX

Demain : le modèle affiné devient un actif de l’entreprise

Ce qui suit est une analyse prospective, pas un constat. Les conversations d’un agent IA contiennent ce que les entreprises formalisent difficilement : les formulations qui rassurent, les objections récurrentes, les réponses qui convertissent, les cas qui exigent un humain. Affiner un modèle sur ces échanges, une fois relus et validés par vos équipes, revient à codifier un savoir-faire. Avec des méthodes comme LoRA, ce savoir-faire prend la forme d’un fichier d’adaptation compact³, et les données validées qui l’ont produit peuvent servir à réaffiner le modèle de base suivant. Notre hypothèse est que ce fichier deviendra un actif suivi comme une base de connaissances ou un CRM.

Cette perspective a un cadre. La CNIL indique, dans ses recommandations du 19 juin 2025, que la réutilisation des conversations futures des utilisateurs d’un agent conversationnel pour améliorer un modèle peut se fonder sur l’intérêt légitime, à condition de garanties fortes : information des personnes, droit d’opposition discrétionnaire, limitation du traitement à certaines données pseudonymisées ou anonymisées¹⁵. Le Comité européen de la protection des données estime, dans son avis 28/2024 du 18 décembre 2024, que l’anonymat d’un modèle entraîné sur des données personnelles s’apprécie au cas par cas¹⁷. La CNIL rappelle en juillet 2025 que le RGPD s’applique souvent à ces modèles en raison de leurs capacités de mémorisation, et recommande notamment des filtres robustes au niveau du système qui encapsule le modèle¹⁶.

X

Ce que cela implique pour votre organisation

Quatre décisions peuvent être prises dès maintenant. Désignez un propriétaire du corpus documentaire, avec un rythme de revue : c’est la condition de tout RAG fiable. Constituez votre jeu de tests métier avant de choisir une méthode, pour pouvoir comparer les options sur vos propres cas. Vérifiez dans vos contrats la propriété et la portabilité des adaptations de modèle, et la licence du modèle de base. Associez votre délégué à la protection des données dès qu’il est question de réutiliser des conversations pour l’entraînement, en vous appuyant sur les recommandations de la CNIL¹⁵¹⁶. Vos équipes gardent la main à chaque étape : ce sont elles qui valident ce que l’agent IA apprend.

XI

Où se situe QLOA

XII

Questions fréquentes

Quelle est la différence entre fine-tuning et RAG ?

Le RAG donne au modèle accès à des documents au moment de répondre : il récupère les passages pertinents et s’appuie sur eux, ce qui permet des réponses à jour et sourcées. Le fine-tuning poursuit l’entraînement du modèle sur des exemples choisis pour modifier son comportement : ton, format, vocabulaire, respect des consignes. Le premier agit sur ce que l’agent IA sait au moment de répondre, le second sur la façon dont il répond.

Le fine-tuning permet-il d’apprendre mon catalogue produit à un agent IA ?

Ce n’est pas la méthode adaptée. Une étude comparative de 2023 montre que le RAG l’emporte sur l’affinage non supervisé pour injecter des connaissances, qu’elles soient nouvelles ou non, et que l’apprentissage de faits nouveaux par affinage peut accroître les hallucinations. Un catalogue, des prix ou des stocks évoluent en permanence : ils doivent être consultés dans vos documents et vos outils au moment de la question, pas inscrits dans les poids du modèle.

Qu’est-ce que LoRA en intelligence artificielle ?

LoRA (Low-Rank Adaptation) est une méthode d’affinage publiée en 2021. Elle gèle les poids du modèle d’origine et n’entraîne que de petites matrices ajoutées à ses couches. Sur GPT-3 175B, elle réduit le nombre de paramètres entraînables d’un facteur 10 000 et la mémoire GPU nécessaire d’un facteur 3, sans ralentir les réponses. Dans la configuration testée par ses auteurs, l’adaptation tient dans un fichier d’environ 35 Mo, contre 350 Go pour le modèle complet.

Peut-on combiner RAG et fine-tuning ?

Oui, et les deux méthodes se complètent, car elles n’agissent pas sur la même chose. Une étude de 2024 sur un cas agricole mesure plus de 6 points de précision gagnés par le fine-tuning et 5 points supplémentaires avec le RAG. Certaines méthodes, comme RAFT, affinent même le modèle pour qu’il apprenne à écarter les documents récupérés qui ne servent pas la réponse.

Peut-on entraîner un agent IA sur les conversations de ses clients ?

C’est possible sous conditions. La CNIL indique depuis juin 2025 que la réutilisation des conversations d’un agent conversationnel pour améliorer un modèle peut reposer sur l’intérêt légitime, avec des garanties fortes : information des personnes, droit d’opposition discrétionnaire, limitation à certaines données pseudonymisées ou anonymisées. Selon la CNIL, le RGPD s’applique souvent au modèle lui-même, en raison de ses capacités de mémorisation. Associez votre délégué à la protection des données dès le départ.

Un modèle open source est-il libre d’utilisation commerciale ?

Pas toujours. Les licences varient d’un modèle à l’autre, y compris chez un même éditeur. Mistral AI publie des modèles sous Apache 2.0, sous licence MIT modifiée et sous licence non commerciale. La licence de Llama 4 impose une mention d’attribution et prévoit une autorisation spécifique au-delà de 700 millions d’utilisateurs actifs mensuels. Chaque licence se lit avant de choisir le modèle de base.

XIII

Sources

1. 1

   Lewis P., Perez E., Piktus A. et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », NeurIPS 2020, arXiv, mai 2020. arxiv.org

2. 2

   Liu N. F., Lin K., Hewitt J. et al., « Lost in the Middle: How Language Models Use Long Contexts », TACL, arXiv, juillet 2023. arxiv.org

3. 3

   Hu E. J., Shen Y., Wallis P. et al., « LoRA: Low-Rank Adaptation of Large Language Models », arXiv, juin 2021. arxiv.org

4. 4

   Dettmers T., Pagnoni A., Holtzman A., Zettlemoyer L., « QLoRA: Efficient Finetuning of Quantized LLMs », arXiv, mai 2023. arxiv.org

5. 5

   OpenAI, « Model optimization », documentation développeurs, consultée le 23 octobre 2026. developers.openai.com

6. 6

   Ovadia O., Brief M., Mishaeli M., Elisha O., « Fine-Tuning or Retrieval? Comparing Knowledge Injection in LLMs », arXiv, décembre 2023. arxiv.org

7. 7

   Gekhman Z., Yona G., Aharoni R. et al., « Does Fine-Tuning LLMs on New Knowledge Encourage Hallucinations? », EMNLP 2024, arXiv, mai 2024. arxiv.org

8. 8

   Balaguer A. et al., « RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture », arXiv, janvier 2024. arxiv.org

9. 9

   Zhang T., Patil S. G., Jain N. et al., « RAFT: Adapting Language Model to Domain Specific RAG », arXiv, mars 2024. arxiv.org

10. 10

    Mistral AI, « Models », documentation officielle, consultée le 23 octobre 2026. docs.mistral.ai

11. 11

    Meta, « Llama 4 Community License Agreement », page officielle du modèle Llama 4 Maverick sur Hugging Face, consultée le 23 octobre 2026. huggingface.co

12. 12

    OpenAI, « Deprecations », section « Update to OpenAI’s self-serve fine-tuning », 7 mai 2026. developers.openai.com

13. 13

    Commission européenne, « Data Act », page politique, consultée le 23 octobre 2026. digital-strategy.ec.europa.eu

14. 14

    Es S., James J., Espinosa-Anke L., Schockaert S., « Ragas: Automated Evaluation of Retrieval Augmented Generation », arXiv, septembre 2023. arxiv.org

15. 15

    CNIL, « Développement des systèmes d’IA : la CNIL publie ses recommandations sur l’intérêt légitime », 19 juin 2025. cnil.fr

16. 16

    CNIL, « IA : la CNIL finalise ses recommandations sur le développement des systèmes d’IA et annonce ses futurs travaux », 22 juillet 2025. cnil.fr

17. 17

    Comité européen de la protection des données (EDPB), « EDPB opinion on AI models: GDPR principles support responsible AI », avis 28/2024, 18 décembre 2024. edpb.europa.eu