Aller au contenu
Blog

AI

RAG vs Fine-Tuning : un cadre de décision pour les fondateurs

RAG ou fine-tuning ? Un cadre pratique pour les fondateurs et les CTOs afin de choisir la bonne approche selon leurs données, leur budget et leur cas d'usage, avec les vrais compromis à l'appui.

Par Pykero Agency · Engineering team20 juil. 20265 min de lecture

TL;DR

Utilisez le RAG lorsque vos données changent souvent ou que vous avez besoin de réponses traçables. Utilisez le fine-tuning lorsque le problème porte sur le comportement du modèle, son ton ou le format de ses sorties, et non sur ses connaissances. La plupart des équipes construisent en premier l'option la plus coûteuse, et le regrettent.

salle de serveurs datacenter, RAG vs. Fine-Tuning : un cadre de décision pour les fondateurs

Utilisez le RAG (retrieval-augmented generation) lorsque vos données sous-jacentes changent fréquemment ou que vous devez montrer aux utilisateurs d'où provient une réponse. Utilisez le fine-tuning lorsque le problème vient du comportement du modèle : son ton, le format de ses sorties, ou une tâche précise qu'il continue de traiter structurellement de travers. La plupart des équipes se tournent d'abord vers le fine-tuning parce que cela paraît plus "sur mesure", pour finalement découvrir que le RAG aurait résolu 80 % du problème à une fraction du coût.

Ce que chaque approche fait vraiment

Ces deux approches résolvent des problèmes différents, et les confondre fait perdre des semaines aux fondateurs.

Le RAG récupère des documents pertinents au moment de la requête et les place dans le prompt en tant que contexte. Les poids du modèle ne changent jamais. Vous étendez ce que le modèle sait, pas la façon dont il se comporte.

Le fine-tuning ajuste les poids du modèle sur un jeu de données d'entraînement. Vous modifiez la façon dont le modèle répond : son format, son ton ou son mode de raisonnement pour une tâche spécifique. Vous ne lui transmettez pas de nouveaux faits.

L'article RAG original de Lewis et al. (2020) le formulait exactement ainsi : associer un modèle paramétrique à une mémoire non paramétrique que l'on peut mettre à jour indépendamment. C'est toujours le compromis central. Voulez-vous que la connaissance réside dans les poids, ou dans un store que vous pouvez modifier sans réentraînement ?

Quand le RAG est le bon choix

Optez pour le RAG si l'une de ces situations s'applique à vous :

  • Vos données changent chaque semaine ou chaque jour. Grilles tarifaires, inventaires, documents de politique interne, tickets de support. Faire du fine-tuning sur une cible mouvante implique des cycles de réentraînement constants.
  • Vous avez besoin de citations. Les produits dans les domaines de la santé, du droit et de la finance doivent généralement montrer la source. Le RAG vous fournit une piste d'audit. Le fine-tuning intègre les faits dans une matrice de poids opaque que vous ne pouvez pas inspecter.
  • Vous n'avez pas encore atteint le product-market fit. Le RAG vous permet de remplacer le modèle sous-jacent ou d'ajuster la logique de récupération sans toucher à un artefact entraîné. Les mécanismes sont présentés dans notre introduction au RAG et la couche de stockage dans notre explication des bases de données vectorielles.
  • Le budget est serré. Pas de passe d'entraînement, pas de location de GPU, pas de pipeline MLOps à maintenir. Vous payez par requête, pas par cycle de mise à jour.

Quand le fine-tuning justifie son coût

Le fine-tuning est pertinent lorsque le problème n'est pas un manque de connaissances, mais un comportement inadapté :

  • Le modèle ignore systématiquement votre format de sortie. Du JSON strict, un ton particulier, ou un mode de raisonnement propre à votre domaine que le prompting seul ne parvient pas à maintenir de façon constante à grande échelle.
  • Vous disposez de milliers d'exemples labellisés du comportement correct et le schéma est stable. Non pas "de nouveaux faits", mais "effectuer cette tâche exactement de cette manière, à chaque fois".
  • La latence et la taille du prompt sont de vraies contraintes. Chaque requête RAG paie un coût de récupération et génère un prompt plus long. À plusieurs millions d'appels par jour, un modèle affiné avec un prompt court peut s'avérer sensiblement moins cher et plus rapide une fois l'entraînement amorti. Les chiffres sont détaillés dans notre analyse des coûts LLM.
  • Le vocabulaire de votre domaine est suffisamment spécialisé pour qu'une bonne récupération et un bon prompting ne suffisent pas à guider de façon fiable un modèle généraliste : une tâche de codage clinique très pointue, par exemple.

La documentation de fine-tuning d'OpenAI est une référence utile pour comprendre ce que le fine-tuning sait vraiment faire : respecter un format, adopter un ton, et assurer la cohérence sur des tâches précises. Il n'est pas fait pour injecter de nouveaux faits.

L'approche hybride

Les systèmes de production les plus robustes utilisent les deux approches, mais pas dès le premier jour. Voici une séquence sensée :

  1. Déployez avec le RAG et du prompting. Rapide à itérer, peu coûteux à modifier.
  2. Instrumentez tout : journalisez chaque requête, chaque résultat de récupération et chaque sortie.
  3. Une fois que vous disposez de vrais schémas d'échec issus de la production, faites du fine-tuning de façon ciblée sur le comportement précis qui pose problème.

Construire un pipeline de fine-tuning avant d'avoir des logs de production revient à concevoir dans le noir. Vous devinez à quoi ressemble "correct" au lieu de vous entraîner sur vos véritables modes d'échec.

Un exemple concret

Pykero développe des outils d'outreach qui analysent le site d'un prospect et rédigent un email de prospection personnalisé. Le premier réflexe a été d'opter pour l'architecture "correcte" : une chaîne d'agents qui extrait les faits, évalue leur pertinence, rédige, puis critique sa propre rédaction. C'était plus lent, plus coûteux, et produisait de moins bons emails qu'un seul appel LLM bien structuré auquel on fournissait la page analysée en contexte. En substance, un schéma RAG avec un seul document au lieu d'un corpus. Le fine-tuning n'aurait valu la peine d'être envisagé que si cette approche en un seul appel avait échoué à maintenir une voix cohérente sur des centaines d'emails, ce qui n'a pas été le cas.

Le réflexe qui pousse à surconstruire une chaîne d'agents en plusieurs étapes quand un seul appel suffirait est le même qui pousse à surconstruire un pipeline de fine-tuning quand la récupération suffirait.

Une checklist avant d'engager votre budget

  • À quelle fréquence les données sous-jacentes changent-elles ? Quotidiennement ou hebdomadairement : utilisez le RAG. Rarement ou jamais : le fine-tuning est envisageable.
  • Devez-vous afficher les sources ? Oui : utilisez le RAG, ou le RAG combiné au fine-tuning. Jamais le fine-tuning seul.
  • Le mode d'échec est-il lié à de mauvais faits ou à un mauvais comportement ? Mauvais faits : RAG. Mauvais comportement : fine-tuning.
  • Disposez-vous d'exemples labellisés du comportement correct ? Non : vous n'êtes pas encore prêt pour le fine-tuning, quel que soit le cas d'usage.
  • Quel est votre volume de requêtes ? Faible à moyen : le coût par requête du RAG est acceptable. Élevé avec des exigences de latence : le coût amorti du fine-tuning commence à devenir plus intéressant.

Si vous intégrez l'une ou l'autre approche dans un produit existant, notre guide pour intégrer l'IA dans votre produit couvre les décisions d'architecture environnantes (authentification, limitation du débit, comportement en cas de fallback) qui comptent autant que le choix du modèle lui-même.

Aucune des deux approches n'est plus avancée que l'autre. Elles résolvent des problèmes différents, et le chemin le plus rapide vers un produit fonctionnel est presque toujours l'option la moins coûteuse que vous pouvez valider en premier. Si vous souhaitez un second avis sur celle qui correspond à votre cas d'usage, parlons-en.

rag vs fine-tuningretrieval augmented generationllm fine-tuning costwhen to use ragai model customization for founders

Questions fréquentes

Le RAG est-il moins cher que le fine-tuning ?

En général, oui. Le RAG n'entraîne aucun coût d'entraînement : vous payez les embeddings, le stockage et la récupération au moment de chaque requête. Le fine-tuning nécessite une passe d'entraînement initiale, plus le coût d'un réentraînement à chaque fois que vos données évoluent significativement.

Peut-on combiner RAG et fine-tuning ?

Oui, et de nombreux systèmes en production le font. Vous affinez le modèle sur le ton et le format de sortie propres à votre domaine, puis vous utilisez le RAG pour injecter un contexte factuel à jour au moment de la requête. Commencez par le RAG seul et n'ajoutez le fine-tuning que lorsque vous avez un mode d'échec concret et documenté à corriger.

Le fine-tuning réduit-il les hallucinations ?

Pas de façon fiable. Le fine-tuning enseigne le style et la structure, pas les faits, et un modèle affiné peut tout aussi bien inventer des détails avec assurance. Le RAG réduit les hallucinations en ancrant les réponses dans des documents sources récupérés que vous pouvez réellement citer.

Faut-il une base de données vectorielle pour démarrer avec le RAG ?

Pas pour un prototype. Quelques centaines de documents peuvent être interrogés avec une simple recherche par embedding en mémoire. Une base de données vectorielle dédiée devient nécessaire lorsque vous dépassez environ 10 000 à 50 000 documents, ou lorsque vous avez besoin d'un filtrage et d'une vitesse dignes d'un environnement de production.

Comment Pykero peut aider

Services liés à cet article.

Vous construisez quelque chose de similaire ?

Pykero Agency conçoit et livre des produits web, mobiles, SaaS et IA prêts pour la production.

Parlons-en

Discussion

Be the first to comment.

À lire aussi