Faut-il essayer les consignes avant le fine-tuning ?

Oui. La documentation de Mistral recommande de commencer par le travail sur les consignes, plus rapide et moins gourmand en ressources ; Google cite le fine-tuning pour les cas où les consignes donnent des résultats incohérents.

Le fine-tuning aide-t-il à réduire le coût par requête ?

C'est un des objectifs cités par Mistral et Google : remplacer une longue consigne ou des exemples répétés à chaque appel par un modèle qui a appris le comportement, et utiliser un modèle plus petit.

Quand faire du fine-tuning ? Ce qu'en disent les éditeurs

Faites du fine-tuning quand le modèle sait déjà répondre mais ne le fait pas de la façon voulue, de manière stable, malgré de bonnes consignes : un format de sortie, un ton, une tâche de classement répétée des milliers de fois. N'en faites pas pour lui apprendre le contenu de vos documents : la comparaison avec le RAG est faite sur RAG ou fine-tuning, on ne la refait pas ici. Cette page rassemble ce que disent les éditeurs eux-mêmes, lus le 15/11/2026.

Ce que dit Mistral

La page de présentation du fine-tuning de Mistral (aujourd'hui marquée « Deprecated ») recommande de commencer par le travail sur les consignes, plus rapide et moins gourmand en ressources. Elle liste ensuite les usages qu'elle juge adaptés au fine-tuning :

adapter le format et le ton des réponses ;
spécialiser le modèle sur un domaine ou un sujet ;
« distiller » un modèle plus puissant dans un plus petit (voir Distillation) ;
reproduire le comportement d'une consigne complexe sans avoir à l'envoyer, pour économiser des jetons et donc du coût ;
réduire le coût et le temps de réponse grâce à un petit modèle affiné.

Ce que dit Google

La documentation du réglage supervisé de Gemini sur Vertex AI cite quatre familles de tâches : classement, résumé, questions-réponses extractives (la réponse est un passage du texte fourni) et conversation avec un personnage ou un rôle défini. Elle ajoute trois situations qui justifient un réglage :

les consignes donnent des résultats incohérents ;
la tâche est trop complexe pour être décrite dans une consigne ;
vous voulez raccourcir le contexte en retirant les exemples que vous répétez à chaque appel.

Pour un raisonnement en plusieurs étapes, la même page oriente vers une autre méthode, le réglage par renforcement.

Ce que dit Anthropic

Anthropic ne propose pas de fine-tuning sur l'API Claude (voir Fine-tuning de Claude), mais sa documentation pose un préalable valable pour toute amélioration : avoir défini des critères de réussite clairs et un moyen de les tester. Elle rappelle aussi que tous les problèmes ne se règlent pas par les consignes : le temps de réponse et le coût s'améliorent parfois plus facilement en changeant de modèle. Son glossaire précise enfin que le fine-tuning demande d'examiner soigneusement les données d'entraînement et leur effet possible sur les performances et les biais du modèle.

La grille en cinq questions

Question	Si oui	Si non
1. Avez-vous des critères de réussite chiffrés et un jeu de test ?	continuez	commencez par là (Évaluer)
2. Avez-vous épuisé les consignes et les exemples dans la requête ?	continuez	travaillez d'abord les consignes
3. Le défaut porte-t-il sur la forme (format, ton, tâche) plutôt que sur le fond ?	le fine-tuning est une piste	le défaut porte sur les connaissances : voyez le RAG
4. Un autre modèle, plus récent ou plus petit, règle-t-il le problème ?	changez de modèle	continuez
5. Pouvez-vous réunir des exemples de qualité, en nombre suffisant ?	lancez un premier essai	voyez Jeu de données

Exemple illustratif

Prenons un bureau d'études qui fait rédiger par un modèle des fiches de non-conformité, toutes construites sur le même gabarit en sept rubriques. Malgré une consigne détaillée et deux exemples dans chaque requête, le modèle oublie une rubrique de temps en temps, et la consigne alourdit chaque appel. Les questions 1 à 3 et 5 pointent vers un fine-tuning léger : quelques centaines de fiches validées, un jeu de test mis de côté, et une comparaison avant / après. Si les fiches devaient s'appuyer sur les normes et procédures internes, cette partie-là relèverait du RAG.

Ce que le fine-tuning ne fait pas

Il ne tient pas une base documentaire à jour : chaque changement imposerait un nouvel entraînement.
Il ne remplace pas une évaluation : sans mesure avant et après, impossible de savoir si le modèle affiné fait mieux.
Il ne se garde pas éternellement : un modèle affiné dépend de son modèle de base, et les éditeurs retirent leurs anciens modèles (Anthropic indique le faire régulièrement ; voir Fine-tuning de Claude pour un exemple daté).