Guide
Fusionner un adaptateur LoRA dans le modèle de base
Après un fine-tuning LoRA, fusionner l'adaptateur donne un modèle autonome : PEFT, mlx-lm, LLaMA-Factory, Ollama et précautions.
Mis à jour le
Rubrique 3 sur 6LoRA et QLoRA
Fusionner un adaptateur LoRA, c’est incorporer la mise à jour calculée par ses matrices dans les poids du modèle de base pour obtenir un modèle unique, qu'on charge et qu'on utilise sans la bibliothèque d'adaptation. Ce n'est pas indispensable : on peut aussi garder le modèle de base d'un côté et l'adaptateur de l'autre (voir LoRA et QLoRA pour ce que contient un adaptateur). La fusion simplifie le déploiement ; l'adaptateur séparé simplifie le changement de version. Cette page reprend ce que disent les documentations de PEFT, de mlx-lm et de LLaMA-Factory, lues le 16/11/2026.
Si le modèle doit rejoindre un service applicatif, la documentation API d’ALMA aide à situer le contrat d’intégration d’une plateforme. Elle ne prouve pas qu’un poids fusionné peut y être importé : confirmez les modèles et points d’accès admis.
Avec Hugging Face PEFT
La page « LoRA » de la documentation PEFT explique que, pour éliminer le délai dû au chargement séparé du modèle de base et de l'adaptateur, on utilise merge_and_unload(). Cette fonction fusionne les poids et ne garde pas l'adaptateur en mémoire. L'exemple de la documentation :
from transformers import AutoModelForCausalLM
from peft import PeftModel
base_model = AutoModelForCausalLM.from_pretrained("mistralai/Mistral-7B-v0.1")
peft_model_id = "alignment-handbook/zephyr-7b-sft-lora"
model = PeftModel.from_pretrained(base_model, peft_model_id)
model = model.merge_and_unload()
La documentation note que merge_and_unload() n'agit pas en place : on réaffecte le résultat à une variable. Dans l'exemple, l'adaptateur est chargé sur un modèle de base, Mistral-7B-v0.1 : c'est à vous de charger le modèle de base qui a servi à l'entraînement de votre adaptateur.
Pour une fusion qu'on peut défaire, la documentation propose merge_adapter() puis unmerge_adapter(). Elle décrit aussi unload(), qui retire les modules LoRA pour revenir au modèle de base, et add_weighted_adapter(), qui combine plusieurs adaptateurs avec des poids donnés (son exemple : combinaison linéaire, poids 0,7 et 0,3).
Les précautions de PEFT
- Modèle quantifié : la défusion n'est pas exacte, car la fusion re-quantifie le poids de base ; des cycles répétés peuvent accumuler des erreurs d'arrondi.
- Fusion partielle : si plusieurs adaptateurs sont actifs et que seuls certains sont fusionnés, les autres ne sont silencieusement pas appliqués. La documentation annonce que ce comportement changera dans PEFT v1.0.
- Après
merge_and_unload(), on ne peut plus choisir un adaptateur par nom pour une même requête, puisque le modèle renvoyé ne conserve plus les modules PEFT permettant cette sélection. - Les adaptateurs d'un type particulier (aLoRA) ne peuvent pas être fusionnés.
Avec mlx-lm, sur Mac
La page LORA.md de mlx-lm cite la commande de fusion, et un export vers le format GGUF :
mlx_lm.fuse --model <path_to_model>
mlx_lm.fuse --model mistralai/Mistral-7B-v0.1 --export-gguf
Elle précise que l'export GGUF est limité aux modèles de type Mistral, Mixtral et Llama en fp16. Le contexte d'entraînement est sur Fine-tuning sur Mac avec MLX.
Avec LLaMA-Factory
Le dépôt de LLaMA-Factory cite trois commandes pour son exemple Qwen3-4B-Instruct : l'entraînement LoRA, l'inférence, puis la fusion.
llamafactory-cli export examples/merge_lora/qwen3_lora_sft.yaml
Le dépôt rappelle par ailleurs qu'il faut suivre la licence propre à chaque modèle : vérifiez celle du modèle de base avant de diffuser un modèle fusionné.
Utiliser le résultat dans Ollama
La page d'import d'Ollama décrit, pour un modèle complet au format Safetensors, un fichier Modelfile dont la ligne FROM pointe le dossier des poids, puis deux commandes :
FROM /path/to/safetensors/directory
ollama create my-model
ollama run my-model
La procédure d’import citée concerne un modèle complet. Vérifiez que son architecture est prise en charge par votre version d’Ollama ; un fichier Safetensors ou GGUF ne garantit pas, à lui seul, la compatibilité. Pour un GGUF, la documentation actuelle demande de préparer la quantification avant l’import : Ollama ne la réalise pas pendant cet import. Pour le format GGUF et ses variantes de compression, voir Quantification GGUF.
Contrôler et sauvegarder le résultat
Fusionnez quand vous voulez un modèle autonome à déployer ; il peut rester réparti en plusieurs fichiers de poids. Gardez l'adaptateur séparé quand vous comptez en changer souvent. Dans les deux cas, notez quel modèle de base (nom et version) a servi à l'entraînement : c'est sur lui que l'adaptateur a été appris.
Le code PEFT présenté fusionne en mémoire. Pour conserver le résultat, ajoutez une sauvegarde avec model.save_pretrained("modele-fusionne") et gardez les fichiers du tokenizer ainsi que le gabarit de conversation correspondant. Conservez séparément la base et l’adaptateur d’origine : ils permettent de refaire l’opération sans empiler des cycles de fusion et défusion sur des poids quantifiés.
Comparez ensuite les sorties avant et après fusion sur le même jeu de test, avec les mêmes paramètres de génération. Vérifiez les réponses attendues, les arrêts de génération et la précision numérique choisie. Le succès de la commande d’export valide la création d’un artefact, pas sa qualité ni sa compatibilité avec tous les moteurs d’inférence.
Questions fréquentes
Faut-il fusionner un adaptateur LoRA ?
Pas obligatoirement. Hugging Face PEFT indique que la fusion sert à supprimer le temps de chargement séparé du modèle de base et de l'adaptateur : on obtient un modèle autonome. Sans fusion, on peut garder un seul modèle de base et plusieurs adaptateurs.
La fusion est-elle réversible ?
Avec merge_adapter() puis unmerge_adapter(), oui, sur un modèle non quantifié. merge_and_unload() ne garde pas l'adaptateur en mémoire. Sur un modèle quantifié, la documentation prévient que la défusion n'est pas exacte.
merge_and_unload modifie-t-il le modèle en place ?
Non. La documentation PEFT précise que la fonction n'agit pas en place : il faut récupérer le modèle qu'elle renvoie dans une variable.
Références du carnet
Pages consultées pour écrire cet article :