Fine-tune open source : utile pour une PME ou du théâtre ?

« Nous allons entraîner notre propre IA » sonne ambitieux. Pour une PME, la vraie question est moins spectaculaire : quel comportement précis doit changer, et comment vérifier que l’adaptation fait mieux que de bonnes instructions ou une recherche documentaire ?

Trois problèmes souvent confondus

Avant de choisir une technique, il faut séparer trois besoins.

Donner une consigne stable. Un prompt système, quelques exemples et des règles de validation suffisent souvent pour imposer un ton, un format de sortie ou une séquence de travail.

Répondre avec des informations internes. Un système de RAG recherche les passages utiles dans les documents puis les fournit au modèle au moment de la réponse. Les procédures et catalogues peuvent ainsi évoluer sans réentraîner le modèle.

Modifier un comportement répétitif. Le fine-tuning devient pertinent lorsqu’un modèle échoue de façon mesurable sur une tâche stable : classification, extraction, format très spécifique ou style difficile à obtenir avec de simples exemples.

Ce que le fine-tuning change réellement

Le guide de fine-tuning supervisé d’OpenAI présente des usages comme la classification, la traduction nuancée, la génération dans un format déterminé ou la correction de difficultés à suivre des instructions.

Le modèle apprend à reproduire une relation entre des entrées et des sorties d’exemple. Il ne devient pas automatiquement une base de données fidèle. Mettre un catalogue dans un jeu d’entraînement rendrait les mises à jour difficiles et les réponses toujours imparfaitement traçables.

Pourquoi LoRA change le coût, pas la décision

LoRA, documenté par Hugging Face dans PEFT, ajoute de petites matrices entraînables à certains endroits du modèle. Les poids principaux restent gelés. On stocke donc un adaptateur bien plus petit qu’une copie complète du modèle.

Cela réduit les besoins en calcul et rend les expérimentations plus accessibles. Mais une technique moins chère ne rend pas le cas d’usage pertinent. Un adaptateur inutile reste un composant à tester, versionner, déployer et maintenir.

Mistral documente également le fine-tuning et Meta publie des exemples dans son Llama Cookbook. Ces ressources montrent que l’écosystème existe ; elles ne dispensent pas de construire une évaluation adaptée au métier.

Quand préférer le RAG

Le RAG est généralement le premier choix lorsque la réponse doit s’appuyer sur :

• un catalogue ou des tarifs qui changent ;
• des procédures internes ;
• des contrats, manuels ou dossiers ;
• une source que l’utilisateur doit pouvoir retrouver ;
• des droits d’accès différents selon les personnes.

Il permet de mettre à jour la connaissance sans réentraîner le modèle et de montrer les passages utilisés. Le résultat dépend toutefois de la qualité des documents, de leur découpage et de la recherche.

Quand un fine-tuning peut avoir du sens

Un petit adaptateur devient défendable si les quatre conditions suivantes sont réunies :

1. la tâche est répétitive et suffisamment stable ;
2. de bons exemples d’entrées et de sorties existent ;
3. une mesure avant/après a été définie ;
4. les instructions, les exemples dans le prompt et le RAG ont déjà été évalués.

Un cas raisonnable pourrait être le classement de messages dans une taxonomie métier très particulière. Un mauvais cas serait « apprendre toute l’entreprise » à un modèle sans définir la réponse attendue.

Le test qu’une PME doit exiger

Avant l’entraînement, constituez un petit lot de cas réels, anonymisés et jamais utilisés comme exemples d’apprentissage. Mesurez la qualité, les erreurs graves, le temps de réponse et le coût. Rejouez exactement le même lot avec la solution adaptée.

Si le gain n’est ni visible ni utile, l’adaptateur n’a pas de raison d’être. Si le gain existe, il faut encore documenter la version du modèle, les données autorisées et la procédure de retour en arrière.

La position Kervia

Kervia ne commence pas par « quel modèle fine-tuner ? ». Le travail part du comportement attendu, des données disponibles et du risque acceptable. La solution peut être un prompt mieux construit, un RAG, une automatisation classique ou un fine-tuning. Le choix technique arrive après la preuve du besoin.

Pour replacer ce sujet dans une architecture complète, voir aussi les modèles open weights adaptés aux PME et les coûts réels d’un LLM auto-hébergé.