Petit ou grand modèle de langage : comment trancher

Prenez un petit modèle quand la tâche est simple, répétitive et volumineuse, ou quand la réponse doit arriver tout de suite : trier, extraire, classer, aiguiller, répondre à des questions courtes. Prenez un grand modèle quand la tâche demande du raisonnement en plusieurs étapes, de la nuance, du code complexe ou un agent qui travaille longtemps seul. Dans le doute, testez les deux sur vos exemples, car l'écart de prix entre le haut et le bas d'une même gamme est considérable (voir le tableau plus bas).

Cercle IA Tech est édité par IArche, qui édite ALMA, la plateforme IA pour PME.

Ce que « petit » et « grand » veulent dire

Les éditeurs parlent de tailles de deux façons :

• par le nombre de paramètres, quand ils le publient : Mistral AI affiche 3, 8 et 14 milliards pour ses Ministral 3, 119 milliards pour Mistral Small 4 (dont 6,5 milliards actifs à chaque jeton), 1 050 milliards pour Mistral Large 4 (dont 52 milliards actifs) ;
• par le rôle dans la gamme, quand ils ne publient pas la taille : chez Anthropic, Haiku est décrit comme le plus rapide, Opus et Fable comme les plus capables ; chez Google, les modèles « Flash-Lite » sont présentés comme les plus rapides et les plus économiques.

L'écart de prix dans une même gamme

Relevé le 15/11/2026 sur la page des modèles d'Anthropic, en dollars par million de jetons :

Le modèle le plus capable peut coûter, par jeton, jusqu'à 80 fois plus que le plus petit (les prix de Haiku sont donnés « à partir de »). Sur des milliers de demandes par jour, ce choix pèse plus que tout autre réglage.

Les tâches qui vont bien à un petit modèle

D'après les descriptions des éditeurs :

• classement, extraction, aiguillage : c'est l'usage annoncé de Claude Haiku 5.5 ;
• applications en temps réel et traitements en volume ;
• sous-tâches d'un agent : le niveau d'effort low est conseillé par Anthropic pour les sous-agents, et Haiku pour les tâches déléguées ;
• matériel modeste : Mistral AI présente Ministral 3 3B comme un modèle « tiny, efficient » (très petit et efficace) pour le texte et la vision.

Les tâches qui demandent un grand modèle

• raisonnement complexe, problèmes scientifiques ou mathématiques ;
• compréhension fine, où la nuance compte ;
• code avancé et agents autonomes qui travaillent pendant des heures ;
• situations où l'exactitude passe avant le coût.

Ce sont les cas pour lesquels Anthropic conseille de commencer directement par le modèle le plus capable.

Deux méthodes de départ

La documentation d'Anthropic propose deux chemins, transposables à toute famille :

1. Petit d'abord : commencer par le modèle rapide, tester à fond, ne monter en gamme que pour combler un manque constaté. Adapté au prototype, aux délais serrés, aux budgets contraints, aux gros volumes simples.
2. Grand d'abord : commencer par le plus capable, ajuster les consignes, puis réduire l'effort ou descendre en gamme quand le fonctionnement est maîtrisé.

Entre les deux, un réglage existe désormais sur un même modèle : l'effort chez Anthropic, le niveau de réflexion chez Google. Baisser l'effort d'un grand modèle peut suffire avant de changer de modèle. Voir modèle de raisonnement.

Combiner un petit et un grand

Anthropic décrit deux montages qui font payer l'essentiel des jetons au tarif bas :

• l'exécutant et le conseiller : un modèle économique fait le travail et ne sollicite le grand modèle que pour les décisions difficiles ;
• le chef d'orchestre et les ouvriers : un modèle capable découpe la tâche et confie le gros du travail à des modèles moins chers.

Prenons, à titre d'illustration, un service client qui reçoit des demandes par courriel. Un petit modèle lit chaque message, en extrait le motif et le numéro de commande, et l'oriente ; seuls les cas litigieux passent à un grand modèle qui prépare une réponse argumentée, relue par un salarié.

À vérifier avant de trancher

• La fenêtre de contexte : chez Anthropic, petits et grands modèles récents annoncent le même million de jetons ; ce n'est pas toujours le cas ailleurs. Voir fenêtres de contexte comparées.
• Les formats d'entrée : un petit modèle ne lit pas forcément l'audio ou la vidéo. Voir modèle multimodal.