Depuis ChatGPT, « on veut de l’IA » signifie presque toujours « on veut un LLM ». Le raccourci se paie en factures d’inférence, sur des tâches qu’un modèle prédictif traiterait mieux, moins cher et de façon justifiable devant un tiers. Cinq questions posées avant le cahier des charges suffisent à savoir de quel côté tombe votre cas.
« Il nous faudrait un LLM. » Sur les dix-huit derniers mois, c’est la phrase qui ouvre un rendez-vous sur deux. Sauf que la moitié des problèmes qu’on m’apporte se règlent avec un modèle ennuyeux : plus fiable, explicable et 50× moins cher.
La règle de tri tient en deux lignes. Si votre problème s’écrit en lignes et en colonnes, avec une bonne réponse vérifiable après coup (ce client va-t-il résilier, combien de palettes la semaine prochaine, cette soudure est-elle défectueuse), vous cherchez un modèle prédictif, ce qu’on appelle le machine learning classique. Si votre problème est du langage ouvert, de la rédaction, de la lecture de documents hétérogènes ou de l’enchaînement d’actions mal définies, vous cherchez un modèle génératif.
Le reste de cet article, c’est la grille pour trancher entre les deux : nature de la tâche, explicabilité exigée, volume traité, tolérance à l’erreur, données déjà disponibles. Plus le calcul de coût que presque personne ne fait avant de signer.
Pourquoi le mot « IA » ne veut plus rien dire en réunion
Depuis fin 2022, « IA » est devenu un synonyme d’« IA générative » dans la bouche des décideurs. C’est un accident de vocabulaire, et il coûte cher.
Le machine learning classique tourne dans les entreprises depuis les années 1990. Score de crédit, détection de fraude sur carte bancaire, prévision de stock, maintenance prédictive, tri de pièces sur une chaîne, recommandation produit : tout ça, c’est de l’IA, et rien de tout ça n’est génératif. La vision par ordinateur appartient à la même famille : elle compte, mesure et inspecte. Ces systèmes sortent un nombre, une classe ou une probabilité. Personne n’en fait de démo virale sur LinkedIn.
La moitié des arbitrages ratés viennent d’un mot que deux personnes autour de la table n’emploient pas dans le même sens. Remettre ce vocabulaire à plat, c’est le fil conducteur du dossier IA décryptée ; le glossaire IA des termes LLM, RAG et agents en donne la version courte.
La bascule d’attention est mesurable. Selon les données Eurostat sur l’usage de l’IA dans les entreprises européennes, 13,5 % des entreprises de l’UE d’au moins 10 salariés déclaraient utiliser des technologies d’IA en 2024, contre 8 % en 2023. La progression est réelle, mais presque entièrement portée par des usages de texte, alors que dans une PME industrielle les gisements les plus mûrs sont ailleurs.
Le taux d’échec suit. Le rapport State of AI in Business 2025 du MIT NANDA estime que 95 % des organisations étudiées ne tirent aucun retour mesurable de leurs pilotes d’IA générative. Ce chiffre est discuté, et il mérite de l’être, mais l’ordre de grandeur recoupe ce que je vois : la demande arrive toujours formulée en solution (« un chatbot qui… », « un agent qui… »), jamais en problème. Or une solution choisie avant le diagnostic, c’est un POC qui meurt en démo. J’ai détaillé ailleurs pourquoi la phrase « on veut de l’IA » coûte si cher et par quoi la remplacer en comité.
Quelle est la différence réelle entre IA générative et machine learning classique ?
Sous le capot, les deux familles apprennent à partir de données. Elles ne répondent pas à la même question.
Un modèle prédictif apprend une frontière ou une courbe. Vous lui donnez des milliers d’exemples passés étiquetés (ce client a résilié, celui-là non) et il apprend à séparer les cas. Sa sortie est vérifiable : dans six mois, vous saurez s’il avait raison.
Un modèle génératif apprend à produire la suite la plus probable d’une séquence. Sa sortie est plausible. Ni vraie ni fausse : c’est une propriété structurelle qu’aucune version suivante ne corrigera. Demandez-lui la probabilité de résiliation d’un client, il rendra un chiffre bien formaté, sans lien démontrable avec vos données historiques.
| Critère | ML classique (prédictif) | IA générative (LLM) |
|---|---|---|
| Question traitée | Combien ? Quelle classe ? Quel risque ? | Quoi écrire, résumer, extraire, reformuler ? |
| Entrée typique | Tables, séries temporelles, images, signaux | Texte libre, documents, conversations |
| Vérité terrain | Oui, mesurable après coup | Non, plausibilité uniquement |
| Explicabilité | Importance des variables, poids, probabilité calibrée | Explication reconstruite après coup, non causale |
| Coût unitaire | Négligeable une fois entraîné | Facturé à chaque appel, au token |
| Latence | De la microseconde à la milliseconde | De la centaine de millisecondes à plusieurs secondes |
| Données nécessaires | Historique étiqueté du métier | Aucune donnée métier pour démarrer |
| Reproductibilité | Identique à entrée identique | Variable, même à température nulle |
La ligne « données nécessaires » explique une grande partie de l’engouement. Le LLM démarre sans rien. C’est son avantage réel : pas de collecte, pas d’étiquetage, une démo en une après-midi. C’est aussi ce qui le rend séduisant sur des problèmes où il sera durablement moins bon.
Sur données tabulaires, la littérature est stable depuis des années. L’étude Why do tree-based models still outperform deep learning on typical tabular data ? (Grinsztajn et al., NeurIPS 2022) compare les deux familles sur 45 jeux de données : les modèles à base d’arbres restent devant, avec bien moins de réglage. Le travail antérieur Tabular Data: Deep Learning is Not All You Need allait déjà dans ce sens. Sur les séries temporelles, l’article Are Language Models Actually Useful for Time Series Forecasting ? (NeurIPS 2024) fait le test le plus brutal : les auteurs retirent le composant LLM des architectures qui en contiennent un, et les performances ne se dégradent pas, elles s’améliorent souvent.
Traduction pour un dirigeant : sur votre fichier client, sur vos ventes hebdomadaires, sur vos relevés capteurs, un algorithme de 2016 comme XGBoost est probablement encore le meilleur choix technique en 2026. Ennuyeux, oui, et toujours devant.
Comment savoir si votre problème relève du ML classique ?
Cinq questions. Répondez-y avant d’écrire le moindre cahier des charges. Je les pose systématiquement en premier rendez-vous, dans cet ordre.
1. Existe-t-il une bonne réponse, vérifiable a posteriori ? Si dans trois mois vous pouvez dire « le modèle avait raison » ou « il avait tort » en regardant vos données, vous êtes sur du prédictif. Une estimation du potentiel solaire d’une toiture calculée à partir de données géographiques se vérifie sur le terrain, chiffre contre chiffre. Si la qualité de la sortie ne se juge que par « c’est bien écrit », vous êtes sur du génératif.
2. Vos données sont-elles déjà dans un tableau ? Un export CRM, un historique de commandes, des relevés machine. Si oui, un modèle prédictif s’entraîne dessus, et souvent la matière dort déjà dans un outil que vous payez : un fichier de caisse suffit par exemple à reconstituer les profils de clientèle d’un commerce, quartier par quartier. Si votre matière est un dossier de 200 pages en PDF scanné, c’est un autre métier.
3. La décision se répète-t-elle des milliers de fois par jour ? À dix décisions par jour, le coût unitaire est sans importance et le LLM passe partout. À cent mille, il devient la ligne principale de votre budget.
4. Devrez-vous justifier la décision devant un tiers ? Client, régulateur, prud’hommes, comité de crédit. Si oui, la question de l’explicabilité se traite dès le cadrage.
5. Avez-vous de l’historique étiqueté ? Deux ou trois ans de cas passés avec leur issue connue. Sans historique, aucun modèle prédictif n’existe, quel que soit le budget.
Trois « oui » ou plus aux questions 1, 2, 3 et 5 : votre problème relève du ML classique, et un LLM sera une façon coûteuse et instable d’y répondre. Deux « non » ou plus, avec une matière textuelle dominante : le génératif est légitime. La question 4 ne compte pas dans le décompte : elle ne départage pas les deux familles, elle contraint l’architecture quel que soit le camp où vous tombez, et j’y reviens plus bas.
Le LLM coûte-t-il vraiment plus cher ?
Faisons le calcul, qui est presque toujours absent des dossiers qu’on me montre.
Prenons une tâche de classification à volume : deux millions de décisions par mois (tri de tickets entrants, scoring de leads, priorisation de dossiers). Côté LLM, comptez un prompt de 400 tokens et une sortie de 100 tokens par décision, soit environ un milliard de tokens par mois. Selon le modèle retenu dans une grille tarifaire publique comme celle de Mistral, la facture va de quelques centaines à plusieurs milliers d’euros mensuels, à laquelle s’ajoutent les reprises sur erreur et la vérification humaine.
Côté modèle prédictif, la même charge s’entraîne en quelques minutes sur un CPU et s’exécute en moins d’une milliseconde par ligne. L’infrastructure tient sur une petite instance à quelques dizaines d’euros par mois, et le coût marginal d’une décision supplémentaire est nul.
L’écart se creuse encore en architecture agentique, où un traitement déclenche des appels en cascade : c’est tout le sujet du coût réel de l’IA agentique.
D’où le facteur 50 du début : un ordre de grandeur observé sur des tâches de classification à volume, rien de plus. Sur un gros modèle de raisonnement l’écart dépasse largement 50, sur un petit modèle rapide il tombe à 5 ou 10. Et le sens de l’histoire joue contre moi sur ce point précis : l’AI Index 2025 de Stanford HAI documente une chute du coût d’inférence, pour un niveau équivalent à GPT-3.5, de 20 dollars à 0,07 dollar par million de tokens entre novembre 2022 et octobre 2024. Les tokens deviendront quasi gratuits.
La vérification, elle, restera payante. Un modèle prédictif vous rend une probabilité que vous pouvez calibrer et seuiller : au-dessus de 0,9 vous automatisez, en dessous vous faites remonter à un humain. Un LLM vous rend une phrase assurée, sans indication fiable de sa propre incertitude. Sur une tâche à volume, le coût réel du génératif tient dans l’heure de relecture humaine que vous ajoutez à chaque lot, et cette heure-là ne suit pas la courbe de baisse des tokens.
Et si vous devez expliquer la décision ?
C’est le critère qui tranche le plus vite, et le plus souvent ignoré au moment du choix.
Le règlement européen sur l’IA classe comme à haut risque une série d’usages listés dans son annexe III : évaluation de solvabilité, tri de candidatures et gestion des travailleurs, accès aux services publics et privés de première nécessité, entre autres. Ces systèmes doivent être documentés, traçables et supervisables par un humain. Côté données personnelles, la CNIL détaille ce que le RGPD impose aux systèmes d’IA, y compris sur l’information des personnes concernées. Ce volet rejoint les questions d’hébergement et de localisation traitées dans le guide honnête de l’IA souveraine.
Un modèle prédictif entre dans ce cadre sans acrobatie. Il donne une importance de variables, un sens de contribution par variable, et une probabilité calibrée qui veut dire quelque chose : sur cent dossiers notés à 0,8, environ quatre-vingts se réalisent. Vous pouvez écrire noir sur blanc pourquoi ce dossier est passé et pas celui-là.
Un LLM à qui vous demandez de justifier sa réponse produit une justification, pas une explication : le texte rendu est reconstruit après coup, et rien ne garantit qu’il décrive le calcul qui a produit la sortie. Devant un régulateur ou un avocat, la position est inconfortable. J’ai vu des projets s’arrêter à ce mur après six mois de développement, uniquement parce que la question de la preuve avait été repoussée à la fin.
Dans quels cas le LLM est-il le bon choix ?
Cet article n’est pas une charge contre le génératif. J’en mets en production, et sur certaines familles de problèmes rien d’autre ne fonctionne.
- Le langage ouvert entrant : un client écrit ou parle comme il veut, et il faut comprendre l’intention derrière n’importe quelle formulation. Aucun modèle prédictif ne couvre cette variabilité.
- La transformation de format : passer d’un compte rendu brut à une fiche structurée, d’un appel à un résumé, d’une note vocale à un ticket. Le LLM est bon là où l’entrée et la sortie sont du texte et où la vérité terrain est molle.
- L’extraction sur documents hétérogènes : cent fournisseurs, cent modèles de factures. Écrire cent parseurs coûte plus cher qu’un LLM avec un schéma de sortie contraint et un contrôle de cohérence derrière. Sur ce terrain, la vraie question devient celle de la mémoire d’entreprise et des limites du RAG.
- Le démarrage à froid : pas d’historique, pas d’étiquettes, des résultats attendus en trois semaines. Le LLM sert alors à étiqueter les premiers milliers de cas, pour construire le jeu de données qui entraînera plus tard un modèle prédictif dix fois moins cher à faire tourner.
Ce dernier point est le plus mal exploité. Étiqueter avec un gros modèle, puis basculer sur un petit modèle spécialisé une fois le volume atteint : c’est la trajectoire la plus économique que je connaisse, à condition de l’avoir prévue dès l’architecture.
Pourquoi les systèmes qui tiennent en production sont hybrides
Dans les systèmes qui survivent au-delà de six mois, la question « LLM ou ML classique » ne se pose déjà plus comme un choix exclusif. Les deux cohabitent, à des postes différents.
Le schéma qui revient : le LLM aux extrémités, le modèle prédictif au centre, les règles métier en garde-fou.
- En entrée, le génératif absorbe la variabilité du langage humain et la convertit en structure : intention, entités, champs remplis.
- Au centre, un modèle prédictif prend la décision qui engage : priorité, score, montant, routage. C’est lui qui est mesuré, versionné, audité.
- En sortie, le génératif remet la décision en langage naturel pour l’utilisateur final.
- Autour, des règles déterministes bloquent l’inacceptable. Aucun modèle, génératif ou non, ne décide seul d’un refus ou d’un envoi client sans filet.
Cette architecture a une conséquence directe sur votre appel d’offres : un prestataire qui vous propose un LLM du début à la fin de la chaîne, sans jamais poser la question de la décision mesurable au milieu, vous vend une démo.
Comment trancher en trente minutes
Le protocole tient en cinq étapes, et il se passe très bien de moi.
Étape 1, écrire le problème sans nommer de technologie. Une phrase, verbe d’action, sans les mots IA, LLM, agent ou chatbot. « Réduire le temps de traitement des réclamations de 48 h à 4 h. » Si la phrase ne tient pas sans le nom d’une techno, le problème n’est pas encore posé.
Étape 2, nommer la décision. Qu’est-ce qui est décidé, par qui, combien de fois par jour, et avec quelle conséquence en cas d’erreur ? Une erreur réversible et invisible ne se traite pas comme une erreur qui part chez un client.
Étape 3, passer les cinq questions de la grille plus haut, et l’écrire dans le compte rendu. Un score écrit vaut mieux qu’une impression de réunion.
Étape 4, fixer le critère de succès chiffré avant tout développement. « Ça marche bien » n’est pas un critère. « 425 tickets correctement routés sur les 500 tickets réels du jeu de test », si. Un projet sans métrique définie en amont ne peut pas échouer, donc ne peut pas réussir.
Étape 5, budgéter à l’échelle cible. Le budget du pilote ne dit rien de la facture réelle. Multipliez le volume du POC par le volume réel et regardez le nombre. C’est là que la moitié des projets génératifs changent d’architecture, et mieux vaut à cette étape qu’après la mise en production.
Dernier conseil, quel que soit le prestataire retenu : demandez-lui pourquoi il n’a pas choisi l’autre famille de modèles. Si la réponse est un argumentaire de vente plutôt qu’un raisonnement sur vos données, votre volume et votre contrainte de preuve, continuez à chercher.
Questions fréquentes
Par où commencer
La grille ci-dessus se passe en une réunion, sans prestataire. Au minimum, vous saurez quelles questions poser à ceux que vous consulterez.
Pour un avis extérieur sur un cas précis, décrivez-moi le problème en deux phrases via la page contact. Quand la réponse est « vous n’avez pas besoin d’IA générative pour ça », je le dis : c’est souvent la plus rentable de l’échange.
Veille IA
Un email par semaine, sans esbroufe
Tendances IA, décryptages sans jargon, et convictions sur la souveraineté technologique, directement dans votre boîte.


