Depuis deux ans, le RAG est la réponse par défaut quand une entreprise veut exploiter ses documents avec l'IA. Son angle mort : il sait chercher, pas capitaliser. Karpathy et Google défendent aujourd'hui un modèle plus simple, lisible par un humain. Ce Décodeur compare les deux, dit quand chacun a du sens, et donne la marche à suivre pour démarrer.
« On branche l’IA sur nos docs et elle saura tout. » Je l’entends à presque chaque première réunion. Sauf que non : un agent branché sur un RAG ne se souvient de rien. À chaque question, il repart de zéro, va repêcher quelques bouts de vos documents et recolle une réponse. Rien ne s’accumule. Deux signaux récents pointent l’étape d’après, et ils disent la même chose : la mémoire d’une entreprise, ce n’est pas une base vectorielle, c’est un wiki en markdown que l’IA construit et tient à jour. Andrej Karpathy (ex-directeur IA de Tesla) l’a formalisé dans un gist devenu viral. Google vient d’en faire un standard ouvert. L’idée est applicable tout de suite, sans data scientist ni base vectorielle.
Pourquoi « un RAG sur vos docs » ne fait pas une mémoire
Le RAG (Retrieval-Augmented Generation) est la méthode par défaut depuis deux ans pour faire parler vos documents. Le principe : on découpe vos fichiers en morceaux, on les range dans une base vectorielle, et à chaque question on récupère les morceaux qui ressemblent le plus à la question posée. Le modèle lit ces morceaux et répond.
Ça marche très bien pour retrouver un passage. Le problème arrive après : à chaque question, l’IA redécouvre votre entreprise à partir de zéro. Posez-lui une question qui demande de croiser cinq documents, et elle doit à chaque fois retrouver les cinq bouts et les recoller. La synthèse que vous avez payée en tokens à midi est perdue à 14 h. C’est le point qu’a mis en mots Karpathy : le LLM redécouvre la connaissance de zéro à chaque requête, rien ne se construit.
Le virage markdown : ce que Karpathy et Google proposent à la place
L’idée est simple, presque old-school. Au lieu de laisser l’IA repêcher des fragments bruts à la volée, on lui fait entretenir un wiki : une collection de fichiers markdown reliés entre eux, qu’elle enrichit à mesure que vous ajoutez des sources.
Quand un nouveau document arrive, l’IA ne se contente pas de l’indexer pour plus tard. Elle le lit, en extrait l’essentiel, met à jour les pages concernées, signale là où la nouvelle information contredit l’ancienne. La connaissance est compilée une fois, puis tenue à jour. « Le wiki est un artefact persistant qui se cumule », résume Karpathy. La synthèse est déjà là quand vous posez la question.
Son architecture tient en trois couches : les sources brutes (vos fichiers d’origine, que l’IA lit sans jamais les modifier), le wiki (les pages markdown qu’elle écrit et maintient : résumés, fiches par sujet, liens) et le schéma (un fichier qui lui dit comment ranger, avec les conventions de nommage à respecter).
Ce qui rendait ce genre de wiki intenable avant, ce n’était pas l’écriture, c’était l’entretien. Mettre à jour les renvois, garder les résumés cohérents, noter les contradictions : le travail de fourmi que toutes les équipes finissent par abandonner. Une IA, elle, ne se lasse pas, n’oublie pas de mettre à jour un lien, et peut toucher quinze pages d’un seul passage.
Et Google là-dedans ? L’entreprise a publié un standard ouvert, l’Open Knowledge Format, qui formalise ce pattern : les connaissances d’une organisation en fichiers markdown avec métadonnées, rangées « comme une bibliothèque déjà ordonnée, avec des dossiers clairs, des étiquettes et des liens entre les sujets », plutôt qu’en texte brut découpé. Quand un des noms les plus écoutés de l’IA et le premier moteur de recherche du monde poussent le markdown la même saison, ça vaut le coup de regarder pourquoi.
RAG ou wiki markdown : le comparatif honnête
| Critère | RAG classique | Wiki markdown compilé |
|---|---|---|
| Nature | Moteur de recherche | Mémoire qui s’accumule |
| À chaque question | Repêche des fragments, repart de zéro | Lit une synthèse déjà faite |
| Croisement entre documents | Refait à chaque requête | Compilé une fois, maintenu |
| Lisible par un humain | Non (vecteurs) | Oui (texte markdown) |
| Infrastructure | Base vectorielle à opérer | Un dossier de fichiers versionné |
| Coût d’entrée réel | Setup technique | Discipline de rangement |
Le RAG n’est pas à jeter : il reste pertinent pour fouiller un gros volume documentaire, comme un fonds juridique en droit social. Mais pour une PME (disons une centaine de sources, quelques centaines de pages), un simple index markdown suffit, sans aucune base vectorielle. Karpathy note lui-même que ça fonctionne « étonnamment bien » à cette échelle.
Concrètement, par où commence une entreprise ?
On commence par ranger. Quatre principes séparent une mémoire utile d’un dépotoir consultable :
- Un identifiant stable par document. Chaque page porte un nom court et fixe qui sert d’adresse. On peut changer le titre affiché, jamais l’adresse, sinon tous les liens cassent d’un coup.
- Une page par sujet. Pas de document fourre-tout. Une notion qu’on cite ailleurs mérite sa propre page.
- Des liens entre les pages. C’est le maillage qui transforme des notes isolées en mémoire. La valeur est dans les connexions autant que dans les pages elles-mêmes.
- Un résumé dense en tête de page. Deux lignes qui disent l’essentiel. C’est ce que l’IA lit en premier pour décider où creuser.
Rien là-dedans n’exige un data scientist. Ça exige quelqu’un qui tient la discipline de nommage dans la durée. C’est un travail d’éditeur.
Le piège où la plupart tombent, et ce que j’ai appris en le construisant
Le piège est toujours le même : croire que la technologie range à votre place. Un RAG branché sur un dossier en désordre ressort du désordre, juste plus vite. Un standard comme l’Open Knowledge Format vous donne un format. La discipline de rangement, elle, reste à votre charge.
Je le sais parce que je l’ai construit avant d’en lire la théorie. La mémoire qui alimente mes propres contenus et analyses tourne sur ce modèle depuis un an : des documents markdown, un identifiant stable par doc, des liens entre eux, un résumé en tête, un historique de versions, et une IA qui y accède directement. Karpathy a écrit son gist et Google a sorti son standard après.
Ce qui marche : la synthèse est déjà faite, l’IA ne la refait pas à chaque fois. Ce qui coince, et je ne vais pas vous le cacher : une mémoire vieillit. Si personne ne range, humain ou agent, elle dérive. Les liens cassent, les vieilles pages contredisent les neuves. L’entretien coûte plus cher que l’outil, et de loin. L’intérêt du markdown, c’est justement qu’un agent peut assurer cet entretien pour un coût quasi nul, là où aucune équipe humaine ne l’a jamais tenu dans la durée.
La bonne question à se poser
Avant de choisir un modèle ou un outil de RAG, posez-vous plutôt celle-ci : nos connaissances sont-elles rangeables ? Si la réponse est non, aucun modèle ne vous sauvera. Si elle est oui, vous tenez déjà l’essentiel du chemin, et le reste n’est plus qu’une affaire de discipline.
C’est le cadrage que je pose en premier en mission, souvent avant même de parler d’outil. La même logique que derrière « on veut de l’IA », cette demande qui coûte cher quand on saute l’étape du diagnostic. Si vous voulez savoir si vos documents sont prêts à devenir une mémoire exploitable, ou si un simple RAG suffit pour votre cas, parlons-en. Parfois la réponse honnête est : vous n’en avez pas besoin.
Questions fréquentes
Le RAG est-il mort ? Non. Il reste utile pour fouiller un grand volume de documents. Mais il ne retient rien d’une question à l’autre. Pour beaucoup de PME, un wiki markdown maintenu par une IA couvre le besoin sans base vectorielle.
Faut-il un profil technique pour s’y mettre ? Non. L’infrastructure se résume à un dossier de fichiers texte. La compétence rare est éditoriale : savoir nommer et relier vos sujets.
Combien de temps avant que ce soit utile ? Dès les premières sources bien rangées. La mémoire se cumule : chaque document ajouté et chaque question posée la rendent plus riche, tant que la discipline de rangement tient.
Veille IA
Un email par semaine, sans esbroufe
Tendances IA, décryptages sans jargon, et convictions sur la souveraineté technologique, directement dans votre boîte.
