Comment Claude raisonne : dans la boîte noire d’un modèle de langage

Les modèles de langage comme Claude, développé par Anthropic, fascinent autant qu'ils interrogent. À mesure qu'ils deviennent plus puissants, comprendre comment ils fonctionnent en interne devient un enjeu technique majeur pour la fiabilité, la supervision et la gouvernance de ces systèmes.

C'est justement l'objet de deux nouvelles études publiées par Anthropic, qui tentent de répondre à cette question simple en apparence : que se passe-t-il dans la "tête" d'une IA lorsqu'on lui pose une question ?

Des boîtes noires très performantes

À la base, les grands modèles de langage sont des modèles probabilistes : ils ne suivent pas des règles écrites ligne par ligne, mais apprennent à prédire la suite la plus probable d’une séquence de mots en se basant sur des milliards d’exemples.

Leur comportement émerge de milliers de couches de neurones artificiels et de millions, voire milliards de paramètres ajustés automatiquement pendant l’entraînement. Résultat : on obtient un système très performant… mais dont l’architecture et les décisions restent largement opaques, même pour ses propres créateurs.

Pourquoi ?

1. Les modèles ne sont pas explicitement programmés pour résoudre des tâches.
   Ils apprennent par l’exemple, sans que les développeurs définissent clairement les étapes logiques à suivre. C’est comme si on formait un expert en lui montrant des millions de cas, sans lui expliquer les règles.

2. Les paramètres du modèle sont trop nombreux pour être interprétés individuellement.
   On parle souvent de 7, 70, voire 175 milliards de paramètres. Chaque paramètre influence les autres — leur interaction crée un comportement global, mais il est quasiment impossible de dire : "ce neurone fait ceci, celui-là fait cela".

3. Le raisonnement est distribué dans tout le réseau, et non centralisé.
   Il n’y a pas une seule "boîte" qui gère la logique, une autre pour le langage, etc. Tout est intriqué.

4. Le comportement peut varier selon le contexte, car le modèle ajuste sa réponse à chaque nouvelle séquence de mots, en fonction des probabilités calculées. Il ne "sait" pas vraiment ce qu’il va dire ensuite — il choisit ce qui est le plus probable, mot après mot.

Le microscope d'Anthropic : une première cartographie

Pour tenter de mieux comprendre ces processus internes, les équipes de recherche d’Anthropic ont conçu un outil qu’ils appellent un "microscope IA". Il permet de rendre visibles certains "circuits" internes du modèle, c’est-à-dire des chaînes de traitements qui transforment un mot d’entrée en un mot de sortie.

Ils ont ainsi analysé le fonctionnement de Claude 3.5 Haiku sur plusieurs tâches clés, comme le raisonnement multilingue ou la création poétique.

Parmi les découvertes notables :

• Claude semble utiliser une sorte de "langue de la pensée" partagée entre plusieurs langues (anglais, français, chinois), avec des structures conceptuelles communes.

• Lorsqu’il écrit un poème, il planifie à l’avance plusieurs mots, identifie des rimes possibles, puis construit la phrase pour y parvenir.

• Il dispose aussi d'un mécanisme de prudence : par défaut, Claude évite de "spéculer" à moins d’avoir une forte confiance dans sa réponse. Cela aide à limiter les "hallucinations".

Pourquoi c’est important

Comprendre ce qui se passe "sous le capot" de ces modèles devient un enjeu essentiel pour la transparence, la supervision algorithmique et la réduction des risques systémiques. Non seulement pour améliorer leur performance, mais surtout pour garantir leur fiabilité, leur sécurité, et s’assurer qu’ils se comportent comme prévu.

Plus ces systèmes seront présents dans nos vies, plus il faudra pouvoir les auditer. Ces travaux vont dans le bon sens : ils ne rendent pas l’IA transparente d’un coup de baguette magique, mais ils nous aident à commencer à la comprendre pour de vrai.