Distillation
Il y a encore deux mois, si vous m'aviez demandé ce que signifiait le mot "distillation", je vous aurais répondu qu'il s'agit d'une façon de séparer les différents composants d'un liquide en le chauffant.
Mais aujourd'hui ce mot a pris un nouveau sens. Il désigne le fait pour une intelligence artificielle en cours d'entraînement de poser de nombreuses questions à une autre IA déjà en production afin de s'inspirer de ses réponses et petit à petit de copier son mode de raisonnement.
On l'utilise notamment lorsque l'on veut créer un petit modèle d'IA à partir d'un autre beaucoup plus important. Le premier s'appellera le "modèle élève" et le second s'appellera le "modèle enseignant".
Comment ça marche concrètement ? Dans un précédent article, j'avais déjà expliqué que l'IA se base sur les probabilités. Si vous lui montrez une photo qui représente un chien, elle va interroger les milliards de matrices mathématiques qu'elle contient dans sa mémoire. Puis elle va en déduire par exemple que l'image a 90% de chance de représenter un chien, 80% de représenter un loup, 15% un chat et 1% un vélo.
Les autres probabilités (loup, chat, vélo) sont appelées "connaissances douces" ou soft labels. Leur utilité est de montrer que la frontière entre deux concepts peut être floue. Par exemple, il existe des races de chiens qui ressemblent fortement à des loups. Il est important que l'IA soit consciente de cela, sinon elle confondrait les deux.
La distillation va consister à poser des milliers de questions au modèle enseignant, mais en lui demandant de ne pas seulement donner la réponse, mais aussi d'indiquer à chaque fois les connaissances douces. Le modèle élève va ensuite en tenir compte pour améliorer ses propres capacités de prédiction.
Et ça marche très bien. Un modèle élève peut générer des réponses dont la pertinence se mesure à 90% voire 95% de celles du modèle enseignant, et cela pour une mémoire cinq voire dix fois plus petite.
C'est un avantage non négligeable, car un modèle de petite taille répond plus vite qu'un grand et avec une infrastructure technique plus simple (plus un modèle d'IA est "gros", plus l'ordinateur qui le fait tourner a besoin de mémoire vive). Les modèles distillés sont ainsi particulièrement adaptés au fonctionnement sur des équipements portables type PC ou smartphone.
Si ce procédé est au centre de l'actualité actuellement, c'est parce que les concepteurs américains de grands modèles comme OpenAI ou Anthropic accusent leurs concurrents chinois comme DeepSeek ou Moonshot AI d'avoir distillé ChatGPT ou Claude pour créer leurs propres produits.
Bien entendu les plaignants n'utilisent pas seulement des arguments financiers, mais aussi éthiques. Ils affirment sans surprise que leurs concurrents chinois volent leur propriété intellectuelle, d'où une concurrence déloyale. Jusque-là, c'est assez logique.
Mais ils expliquent aussi qu'il y a un risque de "défaut d'alignement" des modèles ainsi créés. Traduction ? Que le modèle d'IA atteint l'objectif demandé, mais pas de la manière dont on l'attendait. Oui, je sais, ce n'est pas très clair. Prenons un exemple.
Vous demandez à une IA "comment gagner une course à pied". Vous vous attendez à ce qu'elle vous donne des conseils pour l'entraînement physique. Mais elle pourrait aussi vous suggérer de faire boire un sédatif à vos concurrents juste avant la course. Après tout, la consigne de départ est respectée !
Donc il faut apprendre au modèle à ne pas seulement faire une chose, mais aussi le faire en tenant compte de critères moraux et éthiques. Or, c'est extrêmement difficile.
Autrement dit, les modèles chinois obtenus par distillation seraient dangereux, tout simplement.
Mais le procédé est-il vraiment illégal ? C'est en réalité très flou car tous ces concepts sont évidemment très récents et encore mal compris par le droit.
Lorsque vous utilisez Claude ou ChatGPT, vous êtes censé respecter un contrat, les "Conditions d'utilisation". Vous savez, le document de 500 pages en bas duquel tout le monde clique sur "Accepter" sans jamais le lire. Il y est mentionné (je n'ai pas vérifié mais on peut être sûr que c'est vrai) qu'il est strictement interdit d'utiliser ces modèles pour entraîner des concurrents.
Il y a aussi le problème du droit d'auteur. C'est là que ça devient cocasse. Les Américains reprochent aux Chinois de les copier. Sauf qu'eux-mêmes ont récupéré plus ou moins légalement des millions d'œuvres sur Internet pour entraîner leurs créations, ce qui a d'ailleurs donné lieu à une énorme indemnisation.
Mais surtout OpenAI et Anthropic ont reconnu avoir utilisé eux-mêmes la distillation en interne pour créer leurs modèles les plus petits, comme GPT-4o-mini ou Claude Haiku. Elon Musk l'a aussi admis, Grok a distillé ChatGPT. Pour lui il s'agit d'une "pratique standard".
Il s'agit donc, à mon avis, d'une vaste hypocrisie. Et d'une crainte, celle de voir progressivement émerger en Chine des concurrents capables de rivaliser avec les américains pour des coûts bien inférieurs.
Or la concurrence, c'est indispensable. Si toute l'IA venait des Etats-Unis, la mainmise de ce pays sur notre futur serait totale.
Et s'il est vrai que les chinois ont souvent copié les autres, il vaut mieux avoir les mains propres pour les pointer du doigt.