IA : qu'allons-nous devenir ?
L'arrivée de ChatGPT en 2022 nous a fait entrer dans une nouvelle ère : celle de l'intelligence artificielle. Et simultanément la robotique connaît des progrès foudroyants, comme en témoignent les vidéos impressionnantes de Boston Dynamics. L'être humain est attaqué sur deux fronts par la machine : le front de l'esprit et le front du corps. En apparence, tout le monde voit son travail menacé, depuis le programmeur jusqu'au manutentionnaire qui porte des cartons. Alors est-ce que cette fois-ci c'est la bonne, ce fameux moment tant redouté où le progrès nous rattrape ?
Même si les deux sujets sont liés, dans un souci de clarté je parlerai ici uniquement de l'IA, et traiterai les robots dans un autre article.
Difficile de consulter Youtube ou des forums sur Internet sans qu'on nous parle d'IA. On a tous notre avis là-dessus et je ne ferai pas exception à la règle. L'IA n'est pas une mode, c'est un changement de société. Un changement qui, à la différence des précédents comme l'arrivée de l'électricité ou de la voiture, va se faire beaucoup plus rapidement, avec un impact beaucoup plus profond.
Il a fallu des décennies pour que tous les foyers soient équipés d'électricité, mais seulement quelques semaines pour que des millions de personnes dans le monde utilisent ChatGPT. La raison est que nous vivons dans un monde hautement connecté, et que tout le monde dispose déjà des outils permettant d'interroger l'IA, c'est-à-dire le smartphone ou l'ordinateur.
Alors on voit s'opposer deux visions : l'optimiste et la pessimiste. La première vous dit que, historiquement, chaque progrès technique a détruit des emplois, mais en a créé autant d'autres pour compenser. Le remplacement du cheval par la voiture a mis au chômage le maréchal-ferrant, mais a entrainé l'apparition des mécanos. On pourrait donc penser que l'IA va certainement remplacer toutes les petites tâches répétitives que les humains faisaient jusqu'ici, mais que d'autres, à plus forte valeur ajoutée, prendront leur place.
Les pessimistes répondent que rien ne prouve que ce qui s'est passé auparavant va se reproduire, que la destruction-création d'emplois par les nouvelles technologies sont simplement des faits constatés, sans qu'aucun mécanisme ne les explique et nous garantisse qu'ils se reproduiront. C'est un peu comme la loi de Moore, selon laquelle la puissance des processeurs double tous les dix-huit mois. Il s'agit d'une simple observation et il se peut très bien qu'un jour elle ne soit plus vérifiée.
Comment fonctionne l'IA ?
Pour le comprendre, il faut peut-être se demander d'abord comment fonctionne une IA. Et voir si elle est vraiment "intelligente". Pour cela, reprenons l'exemple de ChatGPT. Il s'agit d'un Grand Modèle de Langage ou LLM (Large Language Model). Derrière ce nom pas très clair, se cache en fait un redoutable système basé sur les probabilités.
Pour le comprendre, on peut comparer un LLM à une version extrêmement poussée du système de prédiction d'écriture que nous avons tous sur notre smartphone aujourd'hui. Quand vous tapez un message ou quand vous le dictez verbalement à votre appareil, plusieurs mots sont proposés, et il suffit d'en toucher un pour l'insérer dans le texte. Cela est censé vous permettre d'écrire plus rapidement. Par exemple si vous dites "n'oublie pas d'aller", iOS ou Android vont afficher la suite statistiquement la plus probable, par exemple "à l'hôtel", "au marché" ou "à la maison", etc.
Un LLM fonctionne d'une façon similaire. Par exemple, si vous lui demandez "Que faut-il pour faire une omelette ?", un LLM va consulter l'ensemble des informations stockées dans sa base de données (c'est-à-dire celles sur lesquelles on l'a entraîné), et en déduire que la probabilité la plus forte est que la bonne réponse soit « des oeufs ».
Sauf que ce mode de fonctionnement a un très gros défaut. Si le modèle d'IA se limite aux probabilités, il va analyser les mots d'une phrase les uns après les autres et, petit à petit, s'éloigner du sens global de la phrase. En effet, il ne comprend pas le contexte, donc si la phrase est un peu longue, il va finir par dire n'importe quoi.
Ce n'est pas clair ? Prenons un exemple un peu plus parlant. Soit la phrase suivante : "Les conseillers municipaux ont refusé l'autorisation aux manifestants parce qu'ils craignaient des violences."
Si l'IA lit les mots les uns après les autres, lorsqu'elle va arriver au pronom "ils" (de "ils craignaient"), elle va penser qu'il désigne le terme au pluriel le plus proche, c'est-à-dire "les manifestants". Ce qui est faux. Comment le savons-nous ? C'est grâce au terme "craignaient". Les humains déduisent de leur expérience que ce sont plutôt les autorités que les manifestants qui craignent les débordements. L'intelligence artificielle, elle, regarde seulement quel est le sujet le plus probable pour le verbe "craindre".
En clair, pour répondre correctement à une question, il ne faut pas seulement comprendre les mots individuellement. Il faut en plus avoir une vue d'ensemble de la phrase.
La solution s'appelle l'architecture Transformer. Il s'agit d'un système qui a été inventée en 2017 par des chercheurs qui voulaient améliorer les outils de traduction automatique de l'anglais vers d'autres langues. Or on sait qu'une bonne partie d'entre elles n'ont pas la même structure. Par exemple, en turc ou en japonais, le verbe est à la fin de la proposition, comme en latin.
Transformer détecte les mots les plus importants et reste toujours focalisé dessus. Grâce à lui, l'IA peut, comme un être humain, comprendre le contexte de la question.
Par conséquent l'IA n'est pas intelligente. Et même pas intelligente du tout. Elle en donne juste l'impression. Elle n'a aucune conscience, juste une puissance de calcul considérable combinée à une énorme base de données statistique.
Mais au fond est-ce un problème ? Le physicien Alan Turing avait affirmé en 1950 que si une machine simule l'intelligence suffisamment bien pour qu'un humain ne puisse pas le deviner, alors on peut la qualifier d'intelligente. Seul le résultat compte, en somme.
Et ce n'est pas forcément plus mal. Une machine dotée d'une vraie conscience aurait très certainement aussi ce qui va avec, c'est-à-dire des opinions. On imagine un ordinateur ou un robot refusant d'effectuer une action parce qu'il ne la trouve "pas correcte", ou "pas conforme à ses valeurs" ?
Que se passe-t-il si, dans ses données d'entraînement, le modèle ne trouve pas la réponse ? Comme on l'a vu, l'IA n'a pas de conscience. Si elle ne peut pas établir des analogies avec la question posée, elle ne s'en rendra pas compte. Dit autrement, "elle ne sait pas qu'elle ne sait pas". C'est pourquoi il arrive qu'elle réponde absolument n'importe quoi, puisqu'elle ne connait pas le doute. Cela s'appelle une hallucination.
Les hallucinations peuvent aussi se produire si, dans la même conversation, on a posé trop de questions à l'intelligence artificielle. Ce système de dialogue permet de garder en mémoire le contexte et de pouvoir donner des réponses plus précises, plus adaptées aux besoins de l'utilisateur.
Et c'est d'ailleurs indispensable. Par exemple, si en début de conversation, je demande à l'IA "comment nourrir un python ?", elle va m'expliquer que cette espèce de serpent mange des rongeurs comme les souris. Mais si la question arrive en fin d'une discussion sur les techniques de programmation, elle va interpréter cette question comme "comment alimenter un script Python ?". Ceci parce que le mot "python" désigne à la fois un animal et un langage informatique.
Mais si ce contexte devient trop complexe, le calcul de probabilité s'épuise à prendre en compte une masse de détails inutiles et finit par accoucher d'une erreur. Donc si vous utilisez ChatGPT ou Gemini, il est important de créer régulièrement une nouvelle conversation, et obligatoirement si vous changez de sujet.
Comment l'IA apprend
Pour mettre au point un modèle d'IA, on l'entraîne sur une énorme quantité de données. On lui fait lire des milliers de sites web, des articles Wikipédia, des blogs, des articles de journaux et des livres. À partir de toutes ces données elle compose son fichier de référence. C'est lui que le moteur de l'IA interroge pour répondre à une question.
Mais comme les données d'entraînement incluent des livres, c'est-à-dire des textes ou des images placés sous droit d'auteur, l'IA va se baser sur eux pour répondre. Elle peut donc fournir une information qui relève du plagiat. C'est la raison pour laquelle de nombreux auteurs et artistes attaquent les entreprises comme OpenAI, Anthropic ou Google, car ils estiment que ChatGPT, Claude ou Gemini génèrent gratuitement des oeuvres très, voire trop proches de leurs propres créations. Ce que les intéressés contestent toujours, en expliquant que ces œuvres sont disponibles gratuitement sur Internet et relèvent donc du domaine public. Sur ce point je laisserai la justice répondre à ma place !
Mais que contient au juste ce fichier d'entraînement ? Il est constitué de milliers d'informations stockées sous forme de données chiffrées. Ce sont ce que les mathématiciens appellent des matrices. Pour décrire cela précisément, il faut aimer les chiffres, ce qui n'est pas mon cas. Disons qu'il n'y a aucune information marquée en toutes lettres, seulement des valeurs chiffrée organisées d'une façon qui imite le réseau de neurones du cerveau humain. Par exemple il n'est indiqué nulle part qu'une omelette nécessite des oeufs. C'est l'IA qui en déduit cela après analyse du contenu.
Et c'est justement un gros problème. Si l'IA donne une réponse erronée, on ne peut pas ouvrir ce fichier pour faire une modification, comme on le ferait avec une feuille Excel. Par exemple si l'IA vous dit que pour faire une omelette il faut mixer de la viande, il n'est pas possible de lui "expliquer" que c'est faux. On est obligé d'utiliser des techniques de correction complexes et ciblées, comme le Fine-tuning (réglage sur un petit jeu de données).
Cela implique qu'une IA n'apprend rien des échanges avec ses utilisateurs et doit repasser par ses concepteurs pour être améliorée. Sa base de données est figée. Du coup en cas d'erreur manifeste, il n'est pas possible de la corriger rapidement. La seule solution est de couper l'accès au service ! C'est notamment le cas si les réponses données sont dangereuses. Par exemple lorsqu'une IA vous explique comment fabriquer une bombe.
Justement, pour ce type de question, on se dit qu'il doit être facile de poser des garde-fous. Après tout, il ne s'agit que d'un programme informatique. Mais son principe même de fonctionnement fait qu'il est très difficile de le forcer à ne pas répondre. Vous pouvez par exemple lui interdire d'expliquer comment fabriquer un poison. OK. Mais vous pouvez lui demander... quelle est la composition chimique de ce poison. Et ensuite comment produire les différents composants individuellement. Tout dépend de comment la question est posée.
L'impact à court terme
La première conséquence de l'arrivée de l'IA est l'explosion du prix du matériel informatiques dont elle a besoin, et notamment des processeurs graphiques (GPU) et de la mémoire vive (RAM). Initialement conçus pour permettre aux PC de faire tourner des jeux très gourmands en puissance, les GPU sont aujourd'hui préemptés par les grands acteurs comme OpenAI et Google. Le type de calcul fait par les GPU est en effet particulièrement adapté au traitement de leurs requêtes, à la différence des processeurs classiques d'ordinateur (CPU) dont l'architecture est complètement différente.
Par voie de conséquence la hausse de la demande sur les GPU va rendre plus coûteux les produits qui en utilisent déjà, comme les consoles de jeux, les cartes graphiques et les systèmes embarqués sur les voitures modernes.
Puis on va voir l'IA s'immiscer en entreprise. Au départ elle effectuera des tâches certes importantes mais pas encore fondamentales. Par exemple, mettre en forme un rapport. Mais avec le temps et le développement de nouveaux outils, elle va pouvoir commencer à littéralement faire le travail d'un salarié.
Par exemple, Anthropic a développé le protocole MCP (Model Context Protocol). Il permet l'interaction avec un logiciel sans passer par l'interface utilisateur. Grâce à lui, l'IA n'a plus à découvrir un tableur et à cliquer sur des icônes comme le ferait un être humain. Il voit nativement le code, ce qui est beaucoup plus rapide. Si un logiciel est compatible MCP, alors il est possible de dire à l'IA de l'utiliser. Elle sera capable de passer des commandes, de piloter certains équipements, cela jour et nuit, 24 heures sur 24, et bien entendu sans demander de salaire.
Alors revenons à la question qu'on posait au début. Est-ce que l'IA va tout nous remplacer ? Où est-ce qu'elle ne sera qu'un progrès technique de plus, certes important, auquel l'être humain va simplement s'adapter ?
Avant de répondre, je précise que je suis du genre à voir le verre à moitié vide plutôt qu'à moitié plein. Je crains que nous allions vers une crise qui amènera ensuite des réformes sociétales très importantes.
Certaines professions sont déjà quasiment condamnées. Les traducteurs et les graphistes ne peuvent pas lutter, surtout pour les petits travaux ou les documents de faible importance. Seule survivra une minorité d'experts pour les cas difficiles où l'erreur est interdite, par exemple traduire un contrat dans lequel une virgule mal placée peut faire une différence.
Beaucoup de salariés commencent à confier une partie de leurs tâches à ChatGPT. Sur le moment, ils sont satisfaits, mais ce faisant ils démontrent eux-mêmes qu'ils ne sont pas indispensables à leur entreprise. Un jour ou l'autre, la question de leur remplacement s'imposera.
Toutefois le phénomène va être très progressif en raison du coût des infrastructures. Comme les modèles de type LLM nécessitent une énorme puissance de calcul et que les processeurs sont produits au compte-goutte, du fait d'un nombre de fondeurs très limité, ils ne pourront pas révolutionner le monde du jour au lendemain. Dans les premières années on aura l'impression qu'on arrive à vivre avec l'IA. Mais c'est dans une génération que les dégâts commenceront à se faire sentir.
L'impact à long terme
Revenons à la pénurie de GPU et de RAM. Dans une décennie, deux au plus, on peut penser que, face à une très forte demande, les ressources et la puissance de calcul auront augmenté. Les investissements sont très longs à se mettre en place. Il n'est pas possible de construire une usine de GPU en trois mois, encore moins une centrale nucléaire. Mais lorsqu'ils seront prêts, il sera possible de multiplier les services. C'est à ce moment-là que le salarié moyen commencera sans doute à entrer réellement en concurrence avec la machine.
Avec quelles conséquences ? Pour le comprendre, rappelons que si on détruit un grand nombre d'emplois, on détruit aussi des consommateurs. Faute de revenu, chaque personne licenciée voit ses dépenses s'effondrer, surtout dans les pays où il n'existe pas, comme en France, une forte protection sociale. Il en résultera une crise économique qui impactera autant les entreprises ayant recours à l'IA que les autres. Car si l'intelligence artificielle lui permet de produire moins cher, elle a toujours besoin de clients.
Cette double facette du travailleur-consommateur est malheureusement mal comprise. L'Union européenne par exemple a favorisé le libre-échange en considérant que les citoyens bénéficieraient d'une plus grande concurrence. Mais celle-ci a entraîné la disparition d'une grande partie de l'industrie au profit des acteurs les plus puissants, c'est-à-dire, en termes de qualité, les allemands et, en termes de prix, les chinois. La ruine de régions entières comme le nord-est de la France ou la Wallonie en Belgique, et le coût d'indemnisation de millions de chômeurs ont annulé complètement le bénéfice de cette politique, qui a abouti à de fortes tensions sociales chez les populations concernées.
Avec l'IA, on risque la même chose mais à la puissance dix. D'autant que le monde n'a pas que l'intelligence artificielle à gérer. Celle-ci viendra se télescoper avec les problèmes environnementaux, les conflits armés qui se multiplient, et les pénuries de ressources (hydrocarbures, terres rares, etc.).
Une chose pourrait paradoxalement jouer en sa faveur : le vieillissement de la population. Avec des millions de personnes âgées à prendre en charge, et une part des "jeunes" de moins en moins grande, tout ce qui remplace des humains est potentiellement utile. L'exemple du Japon, où on voit des robots dans les maisons de retraite, est très parlant. Mais il est encore bien trop tôt pour en être sûr.
Se pose aussi le problème de la dépendance. Non seulement l'IA va sans doute ruiner une partie de notre économie, mais ceux qui la contrôlent sont peu nombreux. Si des petits modèles pourront être installés ici et là pour des tâches limitées, les grands comme ChatGPT, Claude ou Gemini seront détenus par cinq ou six grandes entreprises dans le monde, en majorité américaines. Les autres pays devront se reposer sur des technologies étrangères.
Or qui dit forte dépendance dit levier de pression immense. Aujourd'hui l'Occident a un besoin vital de pétrole. Donc tout ce qui se passe dans les pays producteurs nous affecte. Si demain c'est d'intelligence artificielle, le gouvernement américain pourra exiger tout et n'importe quoi, sous peine de couper l'accès à sa puissance de calcul.
Il disposera aussi de l'énorme flux de données des gouvernements et entreprises étrangères qui passera par ses serveurs. Un pillage intellectuel massif sera alors possible. Une question qui se pose déjà pour les informations hébergées dans le cloud. Elle sera encore plus concrète avec l'IA.
Or une dépendance trop forte peut mener au conflit. À quoi bon la démocratie si votre gouvernement ne peut rien faire sans l'accord de Washington ?
C'est pourquoi le développement d'IA européennes est absolument indispensable. Et on pourrait même dire nationales, car si par exemple ChatGPT était allemand, on ne pourrait pas exclure le même type de chantage de la part de ce pays. La bataille pour les masques pendant le Covid a montré que la soi-disant solidarité européenne était une plaisanterie. Quand l'intérêt d'un peuple est en jeu, c'est chacun pour soi.
Pour l'instant, le seul européen d'envergure dans ce domaine est le français Mistral. Mais les lignes bougent vite et cette entreprise peut se faire dépasser très rapidement. Les vingt dernières années ont malheureusement montré comment les start-up françaises les plus connues ne tenaient pas la distance face aux américaines. On se rappelle de Viadeo face à LinkedIn, Dailymotion face à YouTube, etc.
Quel modèle de société avec l'IA ?
On a vu plus haut que l'intelligence ne devrait pas pouvoir refuser ce qu'on lui demande ou décider contre l'avis des humains. C'est d'ailleurs là un axe de réflexion important. Une intelligence artificielle intelligente, oui mais jusqu'à quel point ?
Au niveau militaire, les plus pessimistes imaginent un scénario à la Skynet, du film Terminator. Même si l'IA va aider à la prise de décision, je pense qu'elle va d'abord remplacer l'homme au niveau du soldat, c'est-à-dire le fantassin ou le pilote de chasse. L'avantage d'un robot sur le champ de bataille est évident : épargner des vies humaines.
Dans le ciel, les drones sont de plus en plus efficaces. Leur temps de réaction est infime. Ils ne sont pas affectés par la fatigue et surtout ils sont utilisables dès leur sortie d'usine. Au contraire, un Rafale ou un F-35 nécessitent un pilote qui a été formé pendant des années. S'il est abattu ou malade, tout cet investissement disparaît.
Et si on revient au contexte civil, comment gérer une population dont une partie, peut-être même la majorité, n'aura plus de travail ? Beaucoup parlent d'instaurer un revenu universel. Dans une société où l'IA et les robots effectueraient à peu près toutes les tâches, c'est-à-dire une société où peut-être 80% de la population ne trouverait pas à s'employer, on pourrait tout simplement payer ces gens... à ne rien faire.
Je trouve cette solution particulièrement dangereuse. Croire que des centaines de millions de personnes pourraient être oisives toute leur vie n'est pas seulement moralement discutable, c'est surtout mal connaitre la nature humaine. Ne pas travailler fait perdre la notion d'effort, de valeur, et par conséquent justifie les exigences les plus irréalistes. L'estime de soi est grandement affectée, ce qui encourage les comportements violents.
Ce monde serait à coup sûr le terreau de révolutions permanentes, portées par des politiciens qui réclameraient toujours plus de transferts vers les inactifs, et dénonceraient les "abus" de la minorité encore au travail. Tandis que cette même minorité, ayant le contrôle des l'IA et des robots, monopoliserait le pouvoir et verrait cela comme une contrepartie légitime au fait d'entretenir les autres.
Bref une société hautement instable. Est-ce vraiment cela que nous voulons ?