L'ère du doute
Avec l'intelligence artificielle, il est maintenant possible de créer n'importe quelle image, bande son ou vidéo en quelques clics. On peut générer une scène complète où apparaissent non seulement des inconnus, mais aussi des célébrités. Sur YouTube, on voit ainsi fleurir les scènes alternatives de films à succès, avec une qualité qui est devenue bluffante. Cherchez "Star Wars fan film" et vous verrez. C'est même de plus en plus difficile de distinguer le vrai du faux.
Or si ce travail est intéressant de la part de cinéphiles, il pose une question : que va-t-il se passer lorsque le réel et l'irréel seront totalement indiscernables ?
On a coutume de dire que l'IA va provoquer des scandales, car son utilisation à des fins malveillantes est inévitable. Il est clair que tôt ou tard de fausses vidéos ou enregistrements vont circuler, dans lesquels on verra ou entendra par exemple une personnalité politique connue tenir un discours contraire à celui qu'on lui connait habituellement. Ils seront accompagnés de l'inévitable commentaire "voici ce que X pense vraiment". Il y aura polémique. Après les joutes verbales, ce sera le temps des duels par trucages interposés.
Dans certains pays, notamment les plus instables, où vérifier une information est déjà difficile, cela pourrait même déclencher des révoltes, voire des révolutions.
Mais à plus long terme, lorsqu'on y sera habitué, il se produira un phénomène bien plus grave : la crise de confiance. Car aujourd'hui, notre monde moderne repose, entre autres, sur la capacité à prouver ce que l'on dit ou fait. Si un politicien parle à la télévision, on s'attend à ce que le son et l'image soient réels, car c'est là dessus que nous fondons notre opinion sur lui. Même chose pour la radio.
Or si le public sait pertinemment que toute vidéo peut être potentiellement fausse, et tout enregistrement audio généré informatiquement, alors plus aucune preuve ne sera recevable. Tout sera contestable et contesté. Le voleur filmé par une caméra de surveillance dira au tribunal que le commerçant a monté la scène de toutes pièces pour le faire accuser. L'homme politique qui regrette une déclaration bien réelle la niera avec aplomb, et accusera ses opposants de l'avoir fabriquée.
Les fausses vidéos (non je n'aime pas le terme "deepfake"), en détruisant la confiance, feront du mensonge la norme et non plus l'exception. Il y aura un doute perpétuel sur tout ce qui se voit et s'entend. On vivra dans un climat de suspicion total, où "est-ce la vérité ?" deviendra la question la plus courante.
Pour être exact, il existe des tentatives pour apporter une preuve numérique à une photo, une vidéo ou une capture sonore. C'est notamment le cas du protocole C2PA qui lui ajoute une sorte de certificat invisible. Mais encore faut-il que ce genre de sécurité se généralise.
Vous trouvez ce tableau pessimiste ? J'espère que vous aurez raison. Dans le cas contraire, il y aura fort à craindre pour la paix civile, et notamment pour la démocratie.
Car si l'on ne sait plus à quoi se fier, le risque est de revenir à des solutions radicales, à savoir le contrôle étatique total sur l'information. Quelques personnes décideraient de ce qui est vrai ou faux. Un scénario à la George Orwell qui marquerait la fin de la liberté.
Tout cela à cause de l'IA ? Décidément on n'en a pas fini avec cette révolution.