Le 1er août 2024, la commission européenne imposait son IA Act, texte réglementaire relatif au secteur de l’intelligence artificielle.
Dans ce texte aux allures de régulation, j’ai découvert l’article 50 qui dispose de la transparence des contenus générés par l’IA et en particulier oblige à informer explicitement les utilisateurs lorsqu’ils sont en interactions avec une IA et pour ce faire ce décret impose un marquage technique et visible (« watermarking » ou filigrane) sur tous les contenus générés comme les images, les sons ou les textes d’information d’intérêt général…
Et c’est en lisant ce récit que mon petit cœur d’écrivain écorché a eu un mouvement de panique !
Si le Diable se cache toujours dans les détails, j’ai pensé qu’il serait intéressant d’observer la méthode retenue par les grands producteurs d’AI pour mettre en œuvre cet article en particulier.
Pour marquer une image, un son, pas de problème, il suffit d’ajouter un marqueur dans la trame, difficile à repérer, sans impact pour l’affichage et le tour est joué.
Reste le cas du texte. Comment ajouter un filigrane pour le marquer et surtout sans le déformer ?
La réponse des têtes pensantes de l’IA n’a pas tardé. Dans un émouvant concert d’approbation, il a été décidé de mettre en œuvre un mécanisme qui lors de la production du prochain mot introduit un léger biais…
Laissez-moi être plus clair : les LLMs que nous connaissons (chatGPT, Claude, Gemini…) ne sont « que » des prédicteurs du prochain mot adapté à un contexte donné (ici votre question) et pour réaliser ce prodige, ils ont « appris » en aspirant la totalité de NOS données, sans notre autorisation (c’est dur à entendre mais c’est un fait).
À chaque étape de ce procédé très complexe (et très coûteux en eau et en électricité…) il existe un choix statistique entre plusieurs possibles. Ainsi le prochain mot ne sera pas le même si le contexte impose d’imiter Victor Hugo ou de s’adresser à un enfant ou un adulte.
Pour ajouter leur filigrane, les sociétés d’IA ont donc décidé d’associer à chaque texte produit une clé et selon cette clé de « biaiser légèrement» les choix issus du modèle de base.
Laissez-moi présenter un exemple simple pour mieux comprendre. Imaginons que vous deviez rédiger un article pour un journal sur le thème (imposé) « les élections à venir » (c’est un exemple). Imaginons que pour vous assurer que d’autres éditorialistes n’empruntent pas vos textes, vous choisissiez plutôt du vocabulaire contenant des « a ».
Ainsi « les prétendants discuteront en public » devient « les candidats s’affronteront en primaire». Dans le premier cas, le texte utilise un seul « a » pour 33 lettres soit 3 %, 4 dans le deuxième pour 37 lettres soit 11 %. or la langue française utilise en moyenne entre 7,6 et 8,1 % de « a ». Votre texte est donc identifiable et cette méthode permet de marquer le texte pour répondre à la directive européenne.
Il suffit ensuite de créer un détecteur, de lui donner cette clé (11%) et de vérifier si un texte contient ou non cette déviation, et s’il la contient, qualifier cette déviation entre 0 et 100 %
Magique ! Parfait ! Génial !
J’ai failli applaudir des deux mains cette superbe avancée technologique quand j’ai senti un curieux malaise… qui m’a décidé à effectuer le test suivant : Et si je testais n’importe quel texte avec ce détecteur infaillible ?
Résultat, l’IA considère qu’il existe un biais dans la plupart des textes, y compris dans ceux rédigés bien avant qu’elle ne déboule dans le monde des outils grands public.
Et ce n’est pas une vraie surprise, puisque tous les auteurs français s’expriment avec des mots en français articulés en phrases cohérentes ayant un sens. Comme l’IA en somme… et donc TOUS nos textes contiennent une déviation qui représente le style qui nous est propre et qui nous définit en tant qu’auteur.
Les sociétés d’IA en imposant cette méthode et surtout leurs propres détecteurs, ne répondent pas seulement à l’article 50 de l’IA Act, en réalité ils notent nos textes en fonction des biais ! Plus un texte est originale — et je crois sans juger de l’affaire Thélyson Orélien que son texte est pour le moins original ! – plus il contient de biais et il monte dans leurs scores !
L’autre « conséquence » de ces filigranes est (beaucoup) moins amusante. Lorsque un détecteur déclare qu’un texte a été rédigé à 100 % par une IA, cela signifie que ce texte, ces phrases, ces mots « auraient pu » être écrits par une IA et non pas « ont été » écrits comme dans le cas d’un plagiat. Nous avons donc affaire à une nouvelle forme de délit : « le plagiat à priori » et pour me résumer cela consiste à autoriser les IA à privatiser les mots en s’arrogeant la propriété future de tous les textes possibles ET à nous imposer de façon totalitaire de ne pas écrire « comme elle » au risque de passer pour un usurpateur sans le moindre droit de réponse à ce nouveau système d’inquisition !
L’IA qui pille hors de tout contrôle l’ensemble des textes de l’humanité, vient de nous interdire d’écrire à terme puisqu’il lui suffira d’affirmer que NOS nouveaux textes sont possiblement écrits par « elle » — en se fondant sur nos anciens textes qu’elle détient à notre insu — pour nous reléguer aux rangs de vils plagiaires « à priori ».
Pour le décrire d’une autre façon : Sachez qu’à partir de maintenant, il ne suffira plus d’être à l’origine d’un texte pour en être l’auteur, il faudra également montrer à l’aide d’un détecteur défini par l’IA que nous n’avons pas utilisé l’IA pour l’écrire et que donc l’IA n’est pas à l’origine (et donc le propriétaire ?!) de notre texte en renversement complet de la force de la preuve !
Je vous laisse juge de ce que vaudra notre (misérable) parole face à des sociétés qui pèsent plusieurs trilliards ou mieux encore imaginer qui sera en charge de rétablir la notoriété d’un auteur face à un faux positif.
Mais je m’égare, le progrès en en route et il est vain de vouloir réfléchir avant d’agir. Comme le soulignait Jules César, avant de franchir le Rubicon et de pénétrer dans Rome : Alea jacta est…