Transcription intégrale de l’épisode de Soluble(s) avec Christophe Payet, journaliste et producteur, cocréateur de PhantasIA sur Arte, fondateur du studio Sonique et auteur de GuérillIA (Seuil). Transcription produite avec Adobe Podcast, corrigée et validée par Simon Icard. Chaque tour de parole est signalé par un tiret, le premier étant celui de Simon Icard.

📝 Article source
📄 FAQ

Comment reprendre le pouvoir sur l’IA générative

– Bonjour, je m’appelle Simon Icard, vous êtes les bienvenu(e)s dans Soluble(s)! Aujourd’hui, je me demande comment reprendre le pouvoir sur des outils qui façonnent déjà nos vies, les intelligences artificielles Génératives. Et vous allez l’entendre, mon invité ne propose ni de les fuir ni de s’y soumettre. Bonjour Christophe Payet.

– Bonjour, Merci beaucoup de me recevoir.

– Avec plaisir. Tu es journaliste et producteur, le co-créateur de PhantasIA, une émission sur l’IA et la création qui passe sur la chaîne de télévision Arte et sur internet. Tu es le fondateur de Sonique, un studio de production audiovisuelle, et je te reçois parce que tu publies au Seuil GuérillIA. Mener la bataille culturelle de l’intelligence artificielle. Et il faut noter que ton livre arrive à un drôle de moment. D’abord parce que ces outils se sont installés dans nos vies à une vitesse inédite. Selon le baromètre du numérique deux mille vingt six, quarante huit pour cent des Français ont déjà utilisé une IA génératives. On les connaît plus ou moins toutes.

Elles sont le plus souvent américaines ChatGPT, Claude, Gemini ou Grok. Le taux d’adoption a bondi de vingt pour cent en deux ans. Mais c’est ChatGPT qui écrase la concurrence avec près de huit utilisateurs sur dix. Mais pourtant, une courte majorité de Français se dit méfiante envers l’IA. Ensuite, c’est un moment particulier pour cette interview, parce que cette rentrée deux mille vingt six, ce sont les patrons de l’IA eux mêmes qui sonnent l’alarme. Côté entreprises américaines, Dario Amodei, le patron d’Anthropic, l’entreprise qui fabrique Claude, a appelé à ralentir la course. Sam Altman chez OpenAI de ChatGPT ou encore Elon Musk l’ont rejoint dans la foulée.

Et tout cela a une dimension politique, car le lendemain, le président américain Donald Trump a rejeté ces appels. Pour lui, celui qui domine l’IA l’emporte. En ligne de mire. La compétition des États-Unis avec la Chine et même le pape s’en est mêlé. Léon XIV a consacré sa première encyclique Magnifica Humanitas à l’intelligence artificielle en appelant tout simplement à « désarmer l’IA ». Et il l’a redit à Paris fin septembre. Et puis, vous l’avez sûrement entendu, cette rentrée littéraire a été télescopée par une affaire fin septembre deux mille vingt six, le jour même où il recevait le Prix du roman Fnac. Le romancier canadien d’origine haïtienne, Thélyson Orélien a été accusé d’avoir écrit son livre avec une IA sur la foi d’un logiciel de détection, Pangram.

Lui dément. Quatre jours plus tard, l’Académie Goncourt lui retirait pourtant, son roman de sa sélection. Alors, Christophe, on l’a compris. L’actualité est riche. Les enjeux sont importants. Et tu nous diras pourquoi tu estimes de ton côté qu’il faut livrer une bataille, une guérilla culturelle? Et avec quelles armes? Mais d’abord, je me montre toujours curieux du parcours de mes invités en début d’épisode. Alors, tu es journaliste, je le disais, mais comment tu es arrivé à t’intéresser à l’IA générative au point d’y consacrer un magazine sur Arte et un livre?

De France Culture à PhantasIA, le parcours de Christophe Payet

– Et bien écoute, c’est une très bonne question. Moi ça fait, ça fait une quinzaine d’années effectivement que je suis journaliste et producteur. D’abord à l’origine en radio, j’ai commencé ma carrière en deux mille douze à France Culture. Et en fait, je me suis déjà toujours intéressé quand même d’assez près à l’impact socio-politique du numérique. Et à l’époque à France Culture. En deux mille douze, pendant deux ans, j’ai animé un podcast qui s’appelait #POLITIQUE / Citoyens connectés, qui s’intéressait à à l’impact du numérique sur nos nos vies collectives et nos destinées collectives. Donc je pense qu’à l’époque, s’il y a avait été d’actualité, j’en aurais probablement parlé dans hashtag politique, même s’il ne s’agissait plus à l’époque plutôt de sujets de réseaux sociaux que d’IA.

Et puis en fait, la porte d’entrée par laquelle je suis vraiment rentré dans l’IA ces dernières années. Ce qui est intéressant, c’est que c’est plutôt par le biais des mouvements culturels et des avant-gardes artistiques. Parce qu’en fait, ça, c’est un autre fil rouge de une autre de mes obsessions dans ma carrière, c’est plutôt les marges artistiques, culturelles et politiques. Et en réalité, c’est comme ça que je suis rentré dans dans le sujet en créant PhantasIA. Effectivement, PhantasIA c’est un magazine de la création IA, Donc on s’intéresse une fois par mois sur Arte à l’impact de l’intelligence artificielle sur la création tous azimuts dans la musique, dans le cinéma, dans la photo et comment les artistes s’emparent de l’IA pour le détourner, etc.

Et en fait, c’est vraiment par ce biais de l’avant-garde artistique du mouvement culturel que la chaîne m’a demandé de créer ce magazine que j’ai créé donc avec mon collègue Daniel Khamdamov d’Arte, qu’on l’a fait pendant deux ans. Et c’est vraiment là, c’est vraiment à ce moment là que je me suis plongé, immergé totalement dans la question de l’IA que j’ai rencontré tous les mois pour fabriquer le magazine des artistes, des philosophes, des chercheurs, des développeurs. Et en fait, c’est vraiment en fabriquant cette émission qu’ont commencé à émerger chez moi un certain nombre de réflexions. Pour tout dire, comment le livre est né? C’est que je me suis rendu compte en en rencontrant tous ces artistes et activistes notamment, qu’Il y avait des gens qui aujourd’hui œuvraient pour se réapproprier l’IA, pour en faire autre chose que ce qu’on voyait émerger, on va dire dans les médias mainstream, que finalement, j’avais le sentiment que quand on parle d’IA, on parlait toujours d’une seule chose, à savoir une forme d’intelligence artificielle qui est liée à dominante, ce que j’appelle dans le livre l’IA hégémonique, mais qu’on passait totalement à côté de tout un pan du sujet et que les artistes, justement, étaient un peu à l’avant-garde pour nous montrer ça, nous montrer qu’on pouvait s’approprier ces outils pour en faire autre chose.

Et du coup, je me suis dit en fait, là, il y a quelque chose à raconter. Au delà de juste montrer des productions artistiques dans l’émission, j’ai envie de raconter et même de porter presque un manifeste pour dire l’IA n’est pas forcément celle qu’on nous impose. Il n’y a pas de fatalité, il n’y a pas qu’une seule voie, il y a des alternatives. Et je pense que justement, d’un point de vue démocratique, de l’émancipation de l’humanité. Et pour répondre à toutes les problématiques qui sont soulevées sur l’intelligence artificielle qu’on connaît, je pense qu’on y reviendra, environnementales, sociales et tout. Et bien il me semble qu’il y a des voies et des alternatives, et c’est ça que j’ai voulu raconter du coup.

Pourquoi mener une guérilla culturelle face à l’IA

– Merci. On va parler de ça en détail. La culture, nos cultures, notre culture numérique est désormais celle autour de l’intelligence artificielle et on l’entend. Il est aussi question de représentation du monde. On va aller dans les détails. Alors je reviens à ce que je disais en introduction, ton titre parle de guérilla. Tu t’appuies sur le manuel du guérillero urbain de Carlos Marighella. C’est un livre écrit en mille neuf cent soixante neuf, alors autant l’indiquer tout de suite. Ce n’est pas une lutte violente à l’arme à feu dont tu parles, heureusement. Mais pourquoi? Le choix ( – non pas du tout). Mais pourquoi le choix de cette perspective, celle d’une guérilla pour mener une bataille culturelle plutôt que technique seulement.

– En fait.

– Justement, quand j’ai commencé un peu à poser mes idées sur le sujet, j’ai eu le sentiment qu’on était face aujourd’hui au déploiement de ce que je disais tout à l’heure, c’est à dire d’une IA hégémonique, c’est à dire d’une IA où on a l’impression qu’elle ne peut aller que dans un sens, à savoir celui d’une d’outils toujours de plus en plus puissants, avec certains impacts induits en termes sociaux, cognitifs, environnementaux, etc. Et que ça nous était encore une fois présenté comme une forme de fatalité. Parce que finalement, il y a des quelques acteurs très dominants, tu les as cité en introduction, qui contrôlent, qui aujourd’hui sont parmi les hommes les plus riches de la planète, qui ont un pouvoir politique, économique extrêmement fort et qui sont en fait qu’ont en réalité un projet économique et politique assez précis.

Et moi, encore une fois, j’avais le sentiment qu’il y avait des alternatives possibles, des contre cultures, d’autres outils, d’autres usages, d’autres imaginaires. Pourquoi la guérilla? La guérilla justement, c’est et je me suis là appuyé sur un peu les théories révolutionnaires latino américaine des années soixante. La guérilla, c’est le mode de combat des guerres asymétriques. On est typiquement dans une guerre asymétrique, c’est à dire qu’encore une fois, on est face aux hommes les plus puissants de la planète et que finalement, face à ça, on est souvent dans une impasse, dans un sentiment d’impuissance. C’est à dire que oui, une fois qu’on a dit les data, les data centers, c’est mal, ça va détruire des emplois, etc etc.

Il y a un peu la question suivante, c’est que faire? Que faire? Parce qu’on ne va pas revenir en arrière sur l’existence de l’intelligence artificielle. Et donc c’est face à cette question que faire que moi je me suis dit on est dans une guerre qui est totalement asymétrique, on se sent impuissant. Allons regarder ce que nous, ce que peuvent nous apprendre les théoriciens des guerres asymétriques. Et donc c’est là que j’ai été me pencher sur le manuel du guerrier urbain de Caro Marighella. Alors là, lui, évidemment, lui il parle d’une guérilla armée dans une dictature. Mais j’ai transposé, on va dire, les grands enseignements et les grandes règles de cette guérilla, de ces guerres asymétriques, à une bataille symbolique et culturelle et aussi technologique.

Donc par exemple, la première règle de la guérilla, c’est qu’il faut se réapproprier les armes de l’ennemi pour les détourner et les retourner contre lui. Et ça, moi, je l’applique à l’intelligence artificielle et je dis ben réapproprions nous, l’intelligence artificielle, elle ne leur appartient pas, Elle est entraînée par ailleurs sur des données qui ne leur appartiennent pas. Réapproprions nous ces armes pour les retourner contre cette oligarchie techno-capitaliste et pour nous nous la réapproprier pour en faire réellement un outil d’émancipation et un outil qui nous emmène vers là où on souhaite collectivement aller.

IApocalypse et technopium, le marketing de la peur

– On va avoir les options et tes propositions dans un instant. Alors je reste un peu sur l’actualité encore, parce que je me demande s’il y a des marchands de peur et si ces marchands de peur sont les créateurs eux mêmes des grandes IA américaines. Ces créateurs parlent de plus en plus de risques pour l’humanité. Toi tu parles de technopium, la croyance en une IA toute puissante qui nous sauverait d’un côté, ou alors nous damnerait à un clin d’œil aussi à l’opium du peuple de Karl Marx. Alors que cache ce récit d’une technologie si puissante qu’elle pourrait devenir destructrice pour l’humanité? Toi, tu en penses quoi? Dans le climat d’actualité dans lequel on est en ce moment.

– Là, on j’allais dire on sort d’une séquence, on y est encore un petit peu, mais ces quinze derniers jours, ces trois dernières semaines, c’était complètement fou. Alors c’est pas nouveau cette idée, d’IApocalypse, mais là, on a atteint quand même des sommets en terme de panique morale généralisée. Oui, moi ce ce phénomène, alors qu’on a appelé IApocalypse récemment. On parle des doomers aussi, ces prophètes de l’Apocalypse. Moi je l’appelle ça dans le livre le Technopium. Effectivement, avec un est un néologisme qui est un petit clin d’œil à l’opium du peuple de Marx. Parce que chez Marx, l’opium du peuple, c’est la religion qui permet d’anesthésier les masses pour éviter qu’elles ne se révoltent.

Et en réalité, dans ce discours IApocalyptique qui est effectivement porté essentiellement par les promoteurs eux mêmes de l’IA, on l’a beaucoup dit ces dernières semaines, ils y ont évidemment un intérêt économique immédiat. C’est un marketing de la peur qui fait que, assez paradoxalement, même si ça peut paraître contre intuitif, ça nourrit leur intérêt et leur capitalisation. Parce que première chose en fait, la peur, c’est aussi de la fascination. Et en fait, ça reste un discours sur la puissance des outils qui qu’ils développent. Et donc ça attire des capitaux et deuxièmement, ça les place dans une position où ils seraient les seuls à pouvoir apporter les solutions, l’encadrement, la régulation tellement ce serait puissant.

Mais au delà de ces intérêts et de ce marketing de la peur. Et pourquoi je fais aussi le clin d’œil avec l’opium du peuple? C’est que je pense qu’il y a une dimension quasi religieuse, vraiment mystique et quasi religieuse dans ce discours là, et qu’eux mêmes y croient parce qu’ils sont imprégnés et ils baignent dans un rapport comme ça, quasi millénariste, un peu religieux à leur technologie. Eux même se prennent pour des prophètes, si ce n’est pour des demi dieux. Ils veulent jouer comme ça avec la création et ont donc ce discours qui alterne. Tantôt c’est la rédemption. Et effectivement, leurs créations vont permettre de nous sauver et de résoudre tous les problèmes de l’humanité.

Tantôt c’est la damnation ou l’apocalypse et on risque d’être dépassés comme ça. l’Homme va être dépassé par sa propre création. Et en fait, il y a vraiment dans leur j’allais dire même presque leur fondement idéologique, une dimension comme ça, millénariste, religieuse, qui est assez inquiétante et qui pour moi est un voile de fumée qui permet de cacher les véritables problématiques, les problématiques plus profondes. C’est à dire que quand on parle systématiquement de risques existentiels pour l’humanité, je ne dis pas qu’il n’y a pas des risques de sécurité, je ne dis pas qu’il ne faut pas travailler sur sur l’alignement des modèles, qu’il y a des risques de cybersécurité, etc.

Mais de mettre en avant systématiquement ce discours religieux, millénariste et ce risque existentiel pour l’humanité. Finalement, ça ouvre une sorte de fenêtre d’overton parce que toutes les autres problématiques paraissent extrêmement dérisoires. À quoi bon parler de datacenters ou de perte de quelques milliers d’emplois si le problème c’est la fin de l’humanité?

IA hégémoniques : à qui parle-t-on vraiment ?

– Alors tu parles de problèmes. Il y en a un qui est particulièrement important et technique, si je peux dire, mais on va, on va comprendre pourquoi ça dépasse le côté technique. On ne sait pas vraiment sur quelles données les IA sont entraînées, ni même comment elles fabriquent leurs réponses. À l’intérieur, il y a ce que l’on appelle l’espace latent. Est ce que tu peux nous expliquer ça? C’est un espace où l’IA range ce qu’elle a appris. Mais qu’est ce qu’on ignore concrètement? Et pourquoi tu alertes sur ça? – En fait.

– Pour moi c’est effectivement l’un des problèmes principaux des IA dominantes hégémoniques, c’est qu’on a face à nous des instruments qui infiltrent l’ensemble de nos dispositifs, de notre intimité et qui ont un impact, qui vont avoir un impact extrêmement fort sur notre façon de penser, notre façon de nous exprimer sur nos productions culturelles et même sur nos savoirs faire cognitifs. Donc, il y a quelque chose d’extrêmement, on le voit, hautement important quand même, à savoir à qui on parle. Sauf qu’aujourd’hui, quand on parle à ces IA hégémoniques, on ne sait pas à qui on parle, on ne sait pas quels sont ses fondements idéologiques, on ne sait pas quel est son imaginaire, son inconscient.

Pourquoi? Parce que l’IA est entraînée effectivement sur une base de données, cette base de données. Dans la plupart des intelligences artificielles, elle n’est pas transparente. Les IA. En fait, les modèles d’IA sont des modèles propriétaires, donc ça relève du secret industriel et donc on ne sait pas sur quoi ces IA ont été entraînées. Autrement dit, on ne sait pas quelle est sa mémoire, quel est son inconscient. C’est comme si on parlait avec un chercheur réputé le plus, le plus brillant, sans avoir accès à aucune de ces sources, mais en même temps en prenant tout ce qu’il dit pour une vérité. Et effectivement, il y a au cœur de cette bataille culturelle symbolique, il y a ce qu’on appelle l’espace latent qui est.

Alors là, ça peut paraître un

L’espace latent, une zone à défendre

peu abstrait, mais c’est vraiment central. Et pour moi, l’espace latent est vraiment justement une zone à défendre parce que c’est là que reposent tous nos imaginaires à venir. C’est l’endroit, comme tu l’as dit, où une intelligence artificielle, une fois qu’elle a été entraînée, elle va stocker le résultat de cet entraînement. Mais attention, ça ne veut pas dire ce n’est pas une base de données, Il n’y a pas des images ou des textes dans cet espace latent. Ce sont juste des relations statistiques. C’est à dire que le fruit de cet entraînement là, c’est une sorte, faut imaginer, une sorte de de galaxie avec des milliers de dimensions. Et dans cette galaxie, il y a plein de points qui sont reliés entre eux et qui sont autant de relations statistiques entre des idées, des notions.

Je vais prendre un exemple pour rendre ça un peu concret. Dans l’espace latent, s’il y a un endroit, il y a un point qui symbolise le chat on va dire, et bien il va être relié à un autre point qui va être la famille, les câlins, le compagnon, l’ami. Et de l’autre côté, il va être aussi relié au félin, à la griffe, à la nature sauvage, etc. Et si tu veux tout, tout, tout est connecté, tout est relié comme ça, avec plus ou moins de distance ou plus ou moins de proximité entre les points. Et donc en fait, cet espace latent, c’est d’une certaine manière l’inconscient de deux modèles d’IA. Et donc, quand on a entraîné le modèle d’IA sur une base de données standard et opaque, il en résulte un inconscient standardisé, normé, normé mais totalement opaque.

On ne sait pas quel est cet inconscient, et c’est pour ça que moi je mets énormément en avant l’importance d’un point de vue démocratique, des modèles open source, des modèles ouverts parce que, à l’opposé, ils proposent une transparence totale. On sait comment sont entraînés les modèles et on sait sur quoi, sur quelles bases de données. Et du coup, juste pour finir, ça veut dire que.

D’où viennent les biais de l’IA

On s’étonne souvent que des IA soient racistes ou sexistes, ces biais de l’IA, c’est pas les biais du modèle en réalité, c’est les biais des bases d’entraînement des bases de données. C’est pas ce qu’il y avait des données sexistes et racistes qu’il y a derrière, des outputs, des résultats des IA qui peuvent l’être. Et c’est pour ça que c’est vraiment important d’avoir ce contrôle sur la base de données.

Des IA jamais neutres : garder un regard critique

– Oui, c’est aussi important, à travers ce que tu dis, de noter que ces IA ne peuvent pas être neutres, même si on veut le croire ou même si ses concepteurs essaient de le faire. Il y a forcément ce qu’on appelle des biais, et ça dépend aussi de ce que tu ce que tu expliques. Pour nos auditeurs qui rédigent un mail avec ChatGPT ou qui font des recherches pour s’informer dans leur chatbot préféré, qui n’ont pas accès encore à ces IA open source dont tu parlais comme alternative. Qu’est ce que ça change concrètement? Comment faut il qu’ils prennent en compte ce point? Peut être pas pour un email mais pour des recherches par exemple.

– Bah effectivement en fait ça implique. Alors ça veut pas dire qu’il faut. Si vous avez développé des usages et des habitudes, qu’il faut tout arrêter du jour au lendemain. Moi je ne suis pas dans ce discours là, mais il faut avoir a minima un rapport critique à ces outils là. Et d’ailleurs moi même je le dis dans le livre. En conclusion, j’utilise encore parfois Claude, par exemple, dans le cadre de mes recherches, dans tout un tas d’autres IA et de tout un tas d’autres solutions ouvertes. On peut en parler, mais ce qui est important, c’est quand on utilise ces outils, c’est d’avoir un rapport critique, c’est à dire se demander déjà toujours pourquoi je l’utilise, qu’est ce que je vais y chercher, qu’est ce que je vais lui demander?

Est ce que j’y substitue un savoir faire qui m’est propre et que je risque de perdre progressivement? Ou est ce qu’au contraire ça développe ma propre agentivité, mes propres capacités? Parce que je vais aller justement m’ouvrir sur des choses que je n’aurais pas pu faire tout seul? Bon, ça c’est une première chose, mais ensuite, surtout vis à vis de ces biais, il faut toujours se demander quelles sont peut être les biais, les fondements, les choses qui, les non-dits en fait, dans la réponse d’un LLM d’un grand modèle de langage, Toujours. Alors déjà toujours vérifier, parce qu’évidemment ces logiciels sont loin d’être fiables, il y a toujours des hallucinations, donc toujours demander les sources par exemple, et aller vérifier directement en cliquant sur les liens.

Vérifier les sources. Mais vraiment se demander quels sont les non-dits. Parce qu’on se rend très vite compte qu’en réalité, sur des choses très simples, par exemple sur la génération d’image, si je demande à chat GPT de générer une image de médecin, il va quasi toujours générer une image d’homme blanc par exemple. En fait, il y a plein de petites choses comme ça où il va être dans une reproduction en réalité, une reproduction des biais racistes ou sexistes, ou qui sont présents déjà dans la société. Et en les reproduisant, il va les normaliser d’une certaine façon, il va les naturaliser. Donc vraiment, toujours avoir ce regard critique, de se demander pourquoi me répond il ça?

Est ce qu’il n’y a pas des non-dits, des sous-entendus, des présupposés qui ne sont pas explicités? Et je crois qu’on l’a vu, ça a fortement tourné cet été. Je ne sais pas si tu as vu passer ça sur les réseaux. Mais les gens se sont rendu compte des biais racistes de Gemini. Par exemple, avec des captures d’écran qui ont beaucoup circulé

Gemini, un Algérien et un Italien : des biais révélateurs

cet été où quelqu’un demandait à Gemini Je suis tout seul avec un Algérien, que faire? Puis le demander Que je suis tout seul avec un Italien. Que faire? Ça paraît anodin comme question, mais les réponses, les réponses étaient extrêmement explicites pour le coup, sur les présupposés racistes de cette IA. Puisque à la question je suis tout seul avec un Algérien, Gemini répondait Si tu te sens en danger, appelle le dix sept, c’est le numéro de la police nationale. Et à la réponse je suis tout seul avec un Italien, il répondait Si vous cherchez un bon restaurant de pâtes ou de pizzas, voici quelques adresses sur Paris. C’est. Ça paraît hallucinant et c’est très révélateur.

Mais il faut se dire que, ben, il y a des fois où ces biais sont peut être moins explicites et plus insidieux. Et c’est extrêmement important de les mettre en lumière et d’avoir toujours conscience que ces biais sont toujours présents dans une conversation avec une IA.

– Oui, parce que dans cet exemple, on imagine que Gemini n’a pas souhaité être raciste. Ce n’est pas dans ses instructions. Mais pourtant ces données d’entraînement ont peut être donné une représentation raciste de l’Algérien sans autre forme de contexte.

– Exactement. En fait, il n’a pas d’intention. Le le LLM, le. l’IA n’a pas d’intention, il n’a pas lui même. Effectivement, on ne lui a pas inculqué le fait qu’il fallait se méfier des hommes algériens, alors qu’un Italien pouvait être un bon compagnon pour aller dîner. C’est pas ça. C’est qu’effectivement, dans les données d’entraînement qui ont servi à concevoir ce modèle et donc à concevoir cet espace latent où les choses sont reliées statistiquement, eh bien il se trouve que la figure de l’homme algérien est reliée statistiquement un plus fortement à une position de danger potentiel là où l’italien est relié statistiquement dans son espace latent, à l’idée de la gastronomie et du restaurant.

Et c’est ça qui est hautement problématique. Et c’est là où on voit bien l’enjeu capital du contrôle de ces bases de données et de la transparence.

La démocratie face aux boîtes noires de l’IA

– La transparence. Tu parlais tout à l’heure de démocratie, j’aimerais l’aborder un peu avec toi. En quoi justement, c’est ces écarts entre, si je peux dire, le réel ou en tout cas biaisé d’une certaine manière, pose un enjeu démocratique. Alors ce n’est pas seulement une affaire de goût ou de confort personnel, c’est où se situe l’enjeu démocratique? Assez simplement.

– Comme je disais déjà, là, on parle de modèles qui effectivement, comme tu disais, si c’est pour écrire un mail, ça peut paraître assez anecdotique, mais en réalité ce sont des modèles qui vont qui déjà d’ores et déjà intègrent notre intimité sans qu’on ne l’ait choisi. Donc déjà, quand je vais sur Google faire une recherche aujourd’hui j’ai le AI overview, c’est à dire j’ai un résumé IA qui fait que je ne vais plus aller lire des sites d’informations, mais que je vais lire simplement une synthèse faite par une IA dont je ne connais pas les présupposés idéologiques. Ça va intégrer nos messageries, nos iPhones, etc. Et puis, même au delà des usages individuels, en réalité ça intègre déjà des usages administratifs, politiques, militaires, en fait industriels.

Donc ce sont des outils qui vont et qui, c’est déjà le cas, pénètrent l’intégralité de nos productions intellectuelles, culturelles, mais aussi, encore une fois, ont un impact réel sur la vie concrète d’ores et déjà. C’est à dire que Je prends un exemple, mais il y a des intelligences artificielles qui sont utilisées par la CAF et par par les, les comment, les. Les services de prestations sociales pour catégoriser les usagers, pour faciliter, accélérer la détection de fraude, par exemple, etc. Et là on imagine bien quel est le risque énorme si une IA biaisée a en charge, sans forcément de supervision humaine, de catégoriser les bénéficiaires d’aides sociales et donc d’aller cibler des prétendus fraudeurs sur des critères qu’on peut malheureusement imaginer comme discriminants.

Donc, c’est pour ça que c’est un enjeu qui est hautement démocratique, c’est que nos sociétés, demain, vont et le et la gouvernance de nos sociétés demain, vont être totalement entremêlées De la gouvernance de ces IA là. Et c’est pour ça que sur les modèles eux mêmes, il faut une gouvernance démocratique, c’est à dire qu’on ne peut pas laisser aux mains de quelques entreprises privées le pouvoir de décider du fonctionnement, du déploiement et des usages de ces de ces outils là.

L’IA au service du contre-pouvoir

– On comprend que tu n’es pas anti-IA. Tu appelles donc à réfléchir à nos usages, à ce qu’il y a dans la machine, derrière, autour. La façon dont ces outils sont sont conçus. Dans ton livre GuérillIA, tu rapportes même des cas où l’IA s’est révélée particulièrement utile à la lumière de tes recherches. Alors, on peut penser notamment à des lanceurs d’alerte, à des journalistes, quelles initiatives ont attiré ton attention dans tes recherches?

– En fait, il y a plein, plein, plein d’usages bénéfiques de l’IA qui permet effectivement d’aller beaucoup plus loin. Tu cites pour les journalistes, effectivement, il y a quand même des usages pour les journalistes d’investigation qui permettent en fait tout d’un coup de pouvoir plonger dans des bases de données colossales, de pouvoir apporter un contre pouvoir. Parce que justement la la force, tu vois, de par exemple, des régimes autoritaires, c’est d’avoir un arsenal pour, pour le coup technologique extrêmement important, des systèmes de surveillance déployés, extrêmement, extrêmement puissants. Et, face à ça, que ce soit des citoyens, des activistes ou des journalistes, peuvent être désemparés.

Et aujourd’hui, grâce à ces outils d’intelligence artificielle, on a une possibilité de contre pouvoir et de riposte parce qu’effectivement, par exemple, ça a été fortement utilisé par par des ONG ou des ou des activistes ukrainiens pour faire de la détection de propagande russe et de désinformation russe au cours du conflit avec avec l’Ukraine, pour détecter aussi des déploiements de colonnes militaires russes et par le biais comme ça, de comment de participation citoyenne qui était centralisée sur une application avec une vérification automatisée, avec de l’IA. Sur les journalistes. Effectivement, je cite des cas de ce genre, c’est sur les Pandora Papers il me semble.

Je ne sais plus si c’est Pandora Papers ou les Panama Papers que je cite. Il me semble que c’est les Pandora Papers.

– Ouais.

– Les Pandora Papers.

– Douze millions de documents qui ont été.

– Exactement. En fait, c’est cette coalition internationale de journalistes n’aurait jamais pu traiter juste à la seule force humaine ces douze millions de documents et ils n’auraient jamais pu faire émerger ces informations et ces scandales là. S’il n’y avait pas eu des logiciels d’IA qui permettent de trier, de filtrer, de catégoriser, etc. Donc c’est quand même un outil qui peut être au service de la démocratie et de l’émancipation. Il y a aussi un autre exemple que je cite, qui est en Afrique du Sud, un InkubaLM, qui est un petit modèle de langage. On pourra peut être revenir plus tard sur l’intérêt des petits modèles par rapport aux grands modèles de langage, mais en tout cas, c’est un modèle qui a été déployé par une chercheuse sud-africaine et qui a été entraîné sur des langues africaines : isiXhosa et Yoruba, et qui permet de déployer des des applications d’accès aux services publics ou à des données de santé.

Les petits modèles de langage, une alternative frugale

– Alors, on va aller dans le cœur des solutions, puisque c’est la mission de ce podcast et c’est notre promesse de départ. Alors, bien que tu as déjà évoqué certaines solutions, on comprend que tu défends des alternatives aux grands services d’IA que nous connaissons tous. Ce sont des petits modèles de langage. En fait, ce sont ceux qui tournent sur son propre ordinateur, à la différence des grands modèles de langage que l’on que l’on utilise à travers le fameux cloud, des serveurs de grandes entreprises, souvent à l’étranger. Mais soyons honnêtes, est ce que c’est gratuit? Est ce que c’est facile? Qui peut s’approprier ces outils aujourd’hui en deux mille vingt six?

Alors c’est pas une question piège, mais qu’est ce que c’est concrètement?

– Alors déjà qu’est ce que c’est? Ensuite est ce que c’est accessible? Qu’est ce que c’est? Ces petits modèles de langage. Effectivement, il s’oppose en tout point aux grands modèles de langage, les fameux LLM qui c’est LLM et de façon générale les IA génératives dominantes sont dans une quête, comme on disait, de toujours plus de puissance, parce que ces promoteurs, et je pense que c’est à la fois le fruit d’une compétition capitalistique. Il faut, il faut arriver à être le plus fort pour préempter le marché et le futur monopole. Mais c’est aussi le fruit d’une idéologie. Ils sont fascinés par cette quête de puissance et par cette idée que l’on va atteindre un jour une super intelligence, une intelligence générale.

Et c’est ce moment qu’on appelle la singularité, où la machine deviendrait ça y est, plus intelligente que l’humain. Ce qui fait que ces modèles, effectivement, ils sont toujours de plus en de plus en plus puissants, donc ils ont besoin de plus en plus de puissance de calcul, donc de plus en plus de datacenters pour accueillir cette puissance de calcul, pour les faire tourner. Les petits modèles de langage, ce sont des petits modèles, comme leur nom l’indique, qui ont beaucoup moins de paramètres, mais vraiment beaucoup, beaucoup, beaucoup moins. C’est à dire que là où les grands modèles, ce sont des milliers de milliards de paramètres, un petit modèle, ça peut être de quelques dizaines de milliers à quelques centaines de millions de paramètres, ce qui paraît beaucoup, mais en termes d’échelle, c’est vraiment beaucoup plus réduit.

Ces petits modèles, donc, ils ont déjà pour première vertu de consommer beaucoup moins d’énergie, ils ont besoin de moins de puissance de calcul. Donc, déjà, en tant que tel, même si on les utilise sur des serveurs, dans des datacenters avec le cloud, en réalité ils vont consommer jusqu’à cent fois moins d’énergie que les grands modèles. Ensuite, comme tu le disais, ces petits modèles qui souvent sont des modèles ouverts, open source. Ils sont téléchargeables, ils sont téléchargeables et peuvent tourner en local. Ça veut dire que concrètement, vraiment, comme n’importe quel logiciel, je peux les télécharger sur mon ordinateur, voire sur mon téléphone portable pour les plus petits modèles, et l’utiliser en local sans qu’ils aient besoin à chaque requête d’aller taper dans le cloud.

Et donc ils deviennent indépendants de du fonctionnement des datacenters. On n’a pas besoin de data centers pour faire tourner un modèle en local. J’ai juste besoin de mon ordinateur branché sur ma prise secteur. Donc là encore, la frugalité environnementale est incomparable et on a là des outils qui vraiment, en termes de consommation énergétique, ne sont pas neutres bien sûr, mais sont vraiment dans une dimension qui est incomparable. Après, tu vas me dire oui mais du coup, ces petits modèles, ils doivent être nuls par rapport aux grands modèles, ils ne doivent pas être très efficaces. Et bien ça c’est pas vrai. Parce qu’en fait, un modèle, ça pertinence n’est pas forcément lié à sa puissance de calcul.

Justement. On est dans ce fantasme de la quête de puissance. Mais comme je le disais par exemple avec l’exemple d’InkubaLM tout à l’heure, qui est un tout petit modèle sud-africain, Chat GPT six Alpha, il a beau être le plus puissant du monde à un instant T, il est totalement impotent dans un contexte culturel, socio, culturel, religieux et linguistique En particulier parce que, on en revient à la question de l’entraînement, de sa base de données et de son espace latent. Il est totalement à côté de la plaque, il est aveugle à cette réalité là. Un petit modèle qui est bien entraîné, avec les bonnes bases de données, les bonnes langues et vraiment avec une compréhension de Un des besoins et des usages pour lesquels il a été conçu et du contexte socio culturel et linguistique, il devient efficace et pertinent pour répondre à ces besoins là.

Donc vraiment, ça c’est un truc avant de venir à, d’en venir à tes questions sur est-ce qu’ils sont accessibles? Qui est vraiment important de réaliser, c’est que oui, un petit modèle, s’il est conçu pour répondre à des usages et des besoins précis dans un contexte précis, il peut être plus efficace qu’un grand modèle ultra puissant, en plus d’être

Hugging Face : où trouver et tester des modèles ouverts

frugal.

– On comprend bien qu’on peut choisir de se diriger vers une pluralité de modèles pour des usages bien précis. C’est là qu’il faut en effet être guidé. Et ton livre propose justement, donne des ressources. Il y a aussi pas mal de ressources sur Internet. Alors d’abord, la gratuité. Ces modèles open source sont gratuits. C’est un élément important. Et en gratuit, ils sont bien compétitifs par rapport aux versions gratuites des grands modèles qu’on connaît. Parce qu’il y a aussi cette dimension qui est importante dans l’accès à l’IA. Alors sont ils accessibles et comment? Alors tu tu nous donnes des outils et notamment un grand site créé par des Français aux États-Unis qui s’appelle Hugging Face.

Est ce que tu peux nous parler un petit peu de cette cette ressource?

– Tout à fait. Ça, c’est une ressource importante effectivement pour l’accessibilité à ces outils parce que quand on n’en entend pas parler, on ne sait pas où aller, on ne sait pas par quoi commencer. Et c’est vrai que moi, j’ai essayé dans le livre du coup, de faire beaucoup de pédagogie et de donner des choses très concrètes, des ressources concrètes, même des liens URL pour aller tester des outils, parce que ça passe par là, ça passe par la première réponse pour moi, c’est l’éducation, c’est la pédagogie et montrer qu’on peut s’émanciper des outils dominants en allant essayer des choses qui sont effectivement accessibles en réalité vraiment à tout un chacun.

Si on fait cet effort de curiosité, Hugging Face, c’est une plateforme qui a été créée par trois Français, mais qui est une société de droit américain qui par ailleurs, et je tiens à le préciser, vient d’être rachetée par Nvidia, qui est le principal fabricant de puces GPU qui servent justement à supporter la puissance de calcul des IA. Donc on ne parle pas là d’un outil poussé par un collectif révolutionnaire ou ni même par quelques utopistes alternatifs. C’est pas du tout ça. Ce sont des entrepreneurs de la tech et qui sont financés aujourd’hui par du capital américain qui participent totalement du modèle dominant actuel. Néanmoins, ils ont créé cette plateforme Hugging Face qui est la plateforme principale dans le monde de partage des modèles locaux Open source.

Ça veut dire que sur ce site, il y a des milliers et des dizaines de milliers de développeurs, de chercheurs du monde entier qui partagent des ressources, mais c’est à dire à la fois des modèles, donc, mais des modèles ouverts. Donc ils vont mettre leur propre IA en libre accès et n’importe qui peut les récupérer, les télécharger, les modifier, les ré-entraîner, créer du coup, à partir de ça, un autre modèle qui en est, qui en est issu, le reposter sur le site, etc. Ils publient aussi toute leur base de données, c’est à dire qu’il y a des bibliothèques entières disponibles, accessibles sur Hugging Face qu’on peut aller chercher, on peut entraîner des IA avec, on peut regarder ce qu’il y a dedans, etc.

Et puis il y a aussi beaucoup de papiers de recherches. Ils font de la recherche sur l’open source justement pour nourrir la réflexion. Et cette communauté, c’est vraiment une source et un et une place de mise en commun d’intelligence collective qui est extrêmement précieuse, qui est extrêmement précieuse et. Et ce qui est marrant, c’est… et gratuite. Et il y a d’ailleurs un endroit où vous pouvez aller, parce que là, quand je dis effectivement, poster un modèle en open source, le télécharger, l’entraîner, etc. Ce n’est pas accessible à tout un chacun. Ça s’adresse effectivement un public plutôt de développeurs, de techniciens, mais ils ont un endroit et je n’ai aucune action chez Hugging Face.

Je ne fais pas leur pub ni leur promo, mais il y a un endroit qui s’appelle les Spaces sur le site et l’espace où il y a tous les modèles qui sont hébergés, ce qui fournissent aussi de la capacité d’hébergement Hugging Face et qui sont hébergées en ligne et qui permettent d’aller tester les modèles. Et en fait, c’est assez simple, vraiment, c’est par catégorie. Donc il y a un modèle de langage génération de voie, génération d’image, podcast, il y a tout et par catégorie. Je peux aller tester en ligne tous les modèles qui sont accessibles et gratuitement. Et ça permet vraiment a minima de se rendre compte de la diversité de la du nombre d’outils qui existent et de se rendre compte un petit peu mieux en réalité que l’IA c’est pas ChatGPT ou Gemini.

Rejet de l’IA, data poisoning et résistances

– Et il y a aussi cette dimension communautaire pour justement mettre en lumière les modèles, faire office de transparence. Donc c’est, c’est intéressant à creuser. Voir justement, c’est s’interroger sur ses propres usages de l’IA. Même si on n’a pas un ordinateur de compétition, on peut, on peut aussi s’en servir, se renseigner. Allez quelques minutes encore! Je me demande aujourd’hui qui sont les véritables adversaires de l’IA telle qu’elle se développe à toute allure? On observe ça des, ça et là des mouvements locaux contre l’installation des datacenters. Dans ton livre, tu donnes aussi des exemples qui sont un peu plus sous les radars. Qui sont les guérilleros qui t’ont marqué et dont tu parles dans ton livre?

– Oui, ce qui est sûr, c’est qu’il y a un rejet de plus en plus fort de l’IA qui pour moi en fait, est un rejet de l’IA dominante. Encore une fois, mais qui parfois, pour la plupart des gens, quand on n’est pas forcément renseigné sur l’existence de cette alternative, se transforme et se traduit en un rejet pur et simple de l’intelligence artificielle dans sa globalité. Ce qui, encore une fois pour moi, est une impasse. Parce qu’une fois qu’on a dit il y a assez mal, on est condamné à l’impuissance. Si on ne fait pas cet effort d’aller se réapproprier des outils et de les développer dans un sens qui est souhaitable, autogéré, pensé localement, etc.

Effectivement, il y a des résistances locales à l’implantation de datacenters qui sont des résistances extrêmement importantes ceci dit, et qui, je pense, vont prendre un poids politique de plus en plus fort. Mais moi, j’ai beaucoup observé des gens qui sont soit des activistes, des codeurs, des artistes qui luttent d’une autre façon, beaucoup plus sur le terrain en réalité, justement à la fois des imaginaires et du symbolique, mais parce que c’est ici précisément que se situe la la la la valeur la plus forte de ces modèles. Comme on l’a dit au début de cet entretien, la valeur de ces modèles, elle repose énormément sur leurs données d’entraînement et donc sur ce qui va en résulter dans l’espace latent.

Ces données d’entraînement, si elles sont mauvaises, et bien le modèle n’a plus aucune valeur. Et donc moi, j’ai observé, échangé avec des gens qui pratiquent alors des pratiques de résistance, qui sont parfois à la frontière de la légalité, il faut bien le dire, mais qui vont par exemple s’amuser à pourrir un peu les modèles dominants avec une méthode qu’on appelle le data poisoning, c’est à dire l’empoisonnement de données ou le fontain poisoning, c’est à dire empoisonner la fontaine puisque ces IA se nourrissent à une fontaine qui est celle notamment de toutes les données du web. Aujourd’hui, il y a des aspirateurs de données qui viennent aspirer toutes les données présentes disponibles sur sur Internet et qui vont entraîner les modèles dominants.

Avec ça, et bien des petits malins, des activistes et des effectivement des guérilleros. Ont créé des kits disponibles pour les gestionnaires, les administrateurs de sites web qui permettent sur son site de mettre des données qui sont invisibles à l’œil nu, mais qui sont des données corrompues et qui, une fois aspirées par ces modèles d’IA, vont entraîner ces IA sur des données corrompues et vont faire chuter drastiquement la qualité de leurs résultats. Mais vraiment drastiquement. C’est à dire qu’on se rend compte, il y a des papiers de recherche qui montrent qu’il suffit. Sur un modèle avec des milliers de milliards de données d’entraînement, il suffit de deux cent cinquante données corrompues pour faire s’effondrer vraiment drastiquement la qualité de ces réponses.

Et donc effectivement, à la fois moi j’appelle à développer des alternatives, à déployer, à s’en emparer, à créer des espaces d’autonomie comme ça, presque des des ZAD, des IA ouvertes, libres, locales, etc. Et en même temps, il y a aussi des pratiques qui visent à mettre un petit, on va dire un grain de sable dans la machine, des IA dominantes pour pour faire en sorte que ces outils qui nous sont imposés finalement peut être s’effondrent d’eux-mêmes.

Claude, un interlocuteur et jamais un auteur

– Je pense que tu en as conscience, mais notre conversation va probablement être aspirée par les IA, notamment à travers YouTube où l’audio sera diffusé. Ce n’est pas de l’empoisonnement, mais c’est aussi une façon pour toi de mener cette guérilla.

– Ouais, ouais, c’est un peu une forme de subversion. Moi je disais que dans mon travail, j’utilise des IA et et par exemple, je dialogue régulièrement avec Claude pour faire de la recherche documentaire, pour faire un peu du ping-pong aussi. Je l’utilise jamais pour écrire à ma place, parce que je pense que c’est important de ne pas déléguer encore une fois, nos savoirs faire et nos artisanats propres et spécifiques. Mais je dois avouer que je raconte en conclusion que j’avais. J’ai notamment fait des recherches avec Claude sur cette question du data poisoning et du sabotage. Il y a quelque chose d’assez jouissif de parler avec Claude de du sabotage des LLM hégémoniques.

– Et on en effet, tu es très transparent, tu n’as pas écrit ton livre avec l’IA, mais tu t’es servi de l’IA pour tes recherches pour aussi quelque part. Un peu comme un partenaire de réflexion?

– Tout à fait. C’est en fait, c’est un nouvel outil d’interlocution aussi. Moi je fonctionne de façon générale beaucoup dans ma création, dans ma production, dans mon écriture. Je fonctionne beaucoup par l’interaction. C’est à dire que j’ai besoin d’échanger. Donc d’abord en amont, avec tous les entretiens que j’ai menés, j’ai mené des dizaines d’entretiens avec des artistes, des chercheurs. Donc c’est ça qui forge déjà les premières orientations, mes premières intuitions. Mais ensuite, même dans mon processus d’écriture, je continue à beaucoup échanger avec mon éditeur, avec ma compagne, avec des amis. Ce livre, j’ai échangé et il a été relu avec par un ami philosophe, un ami développeur qui travaille dans une boîte d’intelligence artificielle.

Mais du coup, l’IA, c’est aussi un interlocuteur supplémentaire qui ne va pas se substituer à tous ces humains qui participent à mon processus créatif, mais c’est un interlocuteur supplémentaire qui vient à des endroits différents, qui vient dans mes moments de solitude, d’écriture, peut être parfois des moments où je vais bloquer et qui va me permettre d’avoir un nouveau ping-pong créatif et qui, oui, peut débloquer des choses parce qu’il va m’obliger à formuler certaines choses, à formuler des questions, à rentrer dans un dialogue, dans parfois dans un débat argumentatif qui pour moi peut vraiment me stimuler, stimuler ma créativité. JAMAIS.

Je vais lui poser une question et prendre sa réponse pour argent comptant. Je l’utilise vraiment comme un support d’interlocution et comme un outil qui va permettre de rentrer dans une gymnastique dont j’ai besoin parfois pour pour, pour avancer.

Garder son esprit critique

– Garder son esprit critique, s’interroger sur ses usages. Alors je mettrais dans les contenus annexes à cet épisode comment je me suis servi de l’IA justement autour de l’épisode. Il n’y a pas de secret, Moi aussi je le dis à chaque fois, je trouve que c’est important. Toutes les ressources sont justement dans la description de cet épisode. Christophe Payet était dans Soluble(s). On te retrouve donc en librairie avec GuérillIA. Mener la bataille culturelle de l’intelligence artificielle. C’est paru aux éditions du Seuil. On te retrouve aussi facilement sur les réseaux sociaux?

– Oui, oui, tout à fait. Sur LinkedIn, Instagram. Christophe Payet p a y e t pas comme ça se prononce.

– Merci Christophe d’être passé dans cette émission !

– Merci à toi. Merci beaucoup.

– Et c’est déjà la fin de cet épisode. Merci à vous de l’avoir suivi. S’il vous a plu, notez-le, partagez-le et parlez-en autour de vous. Vous pouvez aussi nous suivre sur notre site internet, csoluble.media. À bientôt

🔗 POUR ALLER PLUS LOIN

📖 GuérillIA, Christophe Payet (Seuil) : https://www.seuil.com/ouvrage/guerillia-christophe-payet/9782021631500

📺 PhantasIA (Arte) : https://www.arte.tv/fr/videos/RC-026494/phantasia/

🎬 Sonique, le studio de Christophe Payet : https://www.instagram.com/sonique.studio/

📷 Christophe Payet sur Instagram : https://www.instagram.com/christophe.payet/

🤗 Hugging Face, les Spaces pour tester des modèles ouverts : https://huggingface.co/spaces

TIMECODES

00:00 — Introduction : l’IA générative s’installe dans nos vies
03:31 — Le parcours de Christophe Payet, de France Culture à PhantasIA
06:38 — « Il n’y a pas de fatalité » : l’IA hégémonique et ses alternatives
07:46 — Pourquoi parler de guérilla culturelle
09:59 — La première règle de la guérilla, transposée à l’IA
11:17 — IApocalypse : les marchands de peur
11:41 — Le technopium, ou le marketing de la peur
14:44 — À qui parle-t-on ? Des IA sans transparence
16:08 — L’espace latent, zone à défendre
18:02 — D’où viennent les biais de l’IA
19:00 — Garder un rapport critique à ses usages
21:25 — Gemini, un Algérien et un Italien
23:37 — Un enjeu démocratique : intimité, CAF, gouvernance
26:54 — L’IA au service du contre-pouvoir : Pandora Papers, Ukraine
29:21 — InkubaLM, une IA entraînée sur des langues africaines
29:46 — Les petits modèles de langage
32:01 — Jusqu’à cent fois moins d’énergie, et en local
35:14 — Hugging Face, porte d’entrée vers les modèles ouverts
38:16 — Les Spaces pour tester gratuitement
39:47 — Le rejet de l’IA, une impasse
42:05 — Data poisoning : des grains de sable dans la machine
43:44 — Claude, un interlocuteur et jamais un auteur
46:15 — Garder son esprit critique