Mon changement de point de vue autour des intelligences artificielles [1/2]

Il est temps de prendre l'habitude de parler au pluriel, pour penser l'alternative. Prévoyez un petit 15min de lecture.


J'ai bien conscience que ce blog tourne un peu autour de ce sujet ces derniers temps mais force est de constater que la question des IAs prend beaucoup de place dans mes réflexions quotidiennes. Pendant un temps, je me forçais à ne pas en parler étant donné qu'on en parle déjà bien assez partout, souvent de manière déraisonnable.

Au-delà des multiples domaines qu'elle vient percuter, philosophique, artistique, technologique, politique, économique…, elle occupe un statut que je lui ai longtemps refusé, dû à un mélange de déni et d'esprit contrarien primaire.

Mais plus le temps passe, plus l'appel est fort et, malgré mes réticences, ma curiosité l'a emporté. Avec le temps je suis venu à considérer les intelligences artificielles comme une véritable pieuvre épistémique, une créature antédiluvienne que je dois affronter avec méthode et sang-froid. C'est un sujet d'apprentissage tellement vaste et stimulant à apprendre qui, comme le cosmos, comme la physique, comme le climat, peut rendre complètement tétanisé et perdu. C'est un flou tel que des personnes mal intentionnées s'en servent pour vendre de la peur, de l'espoir et manipuler l'opinion.

Je préviens en amont que ce texte va aborder de manière non-exhaustive plusieurs aspects de l'IA (les tentacules de la pieuvre) et qu'il me permet de mettre un peu d'ordre dans mes pensées. Ces mots n'ont pas pour but de donner la moindre eau au moulin des pro-IA ou anti-IA. Ni de porter un jugement que j'estime juste et véritable. Mon opinion subjective est arrivée à la conclusion que cette technologie, comme tout autre, est un outil qui mérite qu'on s'attarde dessus sans passion aveugle (positive ou négative). Un constat bien banal et mièvre en apparence mais qui implique tellement de possibles et de questions sans réponses que ce ne sera certainement pas un texte-bilan.

D'un point de vue global

Pour commencer, il faut savoir que depuis 2023 j'ai approché les deux extrêmes du spectre : l'excitation aveugle et le rejet total. Bizarrement j'oscillais de l'un à l'autre jusqu'à trouver mon équilibre actuel (et toujours susceptible de changer). Mais pendant longtemps, je pensais savoir ce que ça impliquait dans les deux cas, à tort.

Je reviendrais plus tard sur ce que j'ai pu trouver à ces chatbots durant ces dernières années et vait donc m'attarder d'abord sur la prise de conscience de leurs limites et de leurs risques.

D'abord il y a eu cette sensation de devoir m'en tenir un minimum éloigné, car même bancal, il y avait ce risque d'anthropomorphisation (l'effet ELIZA) et j'avais du mal avec la manière dont les chatbot avait de parler et de dicter des faits avec sollennité. Même si aujourd'hui tout ça a un peu changé, il émane des chatbots une forme d'autorité qui peut intimider et mettre à mal une objectivité fatiguée. Malgré leurs nuances et leurs mises en perspective (sollicité ou pas), les chatbots écrivent bien et on a tous la tendance à prendre pour argent comptant ce qui est écrit de cette manière (cela peut être le problème des livres aussi).

Un exemple qui date de presque un an est la mise en place d'un système de cache pour mon serveur, seule partie sur laquelle je n'ai pas trop fouillé et ai laissé le chatbot de Claude me dicter les lignes à faire. Autant dire que c'était complètement bordélique à la fin. Puis je n'avais même pas besoin de cache. C'était un problème qu'il avait créé pour ne pas le résoudre derrière.

Sur un aspect moins technique, lors d'une recherche sur Edgar Morin, j'ai eu le droit à l'affirmation d'une fake news issu d'un vieux site conspi de facho. Cela concernait l'affaire Ramadan, dans laquelle Morin est pas tout blanc, voir très gris, mais dans tous les cas le chatbot m'affirmait qu'il avait gardé le silence sur cette affaire. Or il disait ça car Mediapart interdit la lecture de son site aux robots, même site où se trouve un billet de Morin sur l'affaire. Je vais pas m'attarder dessus, c'est pas le sujet mais on voit bien comment il est facile de se faire avoir si on fait pas gaffe.

Ça c'est pour des exemples empiriques me concernant, mais à côté j'ai pris petit à petit la mesure de la problématique sur les données sur toutes nos discussions qui servent d'entraînements aux modèles, qui, à terme vont enrichir un cercle de compagnies problématiques (Anthropic est peut-être la moins pire, elle reste promotrice du marketing de la peur dont je parlais dans ce billet)

Il y a toute la problématique écologique et hardware. Elle peut paraître diffuse, en second plan, à cause de tout le flux d'informations concernant les problématiques, les innovations, les paniques morales, etc… mais il s'agit finalement de la plus importante car directement liée à la matérialité de cette technologie.

Sans parler des questions politiques, démocratiques et militaires que cette technologie nous imposent.

Quand je parlais de pieuvre...

Mais je veux surtout aborder le point très intime de ma longue réticence à m'intéresser pleinement aux IA. Ne pas le faire serait hypocrite.

Il y a eu le problème du regard des autres. Je fais quand même parti d'une mouvance anti-capitaliste, du moins alter-mondialiste, une mouvance qui dans sa grande majorité a tendance à rejeter le dernier-né du système. Donc j'ai eu peur du jugement, peur d'être un imposteur, etc… J'ai tenté de fuir cette techno en anticipant une certaine dissonance cognitive mais pourtant, avec le temps, c'est ma posture catégorique anti-IA qui commençait à me troubler.

Alors que, de mon côté, je milite et pratique une ré-appropriation de cet espace numérique qu'est le web, à travers mes fuites des réseaux, de Google, la construction de ce site, etc... je vois la machine capitaliste grossir sans réel contre-pouvoir et s'approprier le nouvel espace technologique créé par l'IA. Une tendance qui finira clairement par absorber les restes de ce web déformé par la surveillance, la fermeture et la commodité. À terme, laisser cette technologie entre les mains de quelques compagnies privées reviendraient à rendre presque impossible une émancipation populaire et réellement démocratique.

Où sont donc les réflexions et les marginalités créatives et alter-mondialistes dans le domaine des IAs ? Il y en a oui, la question est provocatrice, mais je dis ça car il est facile pour beaucoup de mettre ces personnes dans le même panier que les fous du bus qui nous imposent le rythme actuel.

N'en déplaise aux anti-IA les plus obtus, dont j'ai fait partie, le sujet va bien au-delà de leurs inquiétudes légitimes. Évidemment que cette industrie porte en elle un projet écocide, prédateur, destiné à enpouvoirer toujours plus une petite caste et à appauvrir les classes laborieuses en faisant d'elle les assistants de la machine.

Mais la boîte de Pandore est ouverte et les intelligences artificielles existent.

Il est temps de souligner ici que nommer LES intelligences artificielles est un exercice que je m'impose depuis quelques temps car cet effort sémantique m'a redonné une toute autre perspective (je n'invente rien sur l'appelation, j'ai entendu Nicolas Dufresnes en parler dans un podcast).

Je ne referais pas l'histoire de l'intelligence artificielle qui remonte jusqu'aux années cinquante mais je tiens cependant à souligner que parler de la pluralité des intelligences artificielles permet déjà de contrecarrer le discours absolutiste que les dominants veulent imposer. Une sorte d'entité monolitique dont l'acmé serait la fameuse Intelligence Artificielle Générale. Un "There Is No Alternative" 2.0.

Mais, à l'instar d'Internet, c'est dans l'intérêt de quelques-uns de nous empêcher de penser le pluriel de ces espaces/technologies, pour qu'ils se les approprient.

Et c'est justement là-dessus que je veux attirer l'attention. Moi le premier, j'ai été matraqué médiatiquement par cette propagande qui m'a empêché de vouloir regarder sous le capot et accepter le fait que seul un petit nombre pouvait être initié à la magie de ces boîtes noires. Me sentir hors de cette espace qui devient prédateur a fini par me rendre fondamentalement contre. Et pourtant, il m'a suffit d'assumer cette curiosité puis de quelques semaines d'apprentissages, de fouilles, d'expérimentations pour comprendre que toute cette histoire n'est d'abord qu'une histoire de mathématiques et d'informatique. Et qu'ensuite c'est devenu un récit politique et civilisationnel.

Je suis très loin d'affirmer avoir tout compris mais je sais au moins que ce n'est qu'un outil. Et surtout, qu'il s'agit d'un outil que l'on peut s'approprier. La voiture pouvait paraître bien magique pour le quidam du début du XXe siècle mais il ne fallait pas longtemps pour comprendre que tout était une histoire d'explosion et de mouvement, de physique donc.

On parle de haute-ingénieurie et de haute-complexité mais ce n'est jamais une raison pour déléguer leur usage et leur mise en place à des entités prédatrices. Car ces dernières vont tout faire pour rendre ça opaque, afin de nous enfermer dans leurs services et imposer leurs vues sur nos sociétés. Elles vont tout faire pour rendre ça gargantuesque et intimidant.

Comprenez que ce n'est pas dans l'intérêt des grandes compagnies de faire des modèles légers, de distribuer des intelligences artificielles de manière ciblées et pratique plutôt que de dépenser des milliards en data-centers et en calculs de tokens pour faire résumer des recherches Internet. La machine capitaliste et libérale doit tourner et je renvois une nouvelle fois au livre de Cory Doctorow qui parle très bien des entreprises matures et celles à croissances, comme les GAFAM, qui ont besoin de cette inflation de projets et de moyens.

Ceci étant écrit, j'ai fini par voir dans ma volonté de m'approprier l'IA la même volonté que j'ai à travers ce blog : comprendre et utiliser une techno à hauteur d'homme, dans l'espoir de faire parti d'un archipel organique de résistance. Car, même désorganisé, des initiatives de ré-appropriation de ce genre sont toujours ça de pris pour empêcher d'être dépossédés de nos ultimes espaces de liberté. Il faut entretenir et répandre une véritable éducation populaire pour une collectivisation des technologies, ce qu'était la promesse du web 1.0.

Même si vous ne vous voulez pas entendre parler d'IA, cette dernière, sans contre-pouvoir pratique, ira détruire ce qui reste du web décentralisé et basé sur le partage.

Donc oui, je considère que l'IA est écocide en tant que projet capitaliste. Mais non, les intelligences artificielles ne sont pas la fin du monde. Ce sont même de nouveaux outils à comprendre et à nous approprier, nous, pauvres gueux.

Le problème ce n'est pas l'IA, c'est le capitalisme.

Plutôt que d'être dans la réaction primaire, il est important de s'emparer du sujet ne serait-ce que pour éduquer, enseigner l'usage, sensibiliser aux limites et aux dérives. Abandonner ces aspects aux États prédateurs et aux fabricants des modèles fondations actuels, c'est laisser les clés de nos vies à d'autres.

Quelques pistes

Un homme orange a affirmé un jour que qui contrôlera l'IA contrôlera le monde : et bien ça me troue le cul de le dire mais ce fou du bus a raison. Je partage le constat mais pas les actions qu'il implique.

La technologie est si puissante, si disruptive que les tenants du monopole (ou oligopole) seront très durs à déloger et profiteront de leur toute-puissance pour dicter la conduite du monde.

Aujourd'hui, vous vous inquiétez du pouvoir des GAFAM sur les sociétés et vos vies intimes, attendez de voir ce qui peut arriver !

Alors faisons en sorte, en tant que pluralité, en tant que peuple, que personne n'ait de monopole. Archipelisons l'usage, exactement comme pour Internet. Empêchons la construction de ces data-centers. L'avantage c'est que pour une question de souveraineté évidente, ces projets ne peuvent être fait que dans les pays qui les portent donc on peut agir sur nos territoires. Avec ça on protège l'environnement puis ensuite on responsabilise nos usages.

En parallèle éduquons-nous sur la technologie, approprions-nous le pouvoir d'apprentissage et de partage qu'elle apporte, la capacité d'action qu'elle permet. En parallèle, aiguisons notre sens critique, en prenant conscience des pièges. Là encore, c'est une histoire de responsabilité.

Ensuite, prenons soin de notre hardware, faisons durer nos machines, sensibilisons-nous au e-waste. Si vous n'êtes pas techos, au lieu de jeter votre matériel déperissant dans une décharge, donnez le à des fondations, des coopérations de recyclage et de réhabilitation, ou à minima à des proches intéressés (coucou c'est moi!).

Soutenons le libre, l'open-source, les archipels de résistance. Utilisons leurs outils. Pour les plus motivés, faisons des projets à hauteur de communauté : cloud autogéré, serveur maison, etc…

Certes, tout ça c'est se mettre dans une posture confrontée à de la friction. C'est désagréable. Mais on entre alors dans la dialogique politique (comme si ça ne l'était pas assez) : à quel point on souhaite déléguer notre liberté, notre responsabilité et nos capacités d'agir ?

Car l'Internet actuel, et les promesses des Intelligences Artificielles propriétaires, garantissent cet espace sans friction, où vous obtenez tout de manière fluide (et encore je ne parle pas l'emmerdification), sans vous soucier de ce qui se passe sous le capot. Et c'est pas joli en terme de surveillance, vol de données, manipulation de masse et concentration des richesses et du foncier.

Même si on ne pipe rien à la technologie, ayons conscience du fait qu'une poignée de gens mal intentionnés comptent sur notre ignorance. N'acceptons pas leur marche forcée.

Adoptons la technologie à notre rythme.

C'est bien votre droit de ne pas l'adopter. Mais par contre c'est contre-productif de tuer le débat en estimant que "IA=caca". Le débat va bien au-delà.

Déjà les IAs nous donnent une capacité de mouvement et d'action sans commune mesure pour faire office de contre-pouvoir et briser des monopoles. Je prends pour exemple des trucs assez niches comme AnyPS5 qui se targue de mettre la pression à Sony en cassant la fermeture de son hardware grâce à la décompilation par IA, jusqu'à la création de la suite ArtCraft qui vient mettre un gros coup de pied dans la fourmillière Adobe qui eux aussi profitait de leur hégémonie indécente et irrespectueuse.

L'augmentation de la productivité que promet l'IA ,source des rêves mouillées du patronat, peut être retournée en une augmentation de notre capacité d'action, de partages et d'apprentissages.

Évidemment que ça demande de la vigilance et de la sensibillisation, mais on entre encore dans une histoire de responsabilité et d'entraide.

N'oublions jamais que la puissance demandée de cette technologie s'adapte à l'usage et que les intelligences artificielles ne sont pas obligées de tourner sur des datacenters écocides. Et c'est en m'arrachant les cheveux pour réussir à faire tourner un modèle sur un ordi "moyen" (du point de vue IA) que je m'en suis réellement rendu compte. Tout comme quand je ne pensais pas que c'était possible de faire tourner autant de services sur un serveur à 4go de RAM, je croyais qu'il fallait acheter et consommer plus pour avoir accès à ce genre de techno. C'est faux, ça demande de l'optimisation.

Donc faisons le point sur nos usages. Sur nos injonctions. Est-ce qu'on a vraiment besoin de faire tourner une IA à Xtrilliards de paramètres dans un cloud lointain pour faire de la recherche Internet ? Quand vous parlez à un chatbot quelconque pour avoir une information, 90% du temps, il va faire une recherche, compiler, trier les informations glânées ici et là, puis vous les retranscrire bien joliment. Dans ces 90% de cas, il y a 90% de chances que ces informations soient issus de Wikipédia ou Reddit. Je sors ces chiffres exacts de "t'inquiètes crois moi" mais l'ordre de grandeur est là. Il n'y a qu'à suivre les chaînes de pensées des modèles à poids ouverts en local pour se rendre compte de ça et se dire que les modèles fermés ne doivent pas se comporter bien différemment. Tout ça est donc faisable par une IA légère et locale.

Alors certes, cela ira moins vite, parfois il y aura des petites coquilles mais je trouve que l'avantage là-dedans c'est qu'on voit les limites. En les voyant, en connaissant la friction, on saisit l'outil, on se responsabillise.

Je ne peux encore pas m'empêcher de ne rappeler que vos réseaux sociaux favoris (que j'ai quitté) détruisent bien plus l'environnement et la cohésion sociale que cette technologie neuve que nous avons encore la possibilité de diluer dans le commun et pas dans les mains de quelques puissances étrangères. Je trouve toujours ça curieux d'attaquer les intelligences artificielles à travers des plateformes qui se servent de ces mêmes technologies pour mettre en avant et monétiser votre cri du cœur.

Par contre oui, rejeter l'IA en bloc est un bon premier réflexe, dans le sens ou c'est le scepticisme attendu d'une.e citoyen.ne. Ça a le mérite de soulever les problématiques légitimes dont ne se soucient guère les industriels. Mais il faut ensuite décomposer le problème. La critique pour la critique, c'est s'isoler du milieu d'apprentissage d'un outil qui pourrait très bien être considéré comme un outil de production à collectiviser. Que ce soit de manière local, en archipel, qu'importe… Le domaine des intelligences artificielles mérite une réelle réflexion sur l'usage et la pratique, pas seulement sur la pertinence de son existence.

Nous devons promouvoir sa pluralité. Car qui dit pluriel, dit alternatives. Dit possibilités. Dit changement. Et infuse l'idée d'une bataille pour garder un espace ouvert. Pas de tout brûler.

Fin de la partie 1

Je comptais tout livrer en un seul bloc mais je sens que la dernière partie, portant sur la création, sujet ô combien délicat, risque d'être un joli bébé aussi donc je vais pas rendre le tout encore plus dense.