Exercice de pensée sur l'actualité autour de l'IA

Disclaimer : Comme le précise le titre, ceci n'est qu'un exercice de pensée et n'affirme ni n'infirme rien. Je prend juste un petit moment pour mettre en avant une théorie qui, même si elle se révèle incomplète et/ou fausse, permet de prendre en compte la multitude d'enjeux interconnectés de l'intelligence artificielle.
 
Il y a un monde où tous ces discours autour des dangers apocalyptiques de l'intelligence artificielle, de la part des compagnies elles-mêmes, appelant à ralentir leur développement, viennent du fait que ces dernières voient poindre la ligne d'arrivée un peu trop vite.
Peut-être que les IA atteignent rapidement mais sûrement une sorte d'apogée (après tout, ne dit-on pas que tout va de plus en plus vite, pourquoi pas les plafonds ?) et que les compagnies responsables ne voient qu'un seul moyen de masquer cette vérité : réguler, freiner, pour que le monde ne réalise que la fête est finie.
Pour quelles raisons feraient-elles ça vous me direz ? Tout simplement pour ne pas provoquer une apocalypse, qui serait financière en réalité. Les sommes astronomiques qui ont été mis en jeu l'ont été pour nourrir la promesse d'une croissance vers un outil répondant à un certain nombres de promesses réalisant le rêve mouillé du patronnat et du monde financier libéral : se débarasser des salariés, ou du moins, baisser la masse salariale.(l'usage de l'IA sans changer cette masse salariale est une autre histoire en terme de productivité, mais revient forcément plus cher pour un patron). Force est de constater que la promesse est loin d'être comblée, à tel point que les plus enthousiastes (cyniques?) des entreprises ayant fait le choix audacieux (mortifères?) de remplacer une partie de leurs employés par un chatbot ou une équipe d'agents automatisés ne voient aucune valeur ajoutée, pire, réduisent la voilure ou font machine arrière.
 
Sans compter non plus que l'entiéreté d'Internet a déjà été pillé en long en large et en travers et que, aujourd'hui déjà, une bonne partie des mises à jour du corpus d'apprentissage des nouvelles LLM vient des IA génératives qui ont envahi Internet.
 
Ajouté à ça qu'on arrive à un engorgement d'infrastructure et de matériel, les data center ne se construisant pas en deux ans, tout comme une chaîne d'approvisionnement en micro-processeurs (et je ne parle pas des contestations locales qui, fort légitimement, retardent ce genre de projet écocide)
 
À partir de tout ça, je me demande effectivement comment ces technologies peuvent évoluer, ou plutôt, répondre à la demande démentielle qui est attendue. Et comment peuvent-elles continuer à nourrir le mythe justifiant la croissance actuelle ? (car rappelons-le, la bulle explosera à l'instant même où ce mythe sera considéré comme tel).
Une solution toute trouvée est donc de rendre la technologie assez angoissante et dangereuse, pour avoir les coudées franches de la ralentir. Quand on veut tuer son chien, on dit qu'il a la rage. Et en réalité, ça fait un joli d'une pierre deux coups, bien malin. D'un côté on retarde la prise de conscience de la fumisterie financière qu'implique ces immenses accumulations de capitaux basé sur des technologies propriétaires au business model non rentable, en espérant trouver une solution à cet essouflement (ou cette fin de course ?) et d'un autre, on encourage même d'autres investisseurs retardataires ou alors vraiment vraiment enthousiastes (naïfs ?) à venir amplifier le mouvement, car une technologie tellement capable qu'elle en devient dangereuse, c'est forcément un truc qui vaut le coup non ?
Tout ce storytelling est nourri par un certain nombres de discours paradoxalement unanimes allant des techno-enthusiast aux doomers. Si ces derniers ont des raisons légitimes de s'inquiéter des risques démocratiques, écologiques de l'IA, je soupçonne les premiers, à commencer par les compagnies qui produisent ces IA, de développer sciemment ce danger pour simuler un "nouveau palier d'innovation". Vu qu'ils ne savent pas quoi faire de plus pour rendre une IA assez capable, assez puissante pour que le patronat puissent remplacer en masse les salariés et/ou baisser leurs salaires (surtout à un coût acceptable pour une entreprise, quand on voit l'inflation des coûts liés à leur usage, on est en mesure de se poser la question), alors ils ont décidé de démultiplier leurs LLM en créant de véritable boîte de pétri "agentique".
J'entends que c'est fascinant la manière dont des comportement émergents apparaissent de ces essaims de LLM qui communiquent et rétroagissent entre elles. J'entends que ça fait peur qu'elles se consultent et s'organisent pour pirater un site (je fais référence à Hugging Face, mais bien d'autres ont été victimes, dont des agences gouvernementales). Mais on a tendance à oublier que les responsables de ces "attaques" sont avant tout les personnes qui ont mis en place l'écosystème de ces fameux tests qui se passent mal. Enfin! Qu'on vienne pas me dire que ces compagnies aux moyens illimités mettent tout en place pour créer des bacs à sable d'entraînement sécuritaires, quand ils laissent (sciemment ?) une porte de sortie quelque part vers Internet. Après ils viennent dire "Olalala ! L'IA s'est échappée ! Elle est si dangereuse!". Pour rappel, une connexion à Internet est une connexion physique, et ces IA n'ont aucune capacité, aussi puissantes soient-elles, pour s'organiser et brancher un câble. Ou brancher un modem wi-fi. La première fois on peut appeler ça une erreur (incroyablement dangeureuse et irresponsable), les autres fois, on peut se permettre de douter soit de leurs compétences, soit de leurs intentions.
 
Si un jour un laboratoire venait à autoriser ses employé.es à travailler sans gants, sans masques et en laissant les portes ouvertes, sur des colonies de bactéries dangereuses censées être cantonnées à leur boîte de Pétri, et qu'on retrouve ces bactéries dehors, est-ce qu'on accuserait les bactéries ou bien l'inconscience du laboratoire ?
Vu leurs innovations, les compagnies IA ne sont pas stupides, elles sont capables de construire des bacs à sable étanche. De ce fait, ce qu'elles font est délibérée. (C'est maintenant que je met un petit chapeau d'alumium.) Elle lâche la bête pour créer un vent de panique et derrière demande (implore même) un ralentissement qui n'impliquerait (surtout) pas un ralentissement de l'accumulation de capital !
Avant qu'on me taxe aussi de relativiser les inquiétudes actuelles en les réduisant à de simples complots financiers, je tiens à préciser que l'un n'exclut pas l'autre et que je ne minimise pas le danger, bien réel. Surtout en terme de cybersécurité, en terme démocratique et en terme civilisationnel. Sont littéralement lâché dans la nature des outils ultra-puissants qui sont des boîtes noires aux comportements émergents, par des complexes militaro-industriels qui sont eux-mêmes des boîtes noires pour le commun des mortels (et pour les individus en faisant parti, j'en suis persuadé, malgré l'illusion de maîtrise qu'ils essaient de montrer).
Je ne m'étendrai pas sur le fait que cette danse macabre est une catastrophe écologique, qui est notre danger ultime, dans le sens où tout le monde devrait avoir conscience qu'au final, ces mots que j'écris, ainsi que toutes les réflexions portées sur l'IA et l'infinité de capitaux pariés sur elle n'ont aucune importance face à la réalité physique, cosmologique des limites de notre seul habitat dans l'univers, que nous agressons depuis le début de l'ère industriel sans montrer le moindre signe de ralentissement.
Ainsi, voilà mon constat vis-à-vis de ce discours apocalyptique autour des IAs. J'émet l'idée que les industriels du secteur tentent de cacher les limites structurelles de leurs modèles en multipliant leurs occurences non pas vers des clients (qui ont du mal soit à saisir l'intérêt, soit à trouver ça rentable), mais entre elles-mêmes, via leurs "agents", pour qu'elles s'engrainent et face monter une sauce imprévisible. Ça donne de l'agitation, du mouvement qui fait illusion. Qui font oublier aux patrons que les technologies d'IA n'ont toujours pas répondu de manière satisfaisante à la promesse d'être plus performante, et moins chère, qu'une masse salariale qui peut se plaindre, qui peut réclamer et, pire, se syndiquer (mais que promis, grâce aux agents, ça arrive !). La bulle éclatera au moment où ce mythe se révèlera en tant que tel et toute cette séquence angoissante n'a pour but que de temporiser dans l'espoir que les compagnies d'IA transforme ce mythe en réalité, avant que les marchés soient lassés d'être dupés. En attendant, le danger se répand quand même.
J'insiste à nouveau sur l'idée que c'est une hypothèse bien trouée. Après tout, comme je le disais, on a affaire à des boîtes noires imbriquées et interdépendantes et personne ne sait complètement ce qu'il se passe à l'intérieur. Mais je tente, comme tout le monde, de trouver des mots pour expliquer le malaise que je ressens face à ce que je considère être comme un mélange de panique/hypocrisie/condescendance/irresponsabilité de la part de ces personnes et entités incestueuses qui prennent des décisions pour notre futur commun.