16 - 22 novembre 2026 - Framasoft
Cette semaine j'ai quand même pas mal écrit pour ce site, chose dont je suis assez fier. Faut reconnaître les petites victoires. Ça m'a pris une bonne partie de la matinée de ma journée de repos mais c'était inspirant et finalement reposant. J'espère avoir la même motivation pour sortir la deuxième partie (déjà entamée).
Je suis toujours autant englouti par l'IA, ce qui fais que je sens quand même quelques gênes picoter mon esprit : ce temps que je passe à me prendre autant la tête dessus, des questions techniques aux questions philosophiques, est-ce qu'il m'amènera à quelque chose ? Parfois je regrette de ne plus trop écrire de fictions, ou à minima des textes plus créatifs. (je n'ai toujours pas finalisé la sortie de mon roman d'ailleurs).
Il faut avouer que j'ai aussi cette obsession inconsciente de devoir en quelques sortes rentabiliser mon temps d'une manière ou d'une autre, par volonté de préparer une alternative professionnelle que je n'ai pas éclaircie. Tout se fait de manière très hypothétique donc, où seul ma passion d'apprendre me permet quand même de m'épanouir à court-terme. Mais c'est quand je pense au futur que quelque chose coince… Un futur où je ne me vois pas forcément continuer à soulever 8 tonnes de caisses par jour.
L'exercice est compliqué, de devoir faire l'effort de chercher et trouver l'équation parfaite d'un futur pro souhaitable, tout en travaillant pour faire rentrer des ronds, ce qui me créé une situation pas à plaindre non plus, surtout dans un monde aussi incertain. Je me retrouve dans un mélange de fatigue et de confort qui me permet de prendre du plaisir mais sans capacité réelle de me projeter. Ça fait beaucoup de mots pour parler d'une routine mortifère en fait non ? Ahah
Mais parlons de choses plus sérieuses. Framasoft a lancé cette semaine sa campagne pour "réensauvager Internet". C'est simple, on a affaire à une actu qui m'a réllement enthousiasmé. Parce que la bonne asso porte le bon projet au bon moment, parce qu'il y a une vraie vision long terme qui va au-delà des bonnes intentions, au-delà du pas-de-côté et qui pousse à archipelliser ces marginalités ensemble, à porter des initiatives et transforme les interstices en espaces communs. Il y a un champ lexical qui m'inspire chez eux et qui entre clairement en résonnance avec ce que souhaite : retourner à l'état sauvage, quitter le web-béton, planter des graines, etc... Je n'ai pas hésiter à donner, et n'écarte pas le fait de donner peut-être plus tard dans l'année. Si vous ne connaissez pas Framasoft, je vous invite à prendre connaissance de leur association et à jeter un œil sur les nombreux services/alternatives qu'ils proposent et qui peuvent déjà remplacer la plupart des outils que vous utilisez tous les jours. Puis évidemment, allez lire leur manifeste :
L'autre révélation de la semaine, c'est l'embryon d'un début de commencement d'une intuition de représentation de ce que pourrait être l'espace vectoriel des tables d'embeddings des modèles d'IAs. Et des matrices d'attention qui en découlent. Lors d'une semi-sieste, j'ai rêvé un pas de côté sur les choses assez abstraites que j'apprenais, faites de tout plein de nombres changeants, de matrices de vecteurs aléatoires, d'addition et de scalaire. Autant dire que jusque là j'essayais de m'accrocher à quelque chose de tangible mais avec difficulté.
Alors j'ai tenté de tout voir en tant que mouvement (pour changer tiens). Je me suis représenté le processus de formation du prochain token comme un flux de calcul bombardé en simultané entre tous les mots analysés, pris dans un grand maillage se situant dans l'espace sectoriel sémantique du modèle. Même si cet espace est par définition inconcevable, car fait de centaines de dimensions, on peut quand même y représenter trois choses tangibles: une position, une direction et, in fine, un mouvement. Donc ce grand maillage sémantique (la phrase et son contexte représenté) va produire une suite de mouvements qui laissent des sillons.
Couche apres couche, poids apres poids, les sillons témoignent d'un déplacement vers une autre position sémantique et vont même finir par se concentrer dans un point fixe: le dernier token du prompt analysé. Car oui, après toutes ces séquences de calcul au sein du même maillage multidimensionnelle, à la dernière couche c'est le dernier token qui porte le potentiel de l'attention et du contexte et qui, en fonction de sa position, va décider de quels tokens sont les plus probables d'apparaître.
Je trouve ça fascinant (et biaisé évidemment) de ressortir les terminologies de la complexité de Morin comme le maillage, l'interdépendance et la rétroaction. Je les trouve quand même assez à propos et au final ma période Morin, sans aucun rapport avec l'IA, m'a permis de m'enlever une aiguille épistémique du pied cette semaine. Comme quoi.
