9-15 novembre 2026 - Contraintes

J'ai un peu poussé ma pensée de la semaine dernière et j'ai décidé de présenter ces entrées hebdomadaires comme des contenus séparés et non plus comme un flux continu et incessant. Avec ça viendra petit à petit une forme de structure aussi, je tâtonne et fais mienne cette notion d'apprentissage en public.

Étant donné que je suis toujours dans cette méta d'apprentissage, elle occupera encore mes propos aujourd'hui. Parce que là j'en ai eu marre. Pas d'apprendre évidemment, mais plutôt de tourner en rond dans ces lectures, ces vidéos qui expliquent comment il faudrait faire et à côté j'avais pas l'impression d'être stimulé. Une nouvelle fois, je me suis fais hypnotisé par les sirènes de la méthode, de la technique, de la théorie en mettant de côté la pratique. Encore une fois, il a fallu attendre que je sente en moi cette boule de lassitude, d'exaspération pour que je reconnaisse mon piège favori. Celui dont je parle souvent ici, en sensibilisant dessus tout en donnant des leçons et qui vient dans mes angles morts pour me bercer d'illusions. Comme ce parrain des alcooliques anonymes qui se met des cuites le week-end.

À vrai dire, c'est aussi le grand piège de la lecture, de faire croire qu'en lisant un livre vient la compréhension et la maîtrise des concepts qui y sont démontrés (alors que c'est un défi de se souvenir ne serait-ce que de 10% du propos d'un livre). Et ne parlons pas du fait qu'on a tendance à accorder une certaine aura et vérité à ce qui sort d'un livre, quand bien même le propos est dépassé, si ce n'est faux. Tout ça rassure les cerveaux en quête de nourriture épistémique.

Au risque de radoter (étant donné que c'est pas la première fois que ça m'arrive tout ça), je suis quand même satisfait de m'en être rendu compte rapidement et de retourner de manière tout aussi véloce à de meilleures habitudes. De la "vraie" lecture, déjà, dans le sens où on parle de non-fiction étayées et maîtrisées, pas noyées d'anecdotes et d'appréciations subjectives d'un.e auteurice.

Mais que voulez-vous ? Je sais pertinnement que je finirais par revivre ce genre de lecture. Pour ma défense, c'est parfois compliqué de se rendre compte du genre de livre auquel on a affaire et il faut bien que je laisse leur chance aux livres que je commence. Je suis quand même capable de reconnaître certains red flag (déjà la présence perpétuelle d'anecdotes sensées illustrer le propos est sûrement la meilleure garatnie d'avoir affaire à un bouquin mièvre, rempli de banalité et générique).

Mais passons, assez parlé de lecture. Et si nous parlions d'IA ? (mais quelle surprise!).
La transition est parfaite étant donné que cette auto-rebellion contre mes démons m'a amené à pratiquer un peu plus ce sujet plutôt que d'attendre d'avoir bouffer tout le contenu théorique que j'avais préparé en amont (spoiler: je n'en aurais jamais vu le bout)

Pour être clair, j'ai appris bien plus en une journée à tenter de faire tourner une IA bien trop grosse pour mon ordinateur (à savoir Qwen 3.6 35B, A3B) qu'en un mois de lecture . Les connaisseurs me diront que c'est un modèle Mixture Of Experts et qu'évidemment il peut tourner sur une machine comme la mienne, moyennant quelques réglages. Ce à quoi je répondrais : " voilà le détail qui importe : "moyennant quelques réglages". "

Car j'aurais pu me contenter d'un modèle plus petit, un peu clé en main, et me dire : "Ah cool ça marche !". J'aurais pu tweeker quelques paramètres comme la température pour rigoler, la fenêtre de contexte et pas trop m'attarder sur le reste. (comme je l'ai fais avec avec Gemma 9B)

Mais en cherchant la contrainte, je me suis imposé une méthode top-down : c'est-à-dire me lancer dans un truc que je maîtrise pas pour apprendre chaque étape sur lesquelles je bute (c'est à dire presque toute).

Déjà en voulant installer le modèle, mon frontend (Jan) m'indiquait clairement qu'il serait lent. Pas grave, je vais essayer quand même. Et dans cette formidable aventure, au-delà du concept de Mixture Of Expert (une invention géniale), j'ai pu comprendre un peu mieux comment fonctionne les couches d'un réseau de neurones profonds, le calcul d'un token, pris connaissance du concept de prefill. J'ai pu m'initier à ce qu'est le KV-cache, la quantification de ce dernier mais aussi du modèle en lui-même. Puis j'en ai appris un peu plus sur la différence structurelle, physique des différents composants hardware et comment on peut jouer avec. Et justement, c'est grâce à tout ça que je réussis à utiliser un modèle sensé être trop gros pour mon ordinateur et qu'il me réponde avec la vitesse très honorable de 45 token/secondes pour une fenêtre de contexte de 64 000 tokens! Notamment en répartissant les 40 couches du modèles et leurs poids respectifs entre la RAM et la VRAM, pour permettre à cette dernière d'avoir un accès rapide au KV-cache.

Bref, avec tout ça, j'ai un peu retrouvé du peps et j'ai vite oublié ma frustration de ne rien faire et l'impression de ne pas avancer. Et surtout j'ai retrouvé la sensation grisante d'apprentissage/pratique que j'ai connu lors de mes expériences-étalons que sont : la mise en place de mon serveur maison, la fabrication de mes premiers court-métrages lorsque j'étais jeunot, l'écriture de mon premier bouquin (et j'en oublie certainement d'autres).

J'ai donc un peu réfléchit aux dénominateurs communs de tout ça, expériences qui avaient le mérite de m'enjailler, de me garder alerte et motivé. Force est de constater que je dois me rentrer dans la tête que la pratique est indispensable et que je dois, avant toute accumulation de livres ou de contenus, me fixer un projet pratique et palpable.

Mais pas que !

Parce que j'ai aussi pris conscience de quelque chose qui me passait un peu sous le nez jusqu'ici (en ce qui concerne l'apprentissage en tout cas) et je dois rendre ses lettres de noblesses au facteur qui a le plus d'importance encore : la contrainte !

Et oui. Car la pratique sans contraintes (via un tuto par exemple) ne provoque aucune friction qui viendrait ancrer une quelconque connaissance ou un savoir-faire dans notre petit cerveau. Et ça explique pourquoi les tutos génériques sont sympas au début (grâce à la pratique) mais vite ennuyant (car il y a pas de contraintes).

Toutes ces expériences-étalon que j'ai nommé, ont été faite avec des contraintes. De temps (écrire un livre pendant son shift de nuit), de moyens matériels et financiers (faire un serveur avec les petits appareils que j'ai sous la main, un film avec trois bouts de ficelles) et, in fine, de connaissances.

En gros faut que j'accepte de sauter dans un truc où je pige que dalle mais sans jamais me contenter d'appliquer une solution trouvée sur Internet (sinon ça n'a pas d'intérêts!) mais toujours se demander pourquoi il faut faire ceci ou cela. Documenter son apprentissage. J'en parlerais sûrement un jour (c'est prévu en tout cas) mais par exemple, quand je mettais en place mon serveur, je tenais un journal sur mon Anytype où je notais tout ce que je faisais, de mes erreurs à mes réussites, en passant par mes impasses. Mais surtout je posais toutes les questions qui me passaient par la tête. Pourquoi je devais faire quelque chose en particulier ? Pourquoi utiliser certbot ? C'est quoi Docker ? À quoi ça sert un proxy ?

Alors voilà, beaucoup de mots aujourd'hui pour faire une énième apologie de la contrainte et de la friction, mais dans un registre différent cette fois-ci. Et je sais que l'ère du temps fait qu'on tente de minimiser tout ça et que beaucoup ont tendance à penser que l'IA ne va rien arranger. Mais d'un autre côté, on a pas attendu l'IA pour être de gros flemmards biaisés et paresseux en tant qu'espèce. Et aujourd'hui, je suis le premier à reconnaître que l'IA est devenu mon premier outil quand il s'agit d'apprendre, en remplaçant des heures de dispersions sur des moteurs de recherches, reddit, ou wikipédia. Comme tout outil, il dépend de ce qu'on en fait.