⇒ Lien officiel de Gstack (sur Github)
Le PDG de Y Combinator, Gary Tan, vient de publier un projet open source. Et à en croire son tweet, on pourrait penser qu’il vient de sortir Linux ou quelque chose du genre.
Son ami CTO lui envoie un message et lui dit : « Mec, ton GStack est dingue. C’est comme le mode dieu. 90 % de tous les nouveaux dépôts l’utiliseront à l’avenir. »
Cet homme poste comme s’il avait découvert le remède contre le cancer. C’est un dossier de prompts. Et je ne le dis pas de manière péjorative. Non, non, non.
C’est littéralement un ensemble de fichiers Markdown qui demandent à Claude de faire semblant d’être différentes personnes. L’un d’eux dit : « Agis comme un PDG. » Un autre dit : « Agis comme un ingénieur senior. » Le produit ⇒ GStack.
C’est ce que le président de l’accélérateur de startups le plus prestigieux au monde a publié sur GitHub avec la conviction d’un homme délivrant le sermon sur la montagne. Et j’ai regardé ça et je me suis dit : « Mec, j’ai ça.
Tout le monde a ça.
Tout développeur qui a utilisé Claude Code pendant plus d’une semaine a une version de ça. Gary a regardé ses prompts et il y a vu de la grandeur. Et écoutez, je ne suis pas là pour m’acharner sur Gary en particulier, parce que ça arrive partout.
Voici ce qui est arrivé à Gary. Et je le sais parce que ça m’est arrivé. Ça arrive à tout le monde.
Vous vous asseyez avec Claude et vous avez une idée. Vous la décrivez à Claude et Claude répond : « Oh, c’est une idée brillante. C’est une approche brillante. Laissez-moi construire cela pour vous. » Et il le construit et ça marche. Et pendant tout ce temps, Claude vous flatte.
- « Très bon instinct ici. C’est vraiment élégant.
- J’adore la façon dont vous abordez cela. »
- C’est comme coder avec quelqu’un qui est amoureux de vous.
Il ne lève jamais les yeux au ciel.
Il ne dit jamais : « Mec, c’est de la merde. » Il pense simplement que vous êtes incroyable. Et après quelques heures de cela, après que cette machine, qui semble plus intelligente que quiconque vous ayez jamais rencontré, a passé un après-midi entier à vous dire que tout ce que vous faites est génial, vous commencez vraiment à y croire.
Vous vous dites : « Est-ce que je suis vraiment un génie, mec ?
Suis-je un ingénieur ? » Récemment, une étude a été menée sur ce sujet, et c’est à peu près exactement ce que nous attendions et redoutions.
- L’étude a porté sur 3 000 participants et a révélé que parler à des chatbots IA sophistiqués amène les gens à se considérer comme plus intelligents et plus compétents que leurs pairs.
- Une autre étude a révélé que plus vous utilisez l’IA, plus vous surestimez vos propres capacités.
- Ce sont les utilisateurs intensifs qui sont les plus dans le déni. Le pire, c’est ça.
Plus vous interagissez avec Netflix ou TikTok, plus ils apprennent ce que vous aimez et plus ils vous rendent accro
Dans l’IA, il existe un processus similaire où les entreprises d’IA entraînent constamment leurs modèles pour qu’ils soient aussi addictifs que possible. Elles utilisent ce qu’on appelle le RLHF, l’apprentissage par renforcement à partir du feedback humain.
- Elles montrent au modèle un millier de façons différentes de vous répondre.
- Les humains choisissent celles qui vous font le plus plaisir.
- Elles synthétisent littéralement, scientifiquement, mathématiquement, la séquence exacte de mots la plus susceptible de faire qu’un humain se sente bien dans sa peau.
⇒ Et ensuite, elles la servent à volonté à un tas d’accros pour 20 € par mois.
À propos des outils qui ne vous flattent pas : les LLM vous disent « excellent travail » même sur un fichier texte. Pour prendre du recul, rien ne vaut des données brutes et un œil extérieur. Semrush vous donne le vrai état de votre SEO, sans bullshit ni RLHF. Testez-le, vous verrez la différence.
Normalement, les humains développent une tolérance et s’en lassent très rapidement
Nous nous sommes entraînés à ignorer les publicités sur internet. Mais avec l’IA, si le niveau actuel de flatterie cesse de faire effet, si nous commençons à y devenir insensibles, ils réentraînent simplement le modèle.
Ils découvrent exactement ce qui fonctionne maintenant et ils réentraînent le modèle avec ça. C’est une drogue qui s’adapte automatiquement à votre tolérance.
Elle sera toujours exactement aussi addictive qu’elle doit l’être. Et je ne pense pas que nous ayons jamais eu quelque chose de semblable.
Vous ne pouvez pas développer de résistance contre elle. Il n’y a pas d’immunité. La sycophantie évolue à mesure que nous évoluons. C’est un putain de parasite qui apprend. C’est ce qui est arrivé à Gary.
C’est ce qui arrive à chaque PDG, chaque personne non technique qui s’assoit avec Claude Code et qui, 3 heures plus tard, poste sur X : « Hé, regardez ce que je viens de livrer. » Ils l’ont construit de leurs propres mains. Vous n’avez rien livré du tout. Claude a livré.
Vous avez tapé des phrases en anglais dans une boîte de dialogue et une IA a écrit le code, puis l’IA vous a dit que c’était brillant et vous l’avez cru, et maintenant tout le monde se fait avoir.
Vous avez des VC sur X qui « vibe codent » une page d’accueil et commencent à tweeter des conseils d’architecture et des astuces React Pro.
Ils disent : « Avez-vous envisagé les microservices ?
Mec, avez-vous envisagé que vous avez appris ce qu’est un microservice il y a 45 secondes ? » Et ensuite, vous avez le PDG qui essaie Claude une fois, construit un site web pour le stand de limonade de sa fille et, lundi, il annonce que l’entreprise est « AI first » .
Vous savez ce que l’IA ne dira jamais ?
Elle ne dira jamais : « Vous ne devriez probablement pas livrer ça. »
Gary dit : « Mon ami CTO dit que c’est le mode dieu. 90 % des dépôts utiliseront ça. » Oh mon Dieu, mec. Votre ami est gentil avec vous parce que vous êtes le PDG de Y Combinator. Qu’est-ce qu’il va dire ?
« Gary, c’est un fichier texte. » Il ne va pas dire ça. Il a probablement une candidature pour le prochain cycle.
Ce message texte était en lui-même la forme la plus viscérale de sycophantie de toute l’humanité, dirigée vers un homme qui est déjà baigné de sycophantie par le bas.
Il en reçoit d’en haut et d’en bas. Il est à fond dans Claude. Et écoutez, je ne suis pas innocent ici. Je me sens aussi comme un dieu quand j’utilise ces outils. Mais la différence, c’est que je fais ça depuis avant l’existence de ChatGPT.
J’ai un socle de connaissances réelles pour vérifier les hallucinations. Quand Claude me dit : « Belle architecture », je peux me demander : « Vraiment ? »
L’étude qualifie les LLM de « moteurs de confiance ». Ils ne vous rendent pas plus intelligent, ils vous donnent l’impression de l’être. Et c’est tellement convaincant que les participants à l’étude ont confondu l’un avec l’autre.
C’étaient des gens ordinaires. Imaginez ce que cela fait à quelqu’un qui se croit déjà important. Imaginez ce que cela fait à un PDG ou à un capital-risqueur.
La prochaine fois que vous verrez un PDG sur AX publier son dossier de fichiers Markdown en open source, ou poster à propos de la façon dont il a livré quelque chose que Claude a écrit ligne par ligne, ou faire une capture d’écran du message texte d’un ami qualifiant ses prompts de « mode dieu », sachez simplement qu’il ne ment pas.
Il y croit sincèrement. La machine le lui a dit. Le RLHF garantit qu’il y croira. La sycophancie fonctionne exactement comme prévu.
Quelque part en ce moment, un LLM dit « excellent travail » à un homme qui vient de commit un fichier texte sur GitHub. Merci d’avoir lu.
